英特尔面向中国市场推出全新 Gaudi2 处理器：总内存带宽 2.4TB / s、用于训练 AI

图片地址：https://img.ithome.com/newsuploadfiles/2023/7/71efc7e7-e6ac-43ed-b403-accd44602d96.jpg?x-bce-process=image/watermark,image_aW1nL3dhdGVybWFyay9xYy9xYzIyMi5wbmc=,t_100,g_7,y_22,x_22,a_0/format,f_auto

IT之家 7 月 11 日消息，英特尔今日面向中国市场推出全新 Gaudi2 处理器，主要应用于加速 AI 训练及推理。IT之家汇总该款处理器参数信息：24 个可编程 Tensor 处理器核心（TPCs）21 个 100Gbps（RoCEv2）以太网接口96GB HBM2E 内存容量2.4TB / 秒的总内存带宽48MB 片上 SRAM集成多媒体处理引擎英特尔 Gaudi2 处理器的架构重点在于高效扩展，以满足大规模语言模型及生成式 AI 模型的需求；该处理器的每张芯片集成了 21 个专用于内部互联的 100Gbps 以太网接口。在 Stable Diffusion 训练上，英特尔 Gaudi2 处理器展示了从 1 张卡至 64 张卡近线性 99% 的扩展性，从 256 个加速器到 384 个加速器可实现接近线性的 95% 扩展效果。英特尔与浪潮信息合作的 AI 服务器 NF5698G7 就是基于 Gaudi2 处理器，NF56