腾讯发布新一代超强算力集群：面向大模型训练，性能提升 3 倍

图片地址：https://img.ithome.com/newsuploadfiles/2023/4/d4dfd778-04d1-44dd-83f0-371758587e47.jpg?x-bce-process=image/format,f_auto

IT之家 4 月 14 日消息，IT之家从腾讯官方获悉，腾讯云发布了新一代 HCC 高性能计算集群，采用最新一代星星海自研服务器，搭载英伟达 H800 Tensor Core GPU。腾讯官方称，该集群基于自研网络、存储架构，带来 3.2T 超高互联带宽、TB 级吞吐能力和千万级 IOPS。实测结果显示，新一代集群算力性能较前代提升 3 倍。去年 10 月，腾讯完成首个万亿参数的 AI 大模型 —— 混元 NLP 大模型训练。在同等数据集下，将训练时间由 50 天缩短到 11 天。如果基于新一代集群，训练时间将进一步缩短至 4 天。计算层面，服务器单机性能是集群算力的基础，腾讯云新一代集群的单 GPU 卡在不同精度下，支持输出最高 1979 TFlops 的算力。针对大模型场景，星星海自研服务器采用 6U 超高密度设计，相较行业可支持的上架密度提高 30%；利用并行计算理念，通过 CPU 和 GPU 节点的一体化设计，将单点算力