中国GPU芯片公司摩尔线程发布大模型智算加速卡，并落地首个全国产千卡智算中心｜硅基世界

图片地址：https://images.tmtpost.com/uploads/images/2023/12/33f4a36abdc2cb5411f77efb57ccd74e_1702998845.jpeg

大模型智算加速卡MTT S4000（图片来源：摩尔线程）在被美国列入“实体清单”下，摩尔线程成功构建中国首个全国产千卡千亿模型训练的智算中心平台。钛媒体App获悉，12月19日下午，国内GPU（图形处理器）芯片设计公司摩尔线程在北京发布其首款大模型智算加速卡MTT S4000，以及专为千亿参数大模型训练和推理提供强大支持的摩尔线程KUAE平台。其中，摩尔线程首款大模型智算加速卡MTT S4000，采用第三代MUSA内核，单卡支持48GB显存和768GB/s的显存带宽，片间互联为240GB/s，TF32精度下算力为50TFLOPS，FP16/BF16精度下算力达100TFLOPS，INT8精度下达到200 TOPS，而且拥有自研MUSIFY开发工具以及MUSA平台等软件栈。摩尔线程的KUAE智算中心支持千亿参数模型的预训练、微调和推理，主要是70B到130B参数的大模型训练，线性加速比均可达到91%，算力利