碾压 H100！英伟达 GH200 超级芯片首秀 MLPerf v3.1，性能跃升 17%

图片地址：https://img.ithome.com/newsuploadfiles/2023/9/ad33de71-8f80-414f-aedc-f21682236d83.png?x-bce-process=image/format,f_auto

【新智元导读】传说中的英伟达 GH200 在 MLPerf 3.1 中惊艳亮相，性能直接碾压 H100，领先了 17%。继 4 月份加入 LLM 训练测试后，MLPerf 再次迎来重磅更新！刚刚，MLCommons 发布了 MLPerf v3.1 版本更新，并加入了两个全新基准：LLM 推理测试 MLPerf Inference v3.1，以及存储性能测试 MLPerf Storage v0.5。而这，这也是英伟达 GH200 测试成绩的首次亮相！相比于单张 H100 配合英特尔 CPU，GH200 的 Grace CPU+H100 GPU 的组合，在各个项目上都有 15% 左右的提升。英伟达 GH200 超级芯片首秀毫无疑问，英伟达的 GPU 在 MLPerf Inference 3.1 基准测试中表现是最亮眼的。其中，最新发布的 GH200 Grace Hopper 超级芯片，也是首次在 MLPerf Inference 3