微比恩 > 信息聚合 > 深度 | 一文看懂Gen AI浪潮下数据中心的新机遇

深度 | 一文看懂Gen AI浪潮下数据中心的新机遇

2024-10-16 10:23:00来源: 钛媒体

文 | AlphaEngineer,作者 | 费斌杰 北京市青联委员 熵简科技CEO随着生成式AI出现突破性进展,数据中心行业目前正在经历史无前例的跨越式发展,在未来经济增长和国家安全中有着举足轻重的地位。Nvidia 的 GB200 系列需要直接对芯片进行液冷,机架功率密度高达 130kW。在性能上,GB200 相比 H100 推理性能提升了约 9 倍,训练性能提升约 3 倍。因此,那些无法提供更高功率密度的数据中心将错失为其客户提供巨大的性能 TCO 改进的市场机遇,并将在生成式 AI 军备竞赛中落后。AI需求的驱动促使数据中心设计向适应高功率密度转变。例如,Meta拆除了一整栋在建建筑,因为这是他们多年来一直使用的低功率密度的旧数据中心设计。相反,他们用全新的 AI-Ready 设计取而代之。变化之下往往潜藏着机遇。昨日SemiAnalysis发布了一篇深度报告,深入探讨了

关注公众号