微比恩 > 信息聚合 > 最前线|「无问芯穹」发布千卡规模异构芯片混训平台,筑基面向MxN生态格局的AI Native基础设施

最前线|「无问芯穹」发布千卡规模异构芯片混训平台,筑基面向MxN生态格局的AI Native基础设施

2024-07-05 08:00:00来源: 36氪

作者丨敏潇编辑丨邱晓芬7月4日,在2024年世界人工智能大会AI基础设施论坛上,「无问芯穹」联合创始人兼CEO夏立雪发布了大规模模型的异构分布式混合训练系统——千卡异构混合训练集群算力利用率最高达到了97.6%。 在论坛中,夏立雪指出,「无问芯穹」Infini-AI云平台已集成大模型异构千卡混训能力,是全球首个可进行单任务千卡规模异构芯片混合训练的平台。该平台具备万卡扩展性,支持包括AMD、华为昇腾、天数智芯、沐曦、摩尔线程、NVIDIA六种异构芯片在内的大模型混合训练。7月起,通过试训申请的用户,能够在Infini-AI上一键发起700亿参数规模的大模型训练。t图片来源:「无问芯穹」今年3月,「无问芯穹」Infini-AI大模型开发与服务云平台首次进行公开测试。在此之前,智谱AI、月之暗面、生数科技等B端客户已能在Infini-AI上稳定使用异构算力。同时,20余家AI Native应用创业公司也在模型中持续调用各种

关注公众号
标签: AI 芯片