百度智能云千帆大模型 2.0 升级发布：四大方面改进，号称“一天可跑通效果验证”

IT之家 9 月 5 日消息，在今日举办的 2023 百度云智大会上，百度智能云宣布千帆大模型平台 2.0 全面升级发布。据百度云官方介绍，千帆大模型平台 2.0 升级带来了多项改进：在工具链方面，大模型开发、训练、部署、应用开发各个环节是紧密结合的。据介绍，千帆整套的工具链可以无缝衔接全生命周期的各个业务流程，最大化提升效率。以前，技术团队一个月才能调试、跑通看到大模型的效果，在千帆一站式工具链平台，当天就可以实现。在算力效能方面，千帆底层是一套集合了异构算力集群、高速互联的网络、高性能存储，能够支撑万卡规模训练的 AI 算力基础设施，可将大模型训练、推理的成本降到最低。在数据方面，千帆不仅纳管大模型，还可增强大模型的能力。本次全新升级中文增强，可大幅提升大模型中文理解和生成能力，例如 LIama2 的国外大模型，也可实现中文对话好的效果。同时还全面提升训练和推理性能，训练 LlaMA 2 的总体吞吐可以提升 1/4，推理甚至