王小川旗下百川智能发布 Baichuan-13B AI 大模型，号称“130 亿参数开源可商用”

图片地址：https://img.ithome.com/newsuploadfiles/2023/7/a7623b84-5328-4e57-84de-570f81490c6f.png?x-bce-process=image/format,f_auto

IT之家 7 月 11 日消息，王小川旗下百川智能今日发布 Baichuan-13B 大模型，号称“130 亿参数开源可商用”。▲ 图源 Baichuang-13B GitHub 页面据官方介绍，Baichuan-13B 是由百川智能继 Baichuan-7B 之后开发的包含 130 亿参数的开源可商用的大规模语言模型，在中英文 Benchmark 上均取得同尺寸模型中最好的效果。本次发布包含有预训练 （Baichuan-13B-Base） 和对齐 （Baichuan-13B-Chat) 两个版本。▲ 图源 Baichuang-13B GitHub 页面官方宣称，Baichuan-13B 有如下几个特点：更大尺寸、更多数据：Baichuan-13B 在 Baichuan-7B 的基础上进一步扩大参数量到 130 亿，并且在高质量的语料上训练了 1.4 万亿 tokens，超过 LLaMA-13B40%，是当前开源 13B 尺寸下