微比恩 > 信息聚合 > 中国大模型语料数据联盟开源发布高质量多模态语料“书生·万卷”

中国大模型语料数据联盟开源发布高质量多模态语料“书生·万卷”

2023-08-14 20:14:03来源: 36氪

上海人工智能实验室(上海AI实验室)8月14日宣布,联合语料数据联盟成员单位,共同开源发布“书生·万卷”1.0多模态预训练语料。据介绍,“书生·万卷”1.0目前包含文本数据集、图文数据集、视频数据集三部分,本次开源的数据总量超过2TB。该语料数据包含超过5亿个文本,2200万个图文交错文档,1000个节目影像视频。(上证报)

关注公众号
标签: 大模型 开源