IT之家 7 月 25 日消息,近来诸多国产大模型异军突起,助力相关行业产业发展。北京知未智能科技有限公司日前在上海发布了知未智能 KDF 大模型 ,以及基于该模型研发的一系列产品,包括“ KDF 智讯”、“KDF 绝未”、“KDF 中书”等金融行业工具。IT之家经过查询得知,知未智能 KDF 大模型的训练数据以中文为主,并包含大量的金融数据,以提升模型在商业和金融领域的问题处理能力。此外,训练数据中还融合了部分英文与代码数据,以适应模型的通用能力。在训练过程中,知未智能 KDF 大模型将单个汉字视为独立的 Token 进行处理。模型参数量达 1400 亿,训练 Token 数达到 4000 亿。从代码量角度看,数据处理部分约 5000 行,模型实验部分约 2000 行,模型训练部分约 500 行。在具体训练过程中,知未智能 KDF 大模型采用了基于 PyTorch 优化的 GELU 非线性激活函数。GELU 作为非线性激活函数
国产 1400 亿参数知未智能 KDF 大模型发布,聚焦金融和商业垂直领域
2023-07-25 09:50:32来源: IT之家
关注公众号
赞
你的鼓励是对作者的最大支持
- 开辟大模型更多应用场景 浪潮云洲"知业大模型"加速赋能千行百业2024-09-30 15:16:00
- 企业大模型应用开发提速 浪潮信息发布元脑企智EPAI一体机2024-09-29 21:23:00
- 软通动力出席百度云智大会,分享行业大模型的思考与实践2024-09-27 15:44:00
- 陈睿:B站已上线自研大模型 index 并应用于 AI 字幕,具备近 10 种语言实时翻译能力2024-09-26 21:59:45
- 软通动力开源驱动AI大模型与软硬一体创新发展分论坛圆满落幕2024-09-26 17:45:00
- 百度全面升级百舸 AI 异构计算平台 4.0、千帆大模型平台 3.02024-09-25 17:48:57
- 前百度研究院副院长新项目:给手机、PC做可用的大模型基础设施,前微软高管加入 | 智涌独家2024-09-24 15:55:40
- 阿里云智能集团首席技术官周靖人:大模型降价背后是效率的提升2024-09-24 08:30:15
- 华知大模型5.0发布2024-09-22 14:03:04
- 华知大模型 5.0 发布:同方知网与华为云打造,7B~135B 尺寸2024-09-22 11:11:24