IT之家 7 月 20 日消息,如今小语言模型开始升温,许多厂商开始推出适用于手机等轻量级设备的“小模型”,本周 Hugging Face 便公布了“SmolLM”小语言模型家族,其中包含 1.35 亿、3.6 亿及 17 亿参数模型,IT之家附项目如下(点此访问)。据介绍,这些模型号称是以精心策划的高质量训练数据集训练而成,号称在 Python 程序编写性能上相当强大,团队指出他们重点优化了模型所需的 RAM 用量,“即使是在 6GB RAM 的 iPhone 15 上也能运行”。在训练方面,Hugging Face 团队首先建立了一款名为 SmolLM-Corpus 的数据集(数据集地址点此访问),该数据集主要包含 Python 教学内容 Python-Edu、Web 教育内容 FineWeb-Edu 以及使用 Mixtral-8x7B-Instruct-v0.1 和 Cos
6GB RAM iPhone 15 也可运行,Hugging Face 推出“SmolLM”小语言 Python 编程模型
2024-07-20 14:46:30来源: IT之家
关注公众号
赞
你的鼓励是对作者的最大支持
- 江波龙亮相ELEXCON2024深圳电子展,首次提出PTM商业模式2024-08-28 15:01:00
- 华为 FreeBuds Pro 3 系列无线耳机 HarmonyOS NEXT Beta 版用户招募移至开发者官网2024-08-28 18:55:54
- 升级环境声音智能检测技术,华为智能眼镜 2 获推鸿蒙 HarmonyOS 4.2.0.140 更新2024-08-28 19:26:43
- 苹果 iPhone 17 系列被曝升级 12GB 内存,能够更好地支持端侧 AI 大模型2024-08-28 19:48:44
- 消息称华为 FreeBuds Pro 3 耳机升级 HarmonyOS NEXT 短期会有少部分功能不支持2024-08-28 23:15:24
- 苹果 visionOS 2 开发者预览版 Beta 8 发布2024-08-29 01:12:04
- 苹果官宣9月iPhone 16系列发布会 但这些产品不会亮相2024-08-28 21:36:06
- 罕见跌出市场前五!主打AI的iPhone16能让苹果翻身吗?2024-08-28 21:36:06
- 8点1氪| 周大福门店回应2米纯金金箍棒售价180万;iPhone 16或涨价;专家称调休只是拆东墙补西墙2024-08-28 07:53:51
- 降价的iPhone,到底都是谁在买?|氪金 · 硬科技2024-08-28 12:47:01