IT之家 9 月 27 日消息,DeepMind 研究人员日前评估大型语言模型(LLM)的压缩能力时,发现这些模型的“压缩能力”相当惊人,除了常规文字资料外,还可以压缩图像音频,相关内容已经发布在 ArXiv 上。据悉,DeepMind 在研究中,使用了一个名为“Chinchilla 70B”的模型,虽然这个模型主要使用文字训练,但是研究人员发现该模型也可用于压缩 ImageNet 图片,可将文件压缩至原始大小的 43.3%,甚至可将 LibriSpeech 语音样本压缩至原始的 16.4%。DeepMind 的研究证明,模型的“预测”能力和“压缩”能力之间存在“等价性”,因此研究人员可以使用任何压缩算法,建立一个更加强大的条件生成模型。IT之家注:“压缩”本质上就一种编码的过程,目标是要以更少的内容表示更多的资料,因此当模型达到一定的预测能力时,其实也就代表模型学会了一种编码的方式,这种编码方式能够用来压缩文件,因为模型已经理
DeepMind:大型语言模型可实现“高效无损压缩音频影像”,有望运用于相关软件中
2023-09-27 21:38:05来源: IT之家
关注公众号
赞
你的鼓励是对作者的最大支持
- 小米更新终止软件支持产品列表:增加 MIX 4、Pad 5 Pro、Redmi K40 等机型2024-08-28 09:15:16
- 数睿数据参加《系统与软件工程 低代码开发平台通用技术要求》国家标准编制2024-08-27 17:44:00
- 软通动力受邀出席一带一路软件博览会(香港),扎实推进国际化战略2024-08-26 13:37:00
- Transit Technologies通过收购Bytecurve进入K-12软件市场2024-08-22 22:37:00
- 上海市消保委:厂商不能用权限对其他渠道软件进行不合理限制,消费者有知情权2024-08-22 23:03:33
- 撷发科技"AI软件平台解决方案"获文晔科技采用,助联发科工业物联网AI边缘装置2024-08-21 14:51:00
- 丰田、日立等 116 家企业将统一车载软件管理规则,保护汽车免受网络攻击2024-08-21 15:53:57
- 金山软件:第二季度收益24.74亿元,母公司拥有人应占溢利3.93亿元2024-08-20 17:50:04
- 通用汽车解雇超 1000 名软件和服务部门员工2024-08-20 07:05:15
- 勒索软件 2024 上半年敛财 4.6 亿美元,创历史新高2024-08-20 07:48:10