微比恩 > 信息聚合 > 小米王斌:未来一定是大小模型共存,通用和专用共存的状态

小米王斌:未来一定是大小模型共存,通用和专用共存的状态

2023-09-20 14:41:28来源: IT之家

IT之家 9 月 20 日消息,在今年 8 月的 2023 小米雷军年度演讲上,小米 AI 大模型首次公布。相比其他公司的千亿万亿参数模型,小米 AI 大模型并没有专注于扩张超大参数,而是尝试将 13 亿参数的模型放到用户的手机本地运行。近日,小米集团 AI 实验室主任,自然语言处理(NLP)首席科学家王斌在接受声动活泼采访时透露了他们的考量,并表示未来一定是大小模型共存,通用和专用共存的状态。王斌称,与其他公司不同,小米拥有大量设备,目前这些设备的计算能力已经大幅提升,比如现在手机上搭载的芯片计算能力比以前提升很多。其次,小米是重端侧的公司,如果要大量调用云端算力,成本比较高。此外,用户隐私、用户使用手机时的网络情况等也是我们的考量因素。不过,大模型的参数量太小也会影响用户的使用体验,因此小米需要在模型规模与硬件门槛之间做好平衡。王斌表示:“我们相信除了通用能力,不同维度的小模型可能更适合某一项任务,所以最后可能是以

关注公众号
标签: 小米