微比恩 > 信息聚合 > 产业上下游齐发力LLM挺进端侧,大语言模型加速落地利好超自动化

产业上下游齐发力LLM挺进端侧,大语言模型加速落地利好超自动化

2023-09-01 21:00:00来源: 钛媒体

图片来源@视觉中国文 | 王吉伟LLM强势挺进端侧,AI大语言模型端侧部署如何影响超自动化?端侧部署对大语言模型落地有什么好处?对超自动化有什么影响?产业上下游齐发力LLM挺进端侧,大语言模型加速落地利好超自动化芯片、云服务、终端厂商齐发力,LLM决胜端侧,超自动化受益其中从谷歌推出Gecko到高通引入Llama 2,端侧部署成为LLM落地重要方向大语言模型端侧部署+LLM超自动化,“贾维斯”智能管家照进现实算力资源吃紧,成本居高不下,数据隐私泄露,用户体验不佳……以OpenAI为代表的大语言模型爆发后,多重因素影响之下本地化部署成为LLM落地的主流模式。LLM迫切需要部署在本地设备上,围绕LLM端侧部署的研究与探索空前高涨。5月份,Google推出了可以在旗舰手机上离线运行的PaLM2 轻量版Gecko。从这一刻起,能够在端侧运行的大语言模型成了厂商们的重要任务。毕竟LLM要

关注公众号