OPPO Find X7 系列手机首搭 70 亿参数 AndesGPT 端侧大模型，小布助手全新升级

图片地址：https://img.ithome.com/newsuploadfiles/2023/12/1fd2d586-0238-4daf-8ca6-c7e9527b166f.jpg?x-bce-process=image/format,f_auto

IT之家 12 月 27 日消息，在今日下午的 OPPO Find X7 系列产品技术沟通会上，OPPO 公布了安第斯大模型 AndesGPT 的全新升级。安第斯大模型将分成 1800 亿参数、700 亿参数、70 亿参数三种体量，支持端云协同部署，根据不同场景的用户需求实现智能调度。OPPO 表示，AndesGPT 大模型通过强大的知识、记忆和工具能力，为小布助手带来广阔的知识面，以及个性专属的智慧服务能力。通过独创的 SwappedAttention 技术，AndesGPT 还解决了长期记忆带来首字推理延迟的问题。IT之家从技术沟通会获悉，通过 4bit 量化的模型压缩，OPPO 的 Al Boost 推理引擎优化，以及与芯片厂家联合深度优化等多项举措，OPPO 在 Find X7 系列上首次实际端侧应用 70 亿参数的大模型。据介绍，在 AndesGPT 大模型 70 亿参数大语言支持下，OPPO 端侧具备超快的首字响应速