大模型跑在手机上还有多远？

图片地址：https://images.tmtpost.com/uploads/images/2023/09/a9046a10409593cabe278623321b4f96_1694774381.jpeg

图片来源@视觉中国文 | 光锥智能，作者 | 郝鑫，编辑 | 刘雨琦、王一粟AI 的应用一直以来都有两个极端： 一类是在数据中心，用最强的算力跑最复杂的模型；一类是在智能终端，用最小的模型实现最普适的应用。 除了追求大算力带来的智能涌现，如何把 AI 模型压缩，运用到各种智能终端上，也是工业界不断追求的“极限挑战”。 在 AI 的各种世界顶会中，有一类顶会比赛的项目，就是如何将 AI 高性能又高效地使用到终端。 ICCV 2023 是 AI 计算机视觉领域的三大顶会之一，每两年举办一届，代表了人类在计算机视觉领域的最先进技术，堪称“地表最强”。 8月底，走出“技术自嗨”，带着一身“硬本事”，首次参加CV建模推理和训练赛的支付宝xNN团队，分别拿下2项赛事的3个冠亚军。其中&l