微比恩 > 信息聚合 > 端侧大模型成焦点,智能手机进入AI“芯战”时代 | 2023·大复盘

端侧大模型成焦点,智能手机进入AI“芯战”时代 | 2023·大复盘

2023-11-30 10:02:55来源: 钛媒体

当“生成式人工智能”成为行业热词,在关注各类新兴应用的同时,作为提供应用底层支撑的“算力”也开始成为关注的焦点之一。对于传统的高算力终端而言,通过增加额外的GPU硬件即可填补大模型训练与AI生成所需的“算力鸿沟”,但像移动智能终端,受限于集成度、功耗限制等方面,想要摆脱联网需求,实现端侧部署生成式人工智能则具备更高的难度。旗舰芯片AI领域率先发力,中端布局路径产生差异近两个月,联发科与高通先后发布了新一代旗舰级SoC芯片,两者不约而同地提到了端侧部署AI能力的提升。以联发科为例,此前发布的天玑9300芯片内部集成联发科第七代AI处理器APU 790,为生成式AI而设计,整数运算和浮点运算的性能是前一代的2倍,功耗降低了45%。APU 790内置了硬件级的生成式AI引擎,可实现更加高速且安全的边缘AI计算,深度适配Transformer模型进行子加速。根据官方

关注公众号