当大模型从技术走向应用，MoE架构成“新宠”

图片地址：https://images.tmtpost.com/uploads/images/2024/06/20240603170953833.png

AI大模型带来的浪潮已经席卷全球，时至今日几乎所有的科技企业都在AI大模型方面有所布局。随着这一轮AI技术的快速发展，我们不难看出，AI已经从“卷”技术走向“卷”应用的阶段，如果说2023年是生成式AI元年的话，那么2024年必将是生成式AI企业侧应用落地的元年。大模型从卷参数走向性价比回看2023年，各大厂商争先恐后的发布各自大模型产品，而当产品发布后，几乎所有人关注的焦点都在参数有多大上。彼时，人们似乎不约而同都在以参数的大小衡量大模型产品的好坏。生成式AI“鼻祖”发布的GPT-3.5据报道可达1750亿个参数，而后续推出的GPT-4虽然未知参数，但显然要比GPT-3.5更高；中国移动发布的“九天智能基座”大模型也拥有千亿级别参数；通义千问最新开源的模型达到1100亿参数； Google AI 发布了 Pathways