英伟达 Mistral AI 联袂出击！120 亿小模型王者强势登场，碾压 Llama 3 单张 4090 可跑

图片地址：https://img.ithome.com/newsuploadfiles/2024/7/f69acaac-42d4-49b0-8c47-9aa7e83e3e68.png

GPT-4o mini 头把交椅还未坐热，Mistral AI 联手英伟达发布 12B 参数小模型 Mistral Nemo，性能赶超 Gemma 2 9B 和 Llama 3 8B。小模型，成为本周的 AI 爆点。先是 HuggingFace 推出了小模型 SmoLLM；OpenAI 直接杀入小模型战场，发布了 GPT-4o mini。GPT-4o mini 发布同天，欧洲最强 AI 初创公司 Mistral 立马发布旗下最新最强小模型 ——Mistral NeMo。Mistral NeMo 由 Mistral AI 和英伟达联手打造，有 12B 参数，支持 128K 上下文。从整体性能上来看，Mistral NeMo 在多项基准测试中，击败了 Gemma 2 9B 和 Llama 3 8B。看到各大巨头和独角兽都和小模型杠上了，吃瓜群众纷纷鼓掌。HuggingFace 创始人表示，本周巨头小模型三连发，「小模型周」来了！卷！