Mac 专属大模型框架来了：两行代码部署，能聊本地数据还支持中文

图片地址：https://img.ithome.com/newsuploadfiles/2024/3/536681c4-3111-437b-950a-58e686dd84bd.png?x-bce-process=image/format,f_auto

Mac 用户，终于不用羡慕 N 卡玩家有专属大模型 Chat with RTX 了！大神推出的新框架，让苹果电脑也跑起了本地大模型，而且只要两行代码就能完成部署。仿照 Chat with RTX，框架的名字就叫 Chat with MLX（MLX 是苹果机器学习框架），由一名 OpenAI 前员工打造。黄院士的框架里有的功能，例如本地文档总结、YouTube 视频分析，Chat with MLX 里也都有。而且包括中文在内共有 11 种可用语言，自带支持的开源大模型多达七种。体验过的用户表示，虽然计算量负担对苹果设备可能大了点，但是新手也很容易上手，Chat with MLX 真的是个好东西。那么，Chat with MLX 的实际效果究竟怎么样呢？用 MacBook 部署本地大模型Chat with MLX 已经集成到了 pip 命令中，所以在有 pip 的条件下，只需要一行代码就能完成安装：pip install chat-