人手一个 ChatGPT，微软 DeepSpeed Chat 震撼发布，一键 RLHF 训练千亿级大模型

图片地址：https://img.ithome.com/newsuploadfiles/2023/4/ca99f4d3-0df3-4ee4-b267-f778f8806132.png?x-bce-process=image/format,f_auto

微软开源的 DeepSpeed Chat，让开发者实现了人手一个 ChatGPT 的梦想！人手一个 ChatGPT 的梦想，就要实现了？刚刚，微软开源了一个可以在模型训练中加入完整 RLHF 流程的系统框架 ——DeepSpeed Chat。也就是说，各种规模的高质量类 ChatGPT 模型，现在都唾手可得了！项目地址：https://github.com/ microsoft / DeepSpeed一键解锁千亿级 ChatGPT，轻松省钱 15 倍众所周知，由于 OpenAI 太不 Open，开源社区为了让更多人能用上类 ChatGPT 模型，相继推出了 LLaMa、Alpaca、Vicuna、Databricks-Dolly 等模型。但由于缺乏一个支持端到端的 RLHF 规模化系统，目前类 ChatGPT 模型的训练仍然十分困难。而 DeepSpeed Chat 的出现，正好补全了这个「bug」。更亮的是，DeepSpeed