OpenAI 闹剧中被忽略的一部分——AI对齐

图片地址：https://images.tmtpost.com/uploads/images/2023/11/d1ae7bf1d328707988c649240c4168da_1700740310.jpeg

图片来源@视觉中国文 | 电厂，作者 | 肖余林，编辑 | 高宇雷OpenAI公司与它的大模型产品ChatGPT最大的共同点是什么？人们知道它们每天发生了什么，但是不知道是如何发生的。我们使用 AI 大模型，惊喜于它给出的每一个回复，但还没有谁弄清楚 AI 的智能是如何起作用的。为了确保大模型能够按照人类的意愿工作， 几乎每个大模型产品内部都会被注入一段算法，这段算法保证 AI 工作与人类意愿对齐。不同的力量都在试图对齐这家公司，Ilya Sutskever 成为「执剑者」，Sam Altman 给出了反击，双方的两种立场让这家 AI 大模型公司内部的分歧浮出水面。这种分歧会体现在理念、公司方向、利益和资源分配，以及产品的市场表现等方面。把目光聚焦在分歧之上，对于大模型创业公司来说更有意义。技术追求和商业扩张主导着商业体成长，OpenAI 和大多数商业公司一样，长期以来保持着两股力量的微妙平衡，直到 11 月 17 日，天平发生