OpenAI 又一吹哨人离职！拉响安全警报，风险隐患实在太大

图片地址：https://img.ithome.com/newsuploadfiles/2024/5/bd9472db-9622-42f5-9823-911356d569f3.png?x-bce-process=image/format,f_auto

OpenAI 离职潮中，又一研究员官宣离职，并且还发出了“警告”信息：Ilya 和 Jan Leike 的担忧正是我的担忧，还有一些额外的问题。我们需要做更多事来改进决策流程等基础性的事务，包括问责制、透明度、文档、策略执行、如何谨慎使用技术，以及减轻不平等、权利和环境影响的措施。主人公名叫 Gretchen Krueger（简称格姐），是 OpenAI 的 AI 策略研究员。她在 2019 年加入 OpenAI，参与过 GPT-4 和 DALL・E 2 的开发工作，还在 2020 年领导了 OpenAI 第一个全公司范围的“红队”测试。此番出走，除了提到 OpenAI 的决策透明度问题，她还隐约暗示：一般来说，科技公司剥夺那些寻求追究其责任的人的权力的方法之一，就是在那些提出担忧或挑战其权力的人之间制造分裂。我非常关心防止这种情况发生。算上 Ilya 和 Jan Leike，格姐已经是这个月第 3 位从 OpenAI 离开的安