OpenAI 成立“防备”预警团队：董事会有权阻止新 AI 模型发布

图片地址：https://img.ithome.com/newsuploadfiles/2023/12/befb7cd6-50dc-4a65-be1b-8b62e30e8686.jpg?x-bce-process=image/format,f_auto

IT之家 12 月 19 日消息，开发了 ChatGPT 的 OpenAI 公司日前宣布成立新的“防备（Preparedness）”团队，旨在监控旗下技术可能带来的潜在威胁，防止其落入坏人之手，甚至被用于制造化学和生物武器。该团队由麻省理工学院人工智能教授亚历山大・马德里 (Aleksander Madry) 领导，将招募人工智能研究人员、计算机科学家、国家安全专家和政策专家等，对 OpenAI 开发的技术进行持续监测和测试，一旦发现任何危险苗头，及时向公司发出警告。OpenAI 周一发布了名为“防备框架”（Preparedness Framework）的指导方针，并强调这套指南仍处于测试阶段。据悉，防备团队每月将向一个新的内部安全咨询小组发送报告，该小组随后将对其进行分析，并向 OpenAI 首席执行官萨姆・阿尔特曼和董事会提交建议。阿尔特曼和公司高层可以根据这些报告决定是否发布新的 AI 系统，但董事会有权撤销这一决定。防备