担忧 AI 向人类扔核弹，OpenAI 是认真的

图片地址：https://images.tmtpost.com/uploads/images/2023/10/f70e3244d10f1d7fa1d320741d8adef3_1698658008.jpeg

图片来源@视觉中国文 | 极客公园GeekPark，作者 | 连冉，编辑 | 郑玄即将上映的好莱坞科幻电影《AI 创始者》中，一个原本为人类服务的人工智能在洛杉矶引爆了核弹。比电影更加科幻的是，现实中，AI 公司们已经开始担忧起这样的场景真的出现在现实世界。近日，OpenAI 表示出于对 AI 系统安全性的考虑，公司正在成立专门团队应对前沿 AI 可能面临的「灾难性风险」，其中包括核威胁。事实上，其 CEO Sam Altman 一直担忧 AI 可能对人类构成「灭绝性」威胁，此前曾在包括美国国会咨询的多个场合下呼吁加强 AI 类的监管。不过，包括 Meta 科学家 Yann LeCun 在内的一批科学家则对 AI 监管持不同观点，后者认为当前 AI 能力仍然有限，过早监管不仅只会让大公司受益，也会扼杀创新。这突显了业内对前沿 AI 监管仍存在分歧。监管过早可能会制约技术