OpenAI 组建新团队，以解决控制超智能 AI 的核心技术挑战

图片地址：https://img.ithome.com/newsuploadfiles/2023/7/0d1a2fa2-84ac-4f0a-85d0-008291b9def1.png?x-bce-process=image/format,f_auto

IT之家 7 月 7 日消息，OpenAI 宣布正在组建一个新团队，由其联合创始人兼首席科学家 Ilya Sutskever 和 Alignment 负责人 Jan Leike 共同领导，以寻找引导和控制下一代“超智能人工智能系统”的方法。▲ 图源 OpenAI据悉，该团队目前具备最高优先级，有权使用公司 20% 的计算资源，目标是在未来四年内解决“控制超智能 AI”的核心技术挑战。团队声称，他们需要时间来进行“科学和技术”方面的突破，以引导和控制比人类聪明得多的 AI 系统。研究者 Sutskever 和 Leike 认为，“下一代超智能 AI”可能将在十年内诞生，这将是人类迄今为止发明的最具影响力的技术，可以帮助人类解决许多原先需要大量人力资源才能解决的问题。但研究者同时认为，该技术也有反噬人类的可能，其巨大的力量可能导致人类丧失主权甚至灭绝。团队表示，在“确保比人类更聪明的 AI 系统遵循人类的意图”方面，他们当下还没有一