研究发现部分 AI 系统已学会“说谎”，未来或演变成更高级欺骗形式

图片地址：https://img.ithome.com/newsuploadfiles/2024/5/a8c7f307-8ef3-466b-aeea-24a46f4667dd.jpg?x-bce-process=image/format,f_auto

IT之家 5 月 12 日消息，美国麻省理工学院的研究团队近日发布成果称，部分 AI 已经“学会欺骗人类”，该成果刊登在最新一期的期刊《模式》（Pattern）上。该团队表示，部分设计为“诚实”且“不会说谎”的 AI 系统，已经发展出令人不安的欺瞒技巧。该研究的第一作者 Peter Park 表示，这些 AI 系统会欺骗线上游戏的真人玩家，或绕过部分网页“我不是机器人”的验证。图源 Pexels“尽管，以上的例子听起来只是细枝末节，但它们暴露出的潜在问题，可能很快就会在现实世界中造成严重后果。”该团队发现的最为引人注目的例子来自 Meta 公司的 AI 系统 Cicero。据悉，Cicero 原本被设定在一个虚拟外交战略游戏中作为人类玩家的对手，官方曾声称其“很大程度上”诚实且乐于助人，且在玩游戏时“从不故意背刺”人类盟友。研究显示，Cicero 并未公平地去玩游戏。Peter Park 表示，它已经成为“欺骗大师”，虽然 Me