清华、阿里、RealAI 发布首个公平、全面的 AI 对抗攻防基准平台

图片地址：https://img.ithome.com/newsuploadfiles/2021/6/c704c2d3-7735-4b2b-8784-76a992074b5c.png

6 月 3 日，清华大学联合阿里安全、RealAI 发布了首个公平、全面的 AI 攻防对抗基准平台，该评测基准基于清华大学在 2020 年 GitHub 开源的 ARES 算法库，平台致力于对 AI 防御和攻击算法进行自动化、科学评估。AI 模型究竟是否安全，攻击和防御能力几何？只需提交至该平台，就可见能力排行。▲ 图 | 中科院院士张钹（左二）、清华大学教授朱军（左三）、阿里巴巴安全部技术总监薛晖（右一）、RealAICEO 田天（左一）想象一下，如果街道上自动驾驶的汽车因 AI 视觉系统受到 AI 算法诱导攻击，而引发行驶轨迹发生改变；或者有人通过 AI 技术模仿出跟你熟悉的亲朋好友一模一样的声音，找你借钱；亦或是家里的 AI 智能设备遭遇黑客入侵；甚至物联网更加智能的未来社会，有人植入 AI 智能心脏辅助设备也遭遇攻击，引发宕机，这些后果将会怎样？清华大学计算机系教授、RealAI 首席科学家朱军就指出，尽管人工智能技术取