蚂蚁集团发布 AI 安全检测平台“蚁鉴 2.0”，用 AI 识别 AI 模型安全漏洞

图片地址：https://img.ithome.com/newsuploadfiles/2023/7/07630956-d63e-4056-8a3f-5d9c8c5c07bc.png?x-bce-process=image/format,f_auto

7 月 7 日下午消息，2023 世界人工智能大会期间，在“聚焦・大模型时代 AIGC 新浪潮 — 可信 AI”论坛上，蚂蚁集团联合清华大学发布 AI 安全检测平台“蚁鉴 2.0”。蚁鉴 2.0 可实现用生成式 AI 能力检测生成式 AI 模型，可识别数据安全、内容安全、科技伦理三大类的数百种风险，覆盖表格、文本、图像等多种数据和任务类型，是业内首个实现产业级应用的全数据类型 AI 安全检测平台。在该论坛上，蚂蚁集团同时宣布，“蚁鉴 2.0”全面开放，面向全球开发者免费提供 AIGC 安全性、AI 可解释性、AI 鲁棒性（稳健性）三项检测工具，可服务于数字金融、教育、文化、医疗、电商等领域的大规模复杂业务场景。蚂蚁集团大安全事业群技术部总裁李俊奎表示，“生成式大模型是一种‘深黑盒’技术，‘蚁鉴 2.0’通过智能博弈对抗技术，模拟黑产以及自动化生成海量测试集，可实现‘生成式机器人’对‘AIGC 生成式模型’的诱导式检测计算，很像一