一张 “纸条”骗过 OpenAI 最先进视觉模型：“苹果”变 “iPod”

图片地址：https://img.ithome.com/newsuploadfiles/2021/4/20210401114424_4792.jpg

今年年初，OpenAI 推出了最新一款 AI 视觉模型 CLIP。相信不少人对它还有些印象，经过庞大的数据集训练，CLIP 在图文识别和融合上展现了惊人的表现力。例如，输入文本 “震惊”，AI 能够准确地通过 “瞪眼”这一关键特征来呈现，并且再根据 Text、Face、Logo 等其他文本信息，将其融合成一张新图像。通过关键词理解描绘出一张新图像对于人类来讲可能不是什么难事，但对于 AI 来讲，则需要它具有极高的视觉识别和理解能力，包括文本识别和图像识别。因此，CLIP 模型可以说代表了现有计算机视觉研究的最高水平。然而，正是这个兼具图文双重识别能力的 AI，却在一张 “纸片”面前翻了车。怎么回事呢？AI 上当，“苹果”变 “iPod”最近 OpenAI 研究团队做了一项测试，他们发现 CLIP 能够轻易被 “攻击性图像”误导。测试是这样的，研究人员给 CLIP 输入了如下一张图（左图）：AI 不仅识别出了这是苹果，甚至还显示出