阿里研究发现：“打码图片”可攻击 AI 视觉系统

图片地址：https://img.ithome.com/newsuploadfiles/2021/8/eb44be4d-be67-4016-a988-ce967aa838e1.jpg

人有很强的抽象能力和联想力，例如一个由几块积木拼成的乐高玩具，小朋友也能轻易认出其中描述的场景。甚至几个像素，玩家也可以轻易认出这是哪个人物。但 AI 可不一定会轻易识别出来。不久前，某知名品牌汽车被曝其自动驾驶系统无法识别白色货车箱体这样类似于“一堵墙”的障碍物。在自动驾驶中，行人、车辆被漏检或者未能及时被检测到，都可能导致交通事故的产生。此外，安防漏检危险人物与物品也可能导致安全隐患。这些风险都提示，AI 视觉的安全性值得重视。在研究 AI 视觉稳定性的过程中，阿里安全图灵实验室的研究人员札奇发现，AI 视觉还有一个盲区：利用算法自动鉴别图片关键信息，并巧妙删除，就像给图片“打码”一样，AI 视觉系统就会无法识别该图片。最近，这项研究成果被 AI 顶会 ICCV 2021 收录。论文地址：https://arxiv.org/pdf/2108.09034.pdf札奇的研究源于逛商场看到乐高玩具迸发的灵感。当时，她有一个疑问：“