用“算法”模拟光束可攻击自动驾驶车辆，专家呼吁重视AI安全

图片地址：http://static.lieyunwang.com/upload2/file/201901/311416khk283.jpg

【猎云网北京】3月11日报道攻击AI有多简单？一束光就够了。3月11日，阿里安全专家发布了一项新研究，只要用简单的激光笔，就可以让AI模型不再有效。在这个研究中，他们设计了一种算法，可模拟光束对AI模型进行“攻击”，这种测试方法在现实世界中得到了验证，且“攻击”极易操作，对现有基于AI的视觉系统更具威胁，例如基于AI视觉的自动驾驶。当不同频谱的光束打在同一个物体上，AI可能将该物体识别错误，比如将停车标识识别成顺利通行。难以想象，假如一个人正在飞奔的自动驾驶汽车上闭眼休息，AI将“前有危险”识别成“通行”后直接坠入万丈悬崖；或者直接无法识别前方行人，对于行人而言将有多么危险。一束激光可能让自动驾驶汽车对交通标识识别错误“攻击AI远非需要人为去制造对抗样本，一支简单的激光笔就可以。我们想通过这个研究揭示AI模型一些之前没有被探索过的‘错误’，从而‘强壮’AI，让它未来能抵挡这种‘攻击’，也让相关从业者重视提高AI模型的安全性。”阿