在 AI 中“隐身”，恶意代码正在入侵神经网络系统

图片地址：https://img.ithome.com/newsuploadfiles/2021/7/e6b9d803-ac03-4fa2-8b5b-d676efec0ac7.jpg

7 月 31 日消息，据外媒 Tech Xplore 报道，康奈尔大学的研究人员发现恶意代码很容易隐藏在 AI 的神经网络系统中，并且人们难以察觉。研究团队尝试将恶意代码嵌入到一个名为“AlexNet”AI 的神经网络系统中，随后他们发现不仅常见的杀毒软件无法发现恶意代码件的存在，而且 AI 被恶意代码感染之后，运行状态也不会发生变化，人们也更难以察觉系统中存在恶意代码。因此，如果不法分子利用这样的方式入侵 AI 中，将会很容易盗窃系统里的重要数据。研究人员表示，在此次实验中，他们将恶意代码添加到神经网络系统中最容易入侵的注入层（injection）。此外，他们选择的是已经训练过的 AI 系统，而不法分子们可能更愿意选择一些从未经过训练的 AI 神经网络系统，这样入侵起来会更加方便。研究人员指出，如果简单地向 AI 添加一段恶意代码，AI 模型并不会受到伤害，因为无论谁将代码插入到 AI 模型中，都需要找到该代码的执行方式。但如