斑马识别成狗，AI 犯错的原因被斯坦福找到了

图片地址：https://img.ithome.com/newsuploadfiles/2022/7/9dbdec03-d545-43ed-98b7-bec11e6f4ac1.png

明明是只斑马，AI 为什么说它是一条狗？分类模型在归类图像时有时会错误地判断类别。经过学习的 AI，还会搞砸一些预测，肯定是在其中的某个环节出现了纰漏。斯坦福大学的两位博士生和教授 James Zou 在一篇论文中，带我们探究了分类模型犯错的原因。随后，论文提出一种方法 —— 反事实的概念性解释（Conceptual Counterfactual Explanations），并评估了它的效果。通过这种方法，我们就能重新定义模型的分类标准，从而解释 AI 犯错的原因。一起来看看吧。AI 为什么会犯错？想要提高分类模型后续预测的准确性，就先得整明白这个模型在哪里出了岔子。一般来说，AI 搞砸预测是以下原因造成的：首先是在模型实际预测的过程中，分类标准可能会与预训练时有些偏差，使得训练模型在实际预测的过程中效果不佳，进而降低预测结果的准确性。比如说，病理学家使用预先训练好的模型来分类组织病理学图像，但效果在他的图像上却不是很好。这就可