《柳叶刀》：AI 诊断系统可分辨患者的种族，准确率高达 90%

图片地址：https://img.ithome.com/newsuploadfiles/2022/6/f5f4e226-2331-44b6-a02f-bf675698af67.png

麻省理工学院和哈佛大学的一个研究团队在医学杂志《柳叶刀数字健康》上发表文章，称 AI 程序可以从 X 射线和 CT 扫描结果中分辨患者的种族，准确率高达 90%。这并不是一个好消息，因为连科学家们都没弄清楚这些 AI 程序是如何做到分辨种族的。“当我的研究生向我展示这篇论文中的某些结果时，我认为这一定出了差错。”负责分析对应主题的论文作者之一，麻省理工学院助理教授 Marzyeh Ghassemi 告诉媒体，“当他们告诉我的时候，我真的以为我的学生疯了。”▲ Marzyeh Ghassemi这篇文章中提到，AI 诊断系统似乎会根据种族对患者进行诊断和治疗，而非患者的个人身体状况。这种做法将会损害患者的健康。研究人员提到一个案例，AI 程序在检查胸部 X 光片时，漏掉黑人和女性患者身体病变的几率更高。而这项研究的目的，正是确认 AI 系统从医学影像中检测人类种族的程度，以及它们如何从中检测出种族信息。为此，研究团队使用人