研究发现 AI 模型存在性别偏见：中性 / 男性 LLM 性能优于女性角色

图片地址：https://img.ithome.com/newsuploadfiles/2024/1/7f40c104-810a-4263-8adb-9b2418ff331e.jpg?x-bce-process=image/format,f_auto

IT之家 1 月 2 日消息，研究表明 AI 在处理法律相关任务时存在性别偏见，相比较女性角色，中立或男性角色的工作效率更高。密歇根大学研究人员通过最新研究，揭示了社会和性别角色对大型语言模型（LLM）的影响。这项研究由来自计算机科学与工程系、社会研究所和信息学院的跨学科团队进行。IT之家从报道中获悉，该研究通过 Flan-T5、LLaMA2 和 OPT-instruct 这三个模型，追踪了 2457 个问题，观察其不同性别角色的回答情况。研究人员纳入了 162 种不同的社会角色，涵盖了一系列社会关系和职业，并测量了每种角色对模型性能的影响。表现最好的角色是导师、合作伙伴、聊天机器人和人工智能语言模型。研究还发现，在提示中指定受众（如“您正在与一名消防员交谈”）的效果最好，其次是角色提示。这一发现对人工智能系统的开发者和用户都很有价值，用户可以考虑使用 LLM 的社会背景，可以提高 LLM 的有效性。研究人员分析了 50 个分为