员工称亚马逊 AI 聊天机器人 Q “幻觉”严重，且泄露公司机密数据

图片地址：https://img.ithome.com/newsuploadfiles/2023/12/7ba8b8fc-cfc4-4760-a500-382ab9f4cf4e.jpg?x-bce-process=image/format,f_auto

IT之家 12 月 2 日消息，亚马逊于今年 11 月底推出名为 Q 的 AI 聊天机器人，不过根据国外科技媒体 Platformer 披露的一份内部文件，亚马逊员工称 Q 存在严重的“幻觉”问题，并泄露了包括 AWS 数据中心位置、内部折扣计划等诸多机密信息。IT之家 11 月 17 日报道，剑桥词典（Cambridge Dictionary）近日宣布 2023 年年度词汇为“hallucinate”（产生幻觉）。hallucinate 原意为似乎看到、听到、感觉到或闻到“一些不存在的东西”，通常是指用户在不良健康或者服用药物状态下产生的幻觉。伴随着 AI 的崛起，hallucinate 延伸为 AI 产生幻觉，生成错误的信息。报告文件显示，亚马逊 Q 会产生幻觉，返回有害或不适当的聊天内容。例如，亚马逊 Q 会返回过时的安全信息，可能会让客户面临风险。亚马逊淡化了员工讨论的重要性，并声称没有发现任何安全问题。然而，泄露的文件