大模型推理bug！问题翻转，回答全错，GPT到Llama无一幸免

文 | 虞景霖编辑 | 邓咏仪 尚恩问：已知大明是小明的爸爸，小明的爸爸是谁？大模型：对不起，我不知道。来源：公开网络最近，来自范德堡大学、萨塞克斯大学和牛津大学的科学家们发了篇论文，揭示了一个逆转诅咒（Reversal Curse）的现象，研究者发现不管体量大小如何，大模型们都存在一个bug，就是：模型学习了“A是B”这一知识，但无法推导出“B是A”。GPT-4能告诉你Tom的妈妈是Mary，但无法回答谁是Mary。来源：《The Reversal Curse：LLMs trained on "A is B" fail to learn "B is A"》吃瓜网友表示，这下那些想用AI毁灭世界的人无法如愿了！来源：X（原Twitter）但也有人表示并不惊讶，因为大模型并不能理解所有事。来源：X（原Twitter）也有网友怀疑这个测试本身的意义：来源：X（原Twitter）例如…草是绿色的，绿色的是…？来源：X（原Twitter