GPT-4 也难逃“反转诅咒”！新研究发现：大模型存在推理缺陷，知道“A 是 B”推不出“B 是 A”

图片地址：https://img.ithome.com/newsuploadfiles/2023/9/9dae559d-70ac-44ed-a4fb-e31722019644.png?x-bce-process=image/format,f_auto

大模型明知道“你妈是你妈”，却答不出“你是你妈的儿子”？？这么一项新研究，刚一发表就引燃了全场讨论。来自范德堡大学、萨塞克斯大学、牛津大学等研究机构的研究人员惊讶地发现：一个大语言模型在训练时被喂进了“A 是 B”这种形式的数据，它并不会自动反推出“B 是 A”。大模型存在“反转诅咒”现象。甚至强如 GPT-4，在反向问题实验中，正确率也只有 33%。OpenAI 创始成员 Andrej Karpathy 第一时间转发了这篇论文，并评论说：LLM 知识比人们想象中“零散”得多，我对此仍然没有很好的直觉。这具体是怎么一回事？大模型的“反转诅咒”研究人员主要进行了两项实验。在第一项实验中，研究人员在 GPT-4 的帮助下构建了以下形式的数据，来微调大模型。<name> is <description> .（或者反过来）所有这些名字都是虚构的，以避免大模型在训练过程中见过他们。在 GPT-3-175B