OpenAI 科学家：幻觉是大模型与生俱来的特性，而非缺陷

图片地址：https://img.ithome.com/newsuploadfiles/2023/12/a8b195cf-6043-415d-90ee-1370c5e7e920.jpg?x-bce-process=image/format,f_auto

新智元报道 编辑：桃子 润【新智元导读】大模型就是「造梦机」！幻觉是 LLM 与生俱来的特性，而非缺陷。OpenAI 科学家 Andrej Karpathy 独特视角在 AI 社区掀起了激烈的讨论。幻觉，早已成为 LLM 老生常谈的问题。然而，OpenAI 科学家 Andrej Karpathy 今早关于大模型幻觉的解释，观点惊人，掀起非常激烈的讨论。在 Karpathy 看来：从某种意义上说，大语言模型的全部工作恰恰就是制造幻觉，大模型就是「造梦机」。另外，Karpathy 的另一句话，更是被许多人奉为经典。他认为，与大模型相对的另一个极端，便是搜索引擎。「大模型 100% 在做梦，因此存在幻觉问题。搜索引擎则是完全不做梦，因此存在创造力问题」。总而言之，LLM 不存在「幻觉问题」。而且幻觉不是错误，而是 LLM 最大的特点。只有大模型助手存在幻觉问题。对此，英伟达高级科学家 Ji