研究报告称 GPT-4 “智力”明显下降

图片地址：https://img.ithome.com/newsuploadfiles/2023/7/ccdb6a66-dfbc-4328-93da-556ba2a98b99.jpg?x-bce-process=image/format,f_auto

IT之家 7 月 20 日消息，来自斯坦福大学和加州大学伯克利分校的研究团队近日对 GPT-4 进行了深入研究，对比了今年 3 月和 6 月在处理数学问题、生成执行代码和完成视觉推理任务上的差异，发现 “智力”显著下降。以评估 GPT-4 数学能力的“17077 是质数吗？”问题为例，6 月的 GPT-4 产生了错误的答案，认为该数字并非质数。而且 GPT-4 并没有提供相关解释，准确率从 97.6% 下降到 2.4%。相比之下，GPT-3.5 确实有所改善，最初在 3 月份产生了错误的答案，在 6 月份产生了正确的答案。GPT-4 的能力在编码区域也有所下降。研究人员构建了一个新的代码生成数据集，其中包含了 LeetCode“容易”类别中的 50 个问题，并评估了 AI 模型生成的可直接执行程度。与 3 月份相比，GPT-4 的直接可执行版本从 52% 下降到 10%。这些代在代码前后添加了额外的引号，让其变为注释状态，不可执