GPT-4 成学术造假“神器”：伪造数据又快又合理，Nature 请统计学专家来“断案”

图片地址：https://img.ithome.com/newsuploadfiles/2023/11/af2cd8cb-dc4e-43c6-bde1-8eee1aa7eed8.png?x-bce-process=image/format,f_auto

学术造假有了 GPT-4，变得更容易了。这两天，一篇刊登在 Nature 上的新闻表示，GPT-4 生成的造假数据集，第一眼还真不一定看得出来。除非请来业内专家仔细对数据集进行评估，才能发现个中细节的不合理性。这个新闻的来源是一篇发表在 JAMA Ophthalmology 上的论文。论文使用 GPT-4 为一项医学学术研究生成了一个假数据集，发现它不仅能创造出看似合理的数据，甚至还能用来准确支撑错误的论文观点。对此，有网友表示十分理解：大模型最重要的能力就是生成“看似合理的文本”，因此它非常适合干这活儿。还有网友感慨：技术“有良心”的程度，也就和用它的研究人员一样了。所以，GPT-4 创造的假数据究竟长啥样？GPT-4 学术造假有一手先来看看 GPT-4 是怎么生成假数据的。具体来说，研究人员采用了 GPT-4 的高级数据分析（ADA，原代码解释器）功能，来生成一个假数据集。这个过程中，研究人员给 GPT-4 提供了一些专业知