今年高考英语 AI 得分 134，复旦武大校友这项研究有点意思

图片地址：https://img.ithome.com/newsuploadfiles/2022/6/37ec9b26-bc23-40e5-a642-bdcede7cf02c.jpg

在挑战写语文作文后，AI 现在又盯上了高考英语。结果好家伙，今年高考英语卷（全国甲卷）一上手，就拿了 134 分。而且不是偶然的超常发挥。在 2018-2021 年的 10 套真题测试中，AI 的分数都在 125 分以上，最高纪录为 138.5 分，听力和阅读理解还拿过满分。这就是由 CMU 学者提出的，高考英语测试 AI 系统 Qin。它的参数量只有 GPT-3 的 16 分之一，平均成绩却比 GPT-3 高出 15 分。其背后的秘诀名叫重构预训练 （reStructured Pre-training），是作者提出的一种新学习范式。具体来看，就是把维基百科、YouTube 等平台的信息重新提取重构，再喂给 AI 进行训练，由此让 AI 具有更强的泛化能力。两位学者用足足 100 多页的论文，深入解释了这一新范式。那么，这一范式到底讲了什么？我们来深扒一下~什么是重构预训练？论文题目很简单，就叫 reStructure