可令 AI 自我判断输出内容正确性，谷歌公布模型训练框架 ASPIRE

图片地址：https://img.ithome.com/newsuploadfiles/2024/1/5cb81deb-361b-436a-bf27-f82cf394036f.png?x-bce-process=image/watermark,image_aW1nL3dhdGVybWFyay9xYy9xYzEyNS5wbmc=,t_100,g_9,y_23,x_23,a_0/format,f_auto

IT之家 1 月 23 日消息，谷歌日前发布新闻稿，介绍了一款专为大语言模型设计的 ASPIRE 训练框架，该框架号称可以增强 AI 模型的选择性预测能力。谷歌提到，当下大语言模型在自然语言理解和生成内容方面发展迅速，已被用于构建各种创新应用，但要应用于高风险决策类场合依然不妥。这是由于模型预测具有不确定性及“幻觉”可能，因此谷歌开发了一款 ASPIRE 训练框架，为系列模型引入了“可信度”机制，即 —— 模型会输出一系列答案，每个答案都会具有正确概率评分。▲ 图源 谷歌新闻稿（下同）在技术层面，IT之家注意到该训练框架主要分为三阶段，分别为“特定任务调整”、“答案采样”和“自我评估学习”。其中“特定任务调整”阶段是对已接受过基础训练的大型语言模型进行深入训练，专注于强化模型的预测能力。研究人员主要为模型引入一系列可调参数，在特定任务的训练数据集上微调预训练语言模型，从而提升模型预测性能，让模型能够更好地解决特定问题。第二阶段为