微比恩 > 信息聚合 > OpenAI“大力出奇迹”的GPT2同样适用图像领域

OpenAI“大力出奇迹”的GPT2同样适用图像领域

2020-06-21 15:47:13来源: IT之家

GPT-3 的热度还在发酵,OpenAI 又放了个大招。这次的研究往图像界迈出了新的一步。近日,OpenAI 发布了一篇博客文章,介绍了将 GPT 应用到图像领域的研究进展,并且发现,在图像领域,GPT-2 仍然可以工作,并且性能良好。研究人员发现,就像利用大型 transformer 模型训练语言一样,用同样的模型训练像素序列,可以生成连贯的图像像素样本。通过建立样本质量和图像分类精度之间的相关性,OpenAI 表明,他们的最佳生成模型也包含了在无监督环境下与顶层卷积网对抗的特征。▲ 第一列为研究人员为模型提供的半张图片,中间是模型自动补全的完整图像,最后一列是原始图像 我们都知道,对于机器学习来说,无监督学习或没有人为标签的数据学习长期以来都是一项不小的挑战。最近,在语言上,机器学习已经取得了一些值得称赞的成就,如 BERT、GPT-2、RoBERTa、T5 等,但是,这类模型尚未成功产生用于图像分类的功能。不过,也正是由于

关注公众号
标签: AI