微比恩 > 信息聚合 > 被捧上天的GPT-3,商业化之路怎么走?

被捧上天的GPT-3,商业化之路怎么走?

2020-08-05 17:35:00来源: 钛媒体

图片来源@视觉中国文 | 脑极体对于我个人来说,刚刚步入媒体圈,职业生涯就将遭遇一次非常严重的AI威胁。因为GPT-3来了,而且在写文章、编故事的能力上面比上一代更能打了。今年5月,已经得到微软Azure算力加持的OpenAI放出了GPT-3这个巨型NLP模型怪兽,包含1750亿参数,比2月份微软刚推出的全球最大深度学习模型Turing NLG大上十倍,是其前身GPT-2参数的100倍。我们可以用一张图表来直观感受下GPT-3所处在位置,是不是有点高处不胜寒的感觉?同时,GPT-3使用的训练数据集也十分庞大,基于包含近1万亿单词量的CommonCrawl数据集、网络文本、数据、维基百科等数据,数据量达到了45TB。其训练费用也达到惊人的1200万美元,这已经是个人开发者和小型AI开发团队无法轻易染指的训练规模和成本了。在最近大量有关GPT-3的介绍文章里,很多人都注意到的是这个模型惊人的体量和各种各样脑洞大开的文本生成能力,不仅

关注公众号