明牌：OpenAI 发布带有“身份标识”的网络爬虫工具 GPTBot

图片地址：https://img.ithome.com/newsuploadfiles/2023/8/a942ba15-f22c-4081-b14a-486712001c59.jpg?x-bce-process=image/format,f_auto

IT之家 8 月 8 日消息，OpenAI 昨日发布了旗下网络爬虫工具 GPTBot。官方宣称，该 GPTBot 工具能够在注重版权的基础上，使用透明的方式收集网页信息，来训练 OpenAI 旗下的各 AI 模型。OpenAI 表示，GPTBot 使用专有网页 UA 表示其爬虫身份，完整 UA 字符串为（Mozilla / 5.0 AppleWebKit / 537.36 / KHTML, like Gecko; compatible; GPTBot / 1.0; + https://openai.com/ gptbot），任何网站管理者都可以自由允许或阻止该爬虫工具进行数据采集。▲ 图源 OpenAI▲ 图源 OpenAIOpenAI 声称，若网站管理员不希望被爬虫搜集资料，管理员可以在网站服务器的 robots.txt文件中完全禁止 GPTBot 抓取信息，或自行决定 GPTBot 抓取网站上的指定信息。OpenAI 此前饱