揭秘OpenAI“红军”：聘请专家攻击ChatGPT 解决技术伦理问题

图片地址：http://s1.techweb.com.cn/static/img/20180614.png

北京时间4月17日早间消息，据报道，在安德鲁·怀特（Andrew White）获得GPT-4的使用权之后，他使用这一人工智能系统提出了一种全新的神经毒剂。GPT-4是热门聊天机器人ChatGPT背后的人工智能技术。作为罗切斯特大学的化学工程教授，怀特是OpenAI去年聘请的50名专家学者之一。在6个月的时间里，这支“红军”对这一新模型进行了“定性探索和对抗性测试”，试图攻击它。怀特表示，他使用GPT-4的建议生成了一种可作为化学武器的化合物，并使用“插件”为这个模型提供新的信息源，例如学术论文和化学品制造商名录。随后，这个聊天机器人找到了一个地方来制造这种化合物。他说：“我认为，这将使每个人都获得更快速、更准确地工具去从事化工行业。但这也使得人们会以更危险的方式去开展化学活动，带来了很大的风险。”上个月，OpenAI面向更广泛的公众发布了这项新技术，而这些令人惊讶的发现确保新技术不会带来不良后果。事实上，“红军”的演习目的是探索