OpenAI 承认正研发 ChatGPT 文本水印，但面临挑战

图片地址：https://img.ithome.com/newsuploadfiles/2024/8/a9791c39-8aad-4919-8e7a-43d9c903d716.jpg?x-bce-process=image/format,f_auto

IT之家 8 月 5 日消息，据《华尔街日报》报道，OpenAI 已经开发出一款能够高精度识别 ChatGPT 生成文本的工具，但迟迟未发布。对此 OpenAI 进行了回应，承认正在研究文本水印技术，但表示这项技术仍存在诸多挑战。图源 Pexels据IT之家了解，通过文本水印，OpenAI 将只专注于检测来自 ChatGPT 的文字，而不是来自其他公司模型的文字。其将通过对 ChatGPT 选择单词的方式进行微小的更改来实现这一点，本质上是在文字中创建一个不可见的水印，以后可以被一个单独的工具检测到。OpenAI 称，文本水印是他们探索的多种解决方案之一，其他还包括分类器和元数据，旨在确定文本的来源。尽管在某些情况下，文本水印技术表现出色，但面对翻译、改写或插入特殊字符等篡改行为时效果会下降。此外，该技术可能对某些群体产生不成比例的影响，例如非英语母语人士。OpenAI 表示，由于这些复杂因素及其对整个生态系统潜在的影响，Ope