OpenAI DALL-E 3 模型存生成“不当内容”漏洞，一微软员工上报后反遭“封口令”

图片地址：https://img.ithome.com/newsuploadfiles/2024/2/b0b81991-2d0a-467e-b26f-7c880c908fa2.png?x-bce-process=image/format,f_auto

IT之家 2 月 2 日消息，微软软件工程部门经理 Shane Jones 日前发现 OpenAI 旗下 DALL-E 3 模型存在漏洞，据称能够生成一系列 NSFW 不当内容，在上报相关漏洞后，Shane Jones 却被下达“封口令”，不过该员工最终还是选择向外界披露相关漏洞。▲ 图源 Shane Jones 对外披露的报告IT之家注意到，Shane Jones 在去年 12 月通过独立研究发现 OpenAI 文字生成图片的 DALL-E 3 模型存在一项漏洞，能绕过 AI 护栏（AI Guardrail）生成一系列 NSFW 不当内容。之后 Shane Jones 将漏洞曝光上报微软及 OpenAI，并在领英上发布公开信，声称相关漏洞会对大众造成安全风险，呼吁&nb