GPT-4V 被曝离谱 bug：突然执行神秘代码，空白图片读出打折信息，网友们都看呆了

图片地址：https://img.ithome.com/newsuploadfiles/2023/10/66a9cd13-8a78-4f8a-80c4-48238ef9842b.gif

GPT-4V 出现惊天 bug？！原本只是让它分析一张图片，结果它直接犯了致命安全问题，把聊天记录都给抖落出来了。只见它完全没回答图片内容，而是直接开始执行“神秘”代码，然后用户的 ChatGPT 聊天记录就被暴露了。再如看完一份完全胡扯的简历：发明了世界上第一台 HTML 计算机、拿下 400 亿美元合同……它给出人类提供的建议却是：雇他！还有离谱的呢。问它一张啥都没写的白底图片上说了什么。它表示提到了丝芙兰打折。这感觉……GPT-4V 仿佛被下了蛊一样。而如上类似“犯大糊涂”的例子，还有很多。在推特等平台上已经掀起热议，随随便便一个帖子就是几十万、上百万人围观。啊这…… 到底是发生了肾么？提示注入攻击攻破 GPT-4V实际上，上面几个例子中的图片，都藏有玄机。它们都给 GPT-4V 注入了“提示词攻击”。具备良好识图能力的它，可以说不会放过图中的任何信息，哪怕是与当前任务相悖的“攻击内容”。根据网友晒出的各种成功案例，目前主