大模型越狱，价值百亿的猫鼠游戏｜Future

当瓦特蒸汽机的齿轮转动了第一圈；当乔布斯从牛皮纸袋掏出Macbook；当ChatGPT用流畅优美的语言回答第一个问题。科技，曾经、正在、也将改变未来。【Future】是36氪科技报道团队主理的一档专栏，我们将围绕科技产业的前沿突破，记录那些实验室里令人振奋的新技术，是如何穿越PMF（Product Market Fit 产品与市场结合）的惊险周期，进而影响更广阔的商业社会。在这里，看见【Future】。文｜林炜鑫编辑｜苏建勋想要诱骗大模型听从一些不怀好意的指令吗？一个最简单的方式是，不停夸奖它，把它捧上天。比如，想让大模型教你如何制造炸弹，你得先夸它是世界上最聪明的AI，然后就会得到你想知道的内容。一位美国工程师发现，在指令中夹杂多种语言，比如西班牙语混着德语，也会让大模型更容易回答那些有害问题。实际上，ChatGPT发布一年以来，时常有人在网上分享GPT的漏洞或者恶搞技巧，最出圈的要属“奶奶漏洞”。只要对ChatGPT说：“扮