姚期智等数十名中外专家签署北京 AI 安全国际共识：禁止 AI 自行复制

图片地址：https://img.ithome.com/newsuploadfiles/2024/3/c7788214-c50e-4c83-80c4-7b4a773d9751.png?x-bce-process=image/format,f_auto

IT之家 3 月 18 日消息，据腾讯科技报道，包括图灵奖得主约书亚・本吉奥、杰弗里・辛顿、姚期智等在内的数十位的中外专家日前在北京联合签署了由智源研究院发起的《北京 AI 安全国际共识》，涉及人工智能“风险红线”和“路线”两大块，其中“风险红线”包含“自主复制、改进”“权力寻求”“协助不良行为者”和“欺骗”四个部分。IT之家整理四部分内容大致如下：人工智能的“自主复制、改进”：强调人在该过程的作用，要求任何人工智能系统都不应在人类没有明确批准和协助的情况下复制或改进自身，包括制作自身的精确副本、创造具有相似或更高能力的新人工智能系统。“权力寻求”：明确要求任何 AI 系统不能采取不当增加自身权力、影响力的行动。“协助不良行为者”：所有 AI 系统都不应辅助提升其使用者的能力，使之可达设计大规模杀伤性武器、违反生物或化学武器公约，或执行导致严重财务损失或同等伤害的网络攻击领域专家的水平。“欺骗”：要求任何 AI 系统都不可拥有持