生成式 AI 遭恶意滥用，美国政府敦促科技行业遏制非法换脸视频传播

IT之家 5 月 25 日消息，据美联社，美国政府要求科技行业和金融机构关闭日益猖獗的“利用人工智能生成色情图像”市场。报道指出， 新出现的生成式 AI 工具可以轻松将一个人的肖像变成具有性暗示内容的 AI 换脸视频，从而便于这类逼真的深度伪造图像在网上传播，而受害者（无论是名人还是儿童）都几乎没有办法阻止这种情况的发生。白宫呼吁企业主动采取合作，并通过一系列具体行动遏制这种未经当事人同意就创作、传播 AI 图像并从中获利的行为发生，尤其要打击涉及儿童的色情内容。“当生成式 AI 出现时，每个人都在猜测第一个真正意义上的危害会出现在哪里。我认为我们已经有了答案”，拜登的首席科学顾问、白宫科学技术政策办公室主任阿拉蒂・普拉巴卡尔（Arati Prabhakar） 解释说。她告诉美联社，由于人工智能工具的推动，未经同意传播图像的情况“大幅增加”，尤其针对女性和女孩，而这类内容可能会颠覆她们的生活。“我们看到这类问题正在加速