谷歌 Play 商店宣布整顿生成式 AI 类 App：必须限制不当内容传播

图片地址：https://img.ithome.com/newsuploadfiles/2024/6/817aadd8-9481-4674-8328-2b478f5798d6.png

IT之家 6 月 7 日消息，当地时间周四，谷歌针对 AI 类应用程序更新了指导方针，目标是减少“不适当的”和“被禁止的”内容。谷歌在新的政策中指出，提供生成式 AI 功能的应用必须防止生成受限制的内容，包括色情内容、暴力等，并要求应用对其 AI 模型进行“严格测试”。这些规则适用于多种应用程序，IT之家简要汇总如下：以文本、语音和图像提示输入的任何组合，经由生成式 AI 产生内容的 App。聊天机器人类、图像生成类（文生图、音生图、图生图）、语音及视频生成类 App。不适用于“仅仅承载”AI 内容的 App，或将 AI 用作生产力工具的 App。谷歌 Play 明确，AI 生成的违规内容包括不限于如下案例：人工智能生成的未经同意的深度伪造性材料。为诈骗提供便利的真人语音或视频记录。鼓励有害行为（如危险活动、自我伤害）的内容。为助长欺凌和骚扰行为而生成的内容。主要是为了满足“性需求”的内容。使不诚实行为成为可能的 AI 生成“官