从安全大模型到大模型安全，安全行业玩起了以“模”治“模”| 钛媒体深度

图片地址：https://images.tmtpost.com/uploads/images/2024/05/94eea9bc3bbb96703fca06c546e1dfea_1716823582.png

从前安全企业纷纷下场做安全大模型，如今无一不在谈大模型安全。大模型发展过程中暴露出许多问题：数据泄露、结果不可控、数据偏见、AI幻觉......像是打开了潘多拉魔盒，随着AI使用门槛的降低，越来越多人可以比较容易地接触和应用到大模型，这或许会产生滥用问题，带来更加隐蔽、更具破坏力的风险。近期，有关AI安全、大模型安全的热点事件不断，一如此前OpenAI第二季“宫斗大戏”，再次引发了全球范围内对AI安全的关注。国内国外政策、法规，也迎来新的探索与实践，安全行业探讨如火如荼，大模型风险从何而来？当下有哪些治理对策？未来的大模型安全防护又要注意什么？AI安全“喜提”科技圈热搜生成式AI的发展始终伴随着对安全的质疑。钛媒体App梳理发现，AI安全近期频繁“喜提”科技圈热搜，近10天，国内外围绕AI安全的热点事件或大型会议已不下5次。其中，OpenAI“内