中国科学院院士张钹：人工智能安全问题比信息系统更难克服

图片地址：https://img.ithome.com/newsuploadfiles/2021/8/571a67c2-d68f-4d71-b517-1392c616c042.png

8 月 3 日晚间消息，全球数字经济大会期间，中国科学院院士、清华大学人工智能研究院院长张钹指出，人工智能安全问题比信息系统更难克服，人工智能治理不仅要从法律法规、伦理规范等层面去“治标”，同时还应从技术创新层面发力去“治本”。人工智能在纯技术层面是价值中立的，但在实际应用中则往往兼具创造性和破坏性。数据隐私、算法偏见、技术滥用等安全问题，正给社会公共治理与产业智能化转型带来严峻挑战。在张钹看来，“人工智能与信息系统在安全性上有着显著区别。信息系统安全性问题主要是软件设计中的漏洞，容易被解决。而第二代人工智能的安全性问题主要来自深度学习算法本身的不安全，更加本质、更难克服。”张钹指出，为防止人工智能被误用、滥用，人工智能的治理首先需要从法律法规、伦理规范、行业共识等不同层面去“治标”，同时还应从技术创新层面发力去“治本”。