沈向洋：AI 是个黑盒子，需构建更加负责任的系统

图片地址：https://img.ithome.com/newsuploadfiles/2021/4/c00a7d5a-538e-4897-9fa1-653da0bc8ef3.png

4 月 28 日晚间消息，微软原全球执行副总裁、美国国家工程院外籍院士、英国皇家工程院外籍院士沈向洋今日表示，AI 是个黑盒子，人们在使用时需要更加地谨慎，也需要构建更加负责任的系统。近年来，人工智能取得的成就和进步已经超越了五到十年前人类的想象。按照基准日期的设定，人工智能在演讲、视觉和自然语言等方面的功能，已经逐渐接近人类水平，在语音翻译，智能交互等领域，人们已经看到了越来越多 AI 赋能生活场景的真实案例。AI，确实已经在做一些独立的决定了，但是，这些决定却并不是我们都完全能够知道的。在沈向洋看来，虽然得益于深度学习算法的突破，最近一次人工智能技术及其产业化确实取得了重大的突破性发展，但由于深度学习系统的复杂性与黑盒化，这导致了人工智能系统内部的发展，存在着越来越多并不公开透明的地方。据沈向洋介绍，在美国的部分州级区域，当地政府虽然已实现了利用 AI 系统去审判罪犯罪行的业务，但由于 AI 系统黑盒化的原因，官员们对于自己