你知道人工智能的安全风险吗

一批人工智能开放平台正在大幅降低技术门槛，让人工智能走近中小企业，不再是财力雄厚者才能拥有的“奢侈品”。专家认为，开放平台是人工智能技术发展新趋势，将推动人工智能发展进入高峰，但同时也不可避免带来多重安全风险，须予以防范。

人工智能“降门槛”推动创新

百度与金龙客车合作的无人小巴“阿波龙”日前在北京海淀公园进行了公开试乘，这款无人车搭载了百度Apollo系统，能基于高精地图和智能感知技术，对行进路线进行最优规划。

不仅仅是“阿波龙”，在百度Apollo自动驾驶平台开放的一年多里，已在全球有了133家生态伙伴和11000多家的开发者。

“包括戴姆勒、福特、沃尔沃、因特、微软、比亚迪、北汽、奇瑞等汽车产业链上下游的领军巨头加入Apollo的生态。自动驾驶赶上了汽车和通讯两个百年产业的交错之际，百度多年积累的人工智能技术发展通过开源的方式加速整个生态的创新。” 百度总裁张亚勤说。

前段时间在浙江乌镇召开的第五届世界互联网大会上，百度Apollo自动驾驶开放平台与亚马逊机器学习全托管平台、安谋中国全新人工智能平台“周易”、supET工业互联网平台、京东智能供应链技术服务平台、小米智能家居开放平台等一批人工智能平台作为15项“世界互联网领先科技成果”的重要组成在大会上进行发布。

中科院院士邬贺铨作为世界互联网领先科技成果推荐委员会中方主任，高度评价人工智能平台类成果。“发布成果由47名全球知名的互联网业界专家投票产生，代表了互联网领域的创新智慧和未来互联网的发展趋势。‘平台’成为领先科技成果‘重头戏’。”邬贺铨认为平台类成果打造生态，将利于其他中小企业利用平台和技术进行进一步开发。

在百度自动驾驶开放平台上，开发者甚至不用学习就能轻松使用相关的技术。安谋中国全新人工智能平台“周易”能够将人工智能的设备开发周期缩短三到五倍，把算力开发成本减少五到十倍。亚马逊机器学习全托管平台上，受过训练的开发人员仅需3到4周的时间，就能够完成原本需要10到20个博士级专家耗时9个月完成的项目。

“今天几乎所有的人工智能设备都是针对特定的应用场景，垂直集成，产业协同效应低，开发费用往往达到数亿元，周期要数年。我们产业急需一个开放适配性强、互通的人工智能软硬件开发平台来降低开发成本。”安谋中国执行董事长兼首席执行官吴雄昂说。

“大家都知道人工智能的重要性，但除了谷歌、腾讯、百度这样的企业，没有多少公司能真正有实力去开发先进的人工智能技术。所以我们将过去积累的技术能力开放出来。”百度公司董事长兼首席执行官李彦宏说。

“天下武功，唯快不破。进入智慧时代，‘快’不仅仅是‘日新月异’，还可能是以小时、以分钟计算。”中国工程院院士、浪潮集团首席科学家王恩东说，创新速度是人工智能发展的核心竞争力。

多重安全风险值得警惕

多名专家和业内人士表示，人工智能发展曾经历多次低谷，本轮发展呈加速态势，行业内对此已有共识，同时也应充分认识到，人工智能带来的安全问题也会随发展“动态演进”。

人工智能“降门槛”将催生更多黑客、更多病毒和更短攻击周期。邬贺铨说，在网络安全领域，人工智能的普及将有助于识别网络安全风险，同时也将降低黑客的门槛，让更多人学会黑客，病毒的变种越来越多，且周期会越来越短。

“随着人工智能的进步，人工智能的‘双刃剑’特征会愈演愈烈。”邬贺铨说。

360集团董事长兼首席执行官周鸿祎说，如今的网络攻击已实现了智能化、自动化，速度极快。“网络安全监控经常会发现一些网络攻击，发现后再去分析研究，拿出解决方案后还未实施，网络攻击已经过去了，而新的攻击已经开始。”

人工智能所依赖的传感器、训练数据和使用的开源软件等存在安全隐患。中国信息通信研究院日前发布的《人工智能白皮书》显示，人工智能产品和应用的研发主要基于谷歌、微软、亚马逊、脸谱、百度等科技巨头发布的人工智能学习框架和组件，而这些开源框架和组件缺乏严格的测试管理和安全认证，漏洞和后门易被恶意利用。

“有一种做法是‘数据投毒’，想办法在训练数据里混入一些不正常数据，训练出的人工智能系统就一定会犯错。软件只要是人写的，就一定有漏洞，比如1000行代码里就会有4个漏洞。” 周鸿祎说，由于漏洞不可避免，目前网络攻防很不均衡。“严格来说，传统大家常见的入侵检测、防火墙、杀毒软件这些技术，在抵御这种攻击上已经显得无能为力。”

“目前人工智能生态还未完全建立，尤其是在产业各个环节处于一个相对割裂的状态，这就意味着黑客有机可乘。” 蓝盾股份高级研究员、人工智能专家江纬说，人工智能所带来的安全风险还包括拒绝服务、信息泄露、系统劫持等，可导致识别系统出现漏判、误判，导致系统崩溃、被劫持，或使智能设备变成僵尸攻击工具等。

风险管控及治理体系亟待建设

“人工智能具有多学科综合、高度复杂的特征，我们需统筹谋划，稳步推进，把增强原创能力作为重点。”邬贺铨等专家表示，在继续加大人工智能研发应用力度、发挥人工智能应用潜力同时，要预判人工智能挑战，从技术、法律等方面“扬长避短”，防范风险。

首先，需要立足自身突破人工智能关键核心技术。王恩东认为，国内人工智能企业、科研机构要有清醒的认识，我们在基础层面上还是有明显差距，还要加强基础研究和投入。邬贺铨说，人工智能的应用才刚刚开始，但还处于起步阶段，在解释因果关系上目前还无能为力。更多的希望要寄托在人工智能的进步上。

其次，应打通数据孤岛提升安全防护能力。“网络安全是‘牵一发动全身’的一个整体。我们面临的很大问题是各个企业‘各自为战’，数据没有打通，没有全球或全国的视野，就看不到真正网络攻击发生的过程。”周鸿祎说。

第三，建立健全保障人工智能健康发展的法律法规、制度体系。“科技发展已经远远甩开现有社会法规与伦理规范，建立新的网络秩序迫在眉睫。”美国智库布鲁金斯学会约翰·桑顿中国中心主任李成认为，要让网络空间和谐有序，社会、智库、企业必须建立一个统一的网络法律和规则。

微软全球副总裁沈向洋说，微软提出了“公平、包容、透明、负责、可靠与安全、隐私与保密”的“六大原则”指引人工智能发展，由多个部门负责人组成团队制定政策来管理和指导开发“负责任”的人工智能产品。

此外，也要加强国际交流探讨治理应对策略。美国东西方研究所全球副总裁布鲁斯·迈康纳建议，国际各方应通过构建官方和非官方均认可的网络空间行为规则，预防风险共铸安全长城。