其实人工智能也是一把暗藏风险的双刃剑

智能机器人自信地“走上”舞台担纲主持；无人车在测试道路上完成一系列动作，司机却稳坐千里之外；智能健康“魔镜”能实时显示测试者“睡眠”“情绪”“皮肤”等一系列健康指标系数。曾经在科幻电影中才能看到的炫酷片段已经在生活中得以实现，种种“黑科技”被广泛应用，人工智能的发展深刻地影响着社会生活。

但同时，随着人工智能技术应用越来越广泛，人工智能“脆弱面”也逐渐暴露，机器人“自我意识”、技术滥用等安全漏洞引起业界更多关注。专家表示，要加强对潜在风险的研判和防范，确保人工智能各项技术安全、可靠、可控。当今，世界各国纷纷布局人工智能，国际竞争日趋激烈。然而，人工智能的快速发展也使得网络安全的风险点和攻击方式出现新变化，进而引发更深层次的网络安全风险。

事实上，劫持智能设备已经成为网络攻击的重要手段。网络安全专家表示，许多无人值守系统运用人工智能技术，一旦遭网络劫持，将带来严重的安全问题。例如，智能汽车可与车厂服务器连接，通过手机远程控制，车主需要定期更新软件保证汽车的驾驶模式，如此一来就可能被网络劫持。

此外，图像、声音合成滋生新的风险。国家互联网应急中心的相关专家称，随着技术的发展，现在的合成图像、语音越来越逼真。如果把该技术用于网络诈骗，虚构人脸和语音，是非常可怕的事情。由于人工智能技术依托的算法、大数据等可以很低的成本进行复制和扩散，其传播渠道广，监管难度大，封控几率低。

目前，人工智能技术正由“弱人工智能”向“强人工智能”阶段跃进，能够依据其所掌握的算法、数据，在短时间内快速突破人类传承多年的经验积累。2016年，由谷歌旗下“深度思维”（DeepMind）公司开发的AlphaGo横空出世，经深度学习后横扫人类围棋界翘楚。一年后，零基础起步的新程序AlphaGo Zero，通过自我训练，在三天内与自身对弈490万局后，以100：0的成绩击败“前辈”AlphaGo。

2017年，美国社交媒体平台脸书公司实验室中的两个人工智能机器人使用机器学习相互对话，并不断进行对话策略迭代升级，逐渐发展出了一种机器之间能理解但人类无法理解的语言。

当前，人工智能研究高度开放附带源代码的海量论文可免费下载，即便编写一种折型算法的时间成本也只需几天，人工智能技术的滥用风险激增。此外，人工智能既有多学科综合、高度复杂等特性，带有天然的技术壁垒，给监管部门的监督管理和风险防范提出了不小的挑战。除技术发展外，人工智能带来的社会影响不容小觑。通过特定算法全方位了解用户偏好和需求，为消费者“量身定制”的“精准推送”正成为商家引导消费的新途径。

近年来，北京、上海、重庆、济南等地的商圈开始试水“智慧商圈”模式，可以根据顾客的特征更精准地推送优惠券商品信息，让用户更有消费动力。比如，给年轻的未婚白领女性推送化妆品和奢侈品的品牌商券；给妈妈们推荐婴儿用品店；给男性推送运动品牌门店活动，等等。

“智慧商圈”带来生活便捷却容易引发“信息骚扰”问题。消费者的一个简单操作就有可能暴露想要购买某件商品的想法，后续会不断收到同类商品的广告宣传，产生困扰。长此以往，商场导购等从事决策分析、艺术创作等工作也有被机器人取代的可能，人工智能技术的日臻成熟将打碎传统职业群体的“饭碗”，进而引发新产业革命和经济结构调整，形成“去劳动力”倾向，最终产生失业风险。

不仅如此，人工智能产生的道德伦理隐忧不断。有专家表示，人工智能设计者的价值导向和行为偏好易于被有意或无意地反映到算法、数据当中，并通过机器学习被人工智能所承继，进而演进为算法歧视。而在具体适用过程中，容易受到对抗样本的干扰或污染，被应用者二次形塑，做出背离设计初衷的错误决策。

2016年3月，美国微软公司发布了名为Tay的最新版本人工智能机器人。然而，上线不到24小时，Tay就“学坏”了：出言不逊、脏话不断，言语甚至涉及种族主义、色情、纳粹，充满歧视、仇恨和偏见。微软只得不停删除Tay的不当言论，进行下线调整。专家表示，在人工智能飞速发展的时代，安全问题日益凸显，需要我们加强对潜在风险的研判和防范，切实维护好人民利益和国家安全，确保人工智能安全可靠、可控。

南开大学周恩来政府管理学院教授吴晓林认为，数字化、网络化、智能化已经是时代的主题，智能让生活变得更美好，但安全问题无处不在、无时不在。互联网下半场是工业互联网，以后国家的基础设施安全、工业互联网安全非常关键，还是要把人工智能的双刃剑用好，趋利避害，让科技的智能与人类的智慧并存、和谐。

在网络安全防护上，应加强技术研究，建立有效安全防护，抵御网络攻击。专家建议，可以建立主动免疫的计算架构，对计算进行安全防护，使计算全程可测可控，不被干扰。利用人工智能应对网络攻击，“免疫系统”中不管哪个系统受到攻击，都有统一的人工智能系统发出指令，采取相应措施。

针对新一代人工智能可能引发的结构性失业等风险，吴晓林建议，由劳动部门牵头加强与人工智能产业需求配套的在职培训和再就业培训体系，打好劳动力转型的主动仗。