郑建华院士：解读人工智能与信息安全

导读：人工智能领域涉及的安全问题较多，如国家安全、社会安全、人的安全，还包括一些伦理问题和隐私问题。人工智能主要是基于信息基础构建的一些应用，它离不开信息的采集、存储、分析、传播。同时，人工智能领域的思想、方法、理论对信息安全也有很多的应用。

1、信息安全的基本要求

******曾经说过，没有网络安全就没有国家安全，没有信息化就没有现代化。这充分表达出了信息化与现代化、信息安全与国家安全的关系。同时，从新技术，比如“互联网+”、物联网、云计算、大数据到区块链等新技术的进一步发展，都要以信息技术为引导，人工智能也是如此，通过一系列技术的创新，最终才能真正发展国家经济，提升国家综合实力。从这个意义上说，没有信息化就没有现代化，包括人工智能在内的新技术的发展，都需要以信息技术为主导。

信息化是一个双刃剑，带来很多便利的同时，也出现了很多安全问题，因此应当把信息安全提高到国家安全重要组成部分的高度。保密性、完整性、可用、可控和不可抵赖性是信息安全的五个基本属性。信息安全要实现的目标是，对信息的使用和处理均经过所有权人的授权、严格按所有权人要求、真实地顺畅地合理地进行。要经过所有权人授权，主要是指身份识别问题，身份是有所有权的，要经过授权对信息进行使用；在使用中是可读、可写还是可改，就需要按照授权人的授权要求进行；真实指信息的使用要真实，不是经过篡改或者伪造的，要保证其真实性；顺畅是指在信息使用过程中，能够保证信息系统能够正常使用；合理性就是要理性使用，主要是对信息的管控，如要对有害信息进行有效治理。

信息的采集、传输、存储、管理以及信息的处理和使用等环节中，都会涉及到安全问题。

信息采集主要是指控制问题，如是不是按照真实情况进行采集？采集数据过程中是不是是否严格遵守规定？

信息传输中要有效地进行保护，做好保密工作，要保证它的真实性不被篡改，保证传输过程的可靠性，能够抗干扰。

信息存储和管理，强调的是真实性和保密性，不会被篡改，不会被滥用。以后，很多的信息都会放在云上面，那么要如何保证个人信息的安全呢？要知道云的管理者是不可信的，每个用户的信息对他也要进行保密，因此说云的安全或大数据的安全，只是指存储和管理方面的安全。

那么在信息处理和使用中，就会存在另外一个问题，就是怎样进行身份识别和权限的有效管理？最后，处理的结果要进行签名，保证它的真实性，同时可以对信息使用的整个生命周期进行追溯。

总之，信息安全不仅仅是在于信息本身的安全，信息的作用也不仅仅只是针对设备而言，它甚至延展到了人的身上，因此提高信息的安全性显得尤为重要。

2、人工智能应用的信息技术体系

当前社会引发了一轮又一轮的人工智能热潮，很多都是由于数据驱动，正是在云计算、大数据等技术的发展下，人工智才有了一次又一次的飞跃。所以数据的安全、信息的安全贯穿着人工智能应用的过程中。

人工智能大体分为几个层面。

（1）感知层，各类传感器采集各类信息，也就是信息的采集，这涉及到很多安全问题。

（2）传输层，采集过程要进行处理，进行反作用，靠的是基础网络，涉及到传输过程的安全。

（3）数据层，可能进行数据汇聚，通过大量数据的分析和协同，来产生新的知识和价值。

（4）应用层，也就是服与控制，提供服务，对终端进行反控制，类似一个循环吧，一个有机的循环回路。

3、人工智能应用的安全需求

人工智能的每一层都涉及到安全问题和数据安全问题。在身份识别认证中，人和设备是不是可信的，是不是有正当权限的人和设备。数据保护中，不管是传输还是存储过程，都要保证数据的可控性、真实性和可追溯。如果数据在传输或存储过程中被篡改了，那到最后通过算法推导出的结果，也必然是不真实和不可信的。

但在这个过程中也存在一个问题，保证数据能够进行有效地汇聚，既要保证数据所有者的权益，同时又能够通过这种大数据的汇聚产生价值，在可控的范围之内，这里的安全问题也是现在研究的重点和难点。

4、人工智能应用的安全建设

安全问题在重视应用的同时也要考虑到安全和应用建设的同步发展。

政府要主导，在人工智能应用中深入分析安全需求，进行顶层的设计，提出安全要求；加强安全制度建设，建立安全准入制度和检测评估方法、机制。

企业应该从感知、传输、分析协同、服务控制等方面建立一些安全标准。同时既要重视机制的保障还要重视技术的保障，使人工智能的应用和网络安全建设同步发展。

5、需要关注的网络安全技术

（1）身份识别和生物特征识别。身份识别的核心是密码技术，但对于轻量级设备、便携的智能设备而言，它们的计算能力还较弱，使用成熟的密码技术会存在一些问题，这需要对原来的身份识别进行改造。生物特征识别也是如此，目前的生物识别技术还没有建立一个安全的逻辑链条。

（2）移动安全。现在各种智能应用的终端主要以手机为主，手机与PC机相比更不安全，因为手机更便捷、成本低、更新快，所以安全隐患更多，更难解决，建立体系建立难度更大。

（3）大数据安全。大数据安全比一般意义上的云安全难度更大，云安全主要是用户信息是放在云上，仅供用户使用，同时云的管理者是不能看到用户的信息。而大数据安全相对来说更加复杂，它是将很多用户的数据都放在云上，将不同用户的信息进行融合处理，每个用户需要自己进行加密，否则无法保证数据的安全，但是加密之后如何让其他人使用，或在一定限度内实现共享，既要加密保护，又要能够有效地进行数据的融合和利用，这是很难解决的问题，同时也涉及到加密检索，保证数据的完整性，安全的计算外包。

（4）系统脆弱性。目前网络攻防态势非常严峻，主要就是是利用信息系统，要知道现在的信息系统还不完善，具有脆弱性，将来人工智能应用也是一个程序、一段代码，如果出现严重漏洞，就会被恶意代码取得它的控制权，带来极大的危害，所以系统的脆弱性也是网络安全非常重要的问题之一。

6、网络安全中的人工智能

人工智能在网络安全领域也得到越来越多的应用，它在主动安全防护、主动防御、策略配置方面发挥的作用越来越大，但是当前仍旧处于探索阶段。比如基于神经网络，在入侵检测、识别垃圾邮件、发现蠕虫病毒、侦测和清除僵尸网络设备、发现和阻断未知类型恶意软件执行等方面进行了大量的探索；基于专家系统，在安全规划、提高安全运行中心效率、量化风险评估、威胁情报等方面也做了很多探索，收到了良好的效果。

人工智能技术的蓬勃发展，也必然对网络空间安全带来重大的机遇和挑战。

最后用张钹院士的一句话进行总结：网络安全促进人工智能的未来发展，人工智能改变网络安全的未来！