人工智能与国防安全解读

人工智能(AI)是一个迅速发展的技术领域，对国家安全具有潜在的重要意义。因此，美国国防部正在针对一系列军事功能开发AI应用。

目前，AI研究领域包括情报收集和分析、后勤保障、网络空间作战、指挥和控制以及各种军用自主驾驶平台等。AI技术对军事采办提出了独特的挑战，尤其是因为其发展大多集中在商业领域，国防采办流程(DAP)也需要进行调整以适应AI系统的采办。另外，许多商用AI为军方所用之前必须经过重大修改。另外，AI市场上的国际竞争对手，也对美国形成压力。

目前的国际形势中，中国正在使用AI来做出更快更明智的决策，并开发多种类型的自主军用平台。同时，俄罗斯也积开发军用AI，尤其是开发注机器人技术。

从技术层面来说，一方面，AI技术可以促进自主操作，使军事决策更加明智，也可能会增加军事行动的速度和规模。但是，另一方面，它也是不可预测的，尤其容易受到独特形式的操纵，并且对人机交互提出了非常高的要求。大量专家一致认为，即使AI产生不了革命性影响，但至少也会促进整个军事社会的进化，同时也带来了一些潜在的问题。

-1-

人工智能在国防领域的应用

人工智能在国防领域的应用主要用于7个方面：情报、监视和侦察，后勤，网络空间行动，信息操纵和深度伪造，指挥和控制，半自动和自动驾驶车辆，致命自主武器系统。

（1）情报、监视和侦察。由于有大量可用数据集，因此人工智能在情报领域有很大的用处。情报界以及有大量相关的正在进行中的人工智能项目了。就CIA（中央情报局）就有140个使用AI来完成图像识别和预测分析任务的项目。

（2）后勤。人工智能在军事后勤领域也有很大的应用潜力。空军已经开始使用人工智能来进行飞机维护预测。

（3）网络空间行动。人工智能也有望成为促进军事网络空间行动的关键技术。参议院军事委员会、美国网络司令部司令上将Michael Rogers早在2016年就认为，在网络空间领域只以来人类情报是一个失败的战略。随后他澄清说，应当应用一定程度的人工智能或机器学习技术。DARPA 2016网络挑战赛也证明了AI赋能的网络工具的潜在能力，比赛参与者开发了能够自动检测、评估和分发补丁的AI算法。这些能力都可以在未来的网络活动中提供不同的优势。

（4）信息操纵和深度伪造。人工智能技术可以用来制造逼真的伪造图片、音频和视频，这也就是今年大火的“deepfakes”（深度伪造）技术。恶意攻击者可以用深度伪造技术来发起信息操纵活动，攻击每个，如生成虚假新闻报道、影响公共信息、侵蚀公共信任、损害名人名声。为了应对深度伪造技术，DARPA发起了媒体取证项目，以寻求自动检测修改、提供关于视觉媒体真实性信息的理由。

（5）指挥和控制。美国军方正在利用AI在分析方面的能力应用于指挥和控制。空军就开发了一个用于多域指挥和控制的系统，未来人工智能还可能用于融合来自不同域的传感器的数据来创建一个信息的单独源。

（6）半自动和自动驾驶车辆。所有的美国军事服务都在努力将人工智能融入到半自动和自动驾驶车辆中，包括战斗机、无人机、地面车辆和海军舰艇等。人工智能在这些领域的应用与商业半自动驾驶车辆类似，即使用人工智能技术来感知环境、识别物体、融合传感器数据、规划路径、以及与其他车辆之间进行通信。

（7）致命自主武器系统（LAWS）。LAWS是一种特殊的武器系统，使用传感器和计算机算法来独立地识别目标和指挥武器系统在没有人为干预的情况下打击目标。虽然这样的系统目前还不存在，但军事专家相信在未来通信降级或拒绝的特殊环境下，传统武器系统无法工作的情况下LAWS会启到很重要的作用。

-2-

军事AI融合的挑战

从冷战开始，主要的国防相关技术在商用之前都是由政府主导的项目首先开发的，包括原子核技术、GPS和互联网技术。DARPA的战略计算计划(Strategic Computing Initiative)从1983到1993年10年间共投入10亿美元来开发人工智能在军事应用领域的探索，但进展缓慢。目前，商业公司正在引领人工智能的发展，随后国防部才采纳这些工具并应用于军事领域。对如此具有战略重要性的技术来说，只有一小部分商业公司在开发是非常不同寻常的。除了投资领域的快速变化外，人工智能技术在军事领域的应用存在来自技术、过程、人员和文化方面的挑战。

2.1 国际竞争

随着人工智能军事应用的规模和复杂程度不断变大，国会和国防部许多官员都非常关注该领域的国际竞争。参议员Ted Cruz在the dawn of AI听证会的评论中表示，对美国来说，放弃发展人工智能的领导地位（相当于中国、俄罗斯等国家）不仅会使美国处于技术劣势，还可能对国家安全产生严重影响。

2.2 人工智能的机遇和挑战

（1）自治。许多自主系统都多少使用了人工智能技术。相关专家认为军事系统在一些特殊任务中替换人类会获有很大的优势，如：长时间的情报收集和分析，清除化学武器对环境污染带来的破坏等。在这些任务中，自主系统可以减少相关风险，降低成本，为国防部使命提供一系列的价值，如下图所示。

（2）速度和耐力。人工智能引入了在极限时间范围内作战的方法，提供给系统在GHZ速度反应的能力，具有动态加速对抗速度的潜力。现在一般公认的是，时间在战争中具有非常重要的优势，并且反过来会促进军事人工智能应用的广泛应用。

（3）规模化。人工智能可以通过增强人类能力和使用更加廉价但性能更佳的军事系统来形成群聚效应。并且，人工智能系统可以增加单个服务单元的效率。有分析师称，人工智能系统的使用可能使得军事力量与人力规模和经济实力无关。

（4）信息优势。人工智能为数据量指数级增长提供了一种有效的分析方法。据国防部数据，军队共拥有11000架无人机，每个无人机每天都记录了相当于三个NFL赛季的高清录像。但国防部没有足够的人员或系统来处理这些数据以提取出有价值的情报。未来人工智能算法会生成自己的数据来进一步分析，以完成类似提取非结构化数据、金融数据、选举结果到报告中的任务。

（5）预测性。人工智能算法可以产生一些出乎意外的结果。并确实有很多失败的案例，前DARPA主任Arati Prabhakar表示，我们发现人工智能是一项非常有能力的技术，但同时也是非常有限的，而且出错的一些方式可能人类从来不会发生。如果人工智能系统发规模部署，那么系统失败可能会引发明显的风险。分析师称人工智能系统识别的方式可能是相同的，可能会引发大规模的破坏效应。

（6）可解释性。目前，性能最好的人工智能算法都无法解释其工作过程。DARPA和其他组织都在努力来对人工智能算法有更好的理解。可解释性对军事应用来说具有特殊的意义，因为人工智能系统推理的透明度会影响操作人员对系统和系统结果的信任度。可解释性还会对军事AI系统可验证和确认的性能带来影响。由于缺乏可解释的输出，AI系统在军事测试时无法通过审计来确认系统满足了性能的标准。

（7）漏洞利用。人工智能系统可能会增加系统被利用的可能性。首先，AI系统的普及增加了可被黑的系统的数量。其次，AI系统存在被窃取的漏洞，而且几乎都是基于软件的方式。最后，对手还可以精心引入图像分类器和其他类型的错误引发的漏洞。这些漏洞引发了我们对鲁棒性数据安全、网络安全、测试和评估过程的需求。

-3-

人工智能对战场的影响

尽管人工智能还没有以一种正式的形式进入战场，但专家们预测了人工智能会对未来战争带来潜在影响。这种影响将是多方面的，包括商业投资率、国际竞争力、促进人工智能的能力、对AI应用的军事态度、AI特定战争概念的开发。

许多专家断言人工智能军事应用是一种“必然”，认为它必然会带来重大影响。然而，2016年1月，时任联席会议副主席保罗·塞尔瓦将军指出国防部仍在评估人工智能的潜力。企业开发的人工智能技术提供了军事作战的乘数效应吗？如果是，那么可能需要改变我们的战斗方式。如果不是，那么军队需要提高现有的能力以在对手面前取得一定的优势。目前国会也在考虑影响军事AI应用的一些场景并对其进行分析和监管。