美国人工智能对安全和防务问题的影响成为重大关切

导语

近年来，随着人工智能影响的不断扩大，美国决策者对人工智能治理问题日益关注，人工智能对安全和防务问题的影响成为重大关切，策略分析和应对建议的需求逐渐增大，智库敏锐捕捉机遇，及时呼应，或主动为之，或按要求为之，纷纷设置各类人工智能研究专项，由此产生一大批颇具影响的研究成果，为美国政府制定相关政策或战略提供了智力支撑。

（一）新美国安全中心“人工智能和全球安全”项目

与过去的工业革命导致国际权力深刻变化类似，人工智能同样具备影响世界格局的潜力。新美国安全中心敏锐察觉到由人工智能和机器学习支撑的新工业革命的到来，认为对于技术界和政策界来说，更好地理解人工智能革命对全球安全以及应对未来挑战具有重要意义。

基于此， 2017年7月，新美国安全中心启动“人工智能和全球安全”项目，旨在分析人工智能对政治、经济、外交、军事等领域的影响，探索人工智能革命对全球力量及冲突性质变化的影响，审查人工智能安全领域国际合作的前景，为决策者提供专业分析及应对未来变化的建议。该项目的关键研究议题包括权力转移、冲突性质、危机稳定、人工智能安全、合作前景五个方面。其中，权力转移包括人工智能如何改变国际舞台上相关角色之间的关系、权力的关键要素将如何转移等议题；冲突性质包括人工智能的军事化应用将如何改变战争性质和军事结构、人工智能是否会改变冲突性质等议题；危机稳定包括人工智能将如何影响战争的爆发、终止和升级，人工智能系统的扩散将如何影响军备竞赛等议题；人工智能安全包括人工智能系统受到颠覆和攻击的可能性、如何实现人工智能安全等议题；合作前景包括人工智能安全需要多大程度的合作、促进各行为体之间合作的措施等议题。

该项目由前国防部副部长罗伯特沃克和谷歌云人工智能负责人安德鲁摩尔博士共同主持，并组建人工智能和国家安全特别工作组执行具体任务，工作组由学术专家、私营部门领导人、前政府高级官员等32名成员组成，成员的理论及实践经验丰厚，对人工智能技术具有深刻的思考和了解，能够保证研究成果的权威性和前瞻性。“人工智能和全球安全”项目的研究成果以报告为主，辅以评论、视频、播客等形式。成立至今，该工作组陆续发布《人工智能时代的战略竞争》《战场奇点：人工智能、军事变革与中国未来军事力量》《人工智能：每个决策者需要知道的》《人工智能与国家安全》《理解中国的人工智能战略》《美国人工智能世纪：蓝图行动》等深度研究报告，均在官方网站公开发布。“人工智能和全球安全”项目覆盖广泛，系统性强，且大多数议题具有预判性、前瞻性，可为美国政府的政策决策和战略制定提供专业的支持。

（二）布鲁金斯学会“人工智能和新兴技术”项目

布鲁金斯学会在人工智能技术浪潮兴起之时，就颇具前瞻性地意识到人工智能等新兴技术潜在的安全挑战与政治风险。为推动人工智能技术研究、为政策制定提供咨询借鉴，布鲁金斯学会设立“人工智能和新兴技术”项目，致力于寻找并确定人工智能最佳治理模式和实践，以使美国社会在人工智能和新兴技术方面获益，同时能够有效规避和管理风险，促进变革性新技术的良好治理。自2014年4月发布第一份报告《产品责任和无人驾驶汽车：立法问题和指导原则》以来，该项目已产出《人工智能在未来战争中的作用》《人工智能改变世界》《跨大西洋人工智能合作的重要性和机遇》《人工智能时代的中美关系》等深度研究报告76篇，广泛涵盖了人工智能技术、人工智能政策、人工智能治理、人工智能技术偏见、人工智能与国家安全等主题。

该项目由布鲁金斯主席约翰艾伦直接领导，约翰艾伦从美国海军陆战队四星上将退休后，于2017年担任布鲁金斯学会主席。他曾担任北约国际安全援助部队和驻阿富汗美军指挥官，拥有丰富的军队履职经历。他还是《转折点：人工智能时代的制定者》一书的作者之一，该书论述了人工智能技术的工作原理，阐述了人工智可能带来的机遇和风险，并对人工智能政策进行剖析。“人工智能和新兴技术”项目的独立性和非党派性，吸引了布鲁金斯学会、学术界、政府、民间社会和技术领域20余位专家参与。

布鲁金斯学会涉及人工智能的项目还包括“全球中国：评估中国日益重要的国际地位”项目、“人工智能未来的蓝图：2018-2019”项目等。其中，“全球中国：评估中国日益重要的国际地位”项目旨在分析、研究与评估中国在全球范围影响力，为美国决策者和公众提供了解大国竞争的全新视角，研究涉及中国外交政策、关键技术、东亚安全等多个主题，《中国军事创新中的“人工智能武器”》《人工智能、地缘政治和信息完整性》等均是该项目的研究成果。“人工智能未来的蓝图：2018-2019”项目汇总了来自布鲁金斯各地学者的相关研究报告，旨在挖掘新兴技术给社会各行业、各领域带来的机遇、冲击和影响，包括《美国数字城市中的人工智能》《为什么我们需要重新思考人工智能时代的教育》《人工智能如何影响金融消费者》《人工智能将如何影响能源和气候的未来》《人工智能对国际贸易的影响》《人工智能在未来战争中的作用》《人工智能对国家安全战略的影响》等深度研究报告20余篇。

（三）兰德公司“人工智能”专项

依循关注防务问题的深厚传统，依托专业的人才队伍和强大的科研实力，作为国防部长期资助的智库，兰德公司积极开展人工智能领域的研究，形成了一系列颇具前瞻性的研究成果，如，2019年12月，兰德公司发布受国防部委托开展的《国防部人工智能态势》研究报告，2020年4月，兰德公司发布受美空军情报、监视与侦察主任委托开展的《人工智能的军事应用不确定世界中的伦理关切》研究报告。此外，兰德公司积极响应政府的号召，为政策决策、战略制定建言献策。例如，2019年，国家安全人工智能委员会就“新兴技术在全球秩序中的作用”公开征集创意，兰德公司研究人员加紧应对这一挑战，集思广益，提出各种各样的想法，最终十篇文章公开发表于《岩石战争》《战略桥》网站上，包括《拥抱开源军事研究以赢得人工智能竞赛》《如何为人工智能挑战招聘人才》《如何训练人工智能士兵机器人》等。

兰德公司除接受美军相关部门委托，开展人工智能领域定向研究外，还依托“安全2040”等项目进行专题深入研究。“安全2040”项目是兰德全球风险与安全中心实施的一项研究计划，跨越核战略、经济学到人类学等领域，旨在为决策者提供专业知识指导，预测新兴技术给全球安全带来的威胁，内容涵盖了“脑机接口”“全球气候变化”“量子计算”“3D打印”“人工智能”等议题。在人工智能议题方面，围绕人工智能是否能够跟踪或监视敌方力量、如何在决策支持系统中使用人工智能技术、如何根据核武器控制的经验控制人工智能等问题开展一系列研讨，形成了《人工智能对于核战争风险意味几何》报告，分别以英、中、韩三种语言发布于兰德公司官网。该报告认为，到2040年，人工智能有很大潜力推翻核稳定根基并削弱其威慑力，在日趋多极化的战略环境中尤为如此。

据官网显示，兰德公司从事人工智能领域研究专家现有34名，其中19名拥有博士学位，学科背景广泛，涵盖物理学、信息科学、计算机科学、量子技术、化学等，例如高级研究员布里恩阿尔基尔为加州大学洛杉矶分校电气工程专业博士，接受过算法设计师培训；斯科特哈罗德拥有哥伦比大学政治学博士学位，专门研究中国、日本、朝鲜和韩国等的外交和国防问题；贾斯汀格拉纳获得美利坚大学经济学博士学位，致力于将博弈论应用于计算机网络安全问题。此外，研究团队的专家也与政府有着广泛而密切的联系，例如，20112016年，兰德公司高级信息科学家菲利普安东曾两次被借调至国防部，担任采办政策分析中心的高级主管职位，直接向国防部负责采办、技术和后勤的副部长汇报工作，在此期间，他实施了改善国防部政策和机构绩效的战略计划，制定了可负担性政策等，并获得国防部杰出服役勋章。

（四）战略与国际研究中心的人工智能项目

战略与国际研究中心作为长期关注防务领域的知名智库，依托“技术与创新”项目、“国际安全”项目、“人权倡议”项目等，开展人工智能技术相关研究，为美国发展人工智能技术、制定相关政策和战略提供参考。

“技术与创新”项目旨在分析变革性技术的发展对国家安全、社会生活等各个方面的影响，涉及人工智能研究的计划包括“人工智能”计划、“中国创新政策”计划、“面部识别”计划等。其中，“人工智能”计划旨在探索管理人工智能风险的方法，以最大程度地提高人工智能为人类经济和社会带来的利益。“中国创新政策”计划旨在更好地了解中国的创新政策以及中国在高科技创新方面的成果，评估其对行业、中国贸易伙伴和全球经济的影响，该项目研究内容分为三类：一是概述中国科技创新的总体趋势；二是针对数字经济、新能源汽车、半导体、人工智能、商用飞机和制药等六个中国最先进的领域开展研究；三是研究中国的技术进步、整体实力与其国际影响力之间的关系。该计划发布了《中国不平衡的高科技发展：对美国的影响》《中国大力投资发展人工智能》等研究报告，并举办了以“中国的人工智能创新系统”为主题的研讨会，讨论中国人工智能生态系统现状以及美国应如何回应中国在人工智能方面的进步。“面部识别”计划专注于探索美国面部识别技术在使用和管理方面的未来趋势，侧重于面部识别基础技术的发展、确保人权和公民自由的规则和管理机制，以及美国政府在促进人脸识别技术有益应用方面应发挥的作用等。

“国际安全”项目聚焦国防战略和政策、美国核政策、反恐和国土安全、大规模杀伤性武器扩散、国防预算分析、导弹防御等常规军事问题，还致力于解决美国外交和安全政策等非军事问题，旨在对美国面临的国防和安全挑战进行非党派分析，为国会、行政部门和行业提供决策支持信息。其下属的“了解人工智能”计划旨在深入了解人工智能对国家安全的影响，探索人工智能在国家安全中的应用与商业应用之间的联系。作为该项目的一部分，研究团队还通过圆桌会议讨论人工智能领域的关键主题，包括人工智能应用的概念框架、人工智能技术的风险和挑战等，形成了《人工智能与国家安全：人工智能生态系统的重要性》等研究报告。

“人权倡议”项目于2014年6月启动，战略与国际研究中心是华盛顿唯一设置此类项目的智库。该项目将跨部门和跨学科的学者聚集在一起应对全球最紧迫的人权挑战，包括“技术与人权”“全球供应链中的劳工权力”“冲突、安全与人权”等计划。其中，“技术与人权”计划重点关注人工智能的定义问题，以及如何更好地制定政策以支持言论自由，同时应对错误信息、虚假信息等。

另外，战略与国际问题研究中心认为美国需要制定全面的国家机器智能战略，以实现保持技术优势、促进经济发展、维护社会规范和价值观、保护美国公民等四个关键的政策目标。为此，战略与国际问题研究中心与全球最顶尖的管理咨询机构博思艾伦咨询公司合作，开展针对机器智能风险和隐患的项目，为美国在机器智能领域保持竞争优势、应对相关风险和挑战提供建议。

（五）安全与新兴技术中心人工智能研究

安全与新兴技术中心成立于2019年1月，是美国最大的人工智能和政策研究中心，位于乔治敦大学沃尔什外交学院，专注于人工智能和先进计算的研究。该智库具有以下特色：一是将人工智能和先进计算领域的专业知识与乔治敦大学广泛的政策网络相结合，对新兴技术给国家安全带来的影响进行全面分析。二是安全与新兴技术中心的研究人员均为来自国家安全委员会、情报界、国土安全部、国防部等的专家，拥有丰富的情报和运营经验，为技术研究提供了坚实的信息基矗三是安全与新兴技术中心的数据科学团队以前所未有的规模收集、处理和分析开源数据，包括各种来源的信息图表、专家证词、已发布的报告、外文资料和技术资料等，能充分保证研究成果的权威性、专业性和可靠性。

自成立以来，该中心发布人工智能相关研究报告40余篇，涵盖了技术、国家安全、国际事务等领域，并致力于中俄人工智能发展动态追踪，翻译、分析了大量中俄人工智能计划、战略、重要机构的预算等，例如《人工智能标准化白皮书》《中国新一代人工智能战略咨询委员会委员简介》《国家新一代人工智能创新发展试验区建设工作指南》等。此外，安全与新兴技术中心的研究人员还会定期在各种媒体上发表言论，并提供国会证词、时事评论等。2019年9月，安全与新兴技术中心还与乔治敦大学安全研究中心联合组织了主题为“人工智能与国家安全”的乔治卡拉里斯情报会议。
责任编辑：YYX