0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

“人工智能与国际安全:挑战与机遇”分论坛

CISTP科技政策中心 来源:清华大学战略与安全研究 作者:清华大学战略与安 2021-01-21 09:36 次阅读

2020年12月18日晚九点,在首届清华大学人工智能合作与治理国际论坛上举行了“人工智能与国际安全:挑战与机遇”分论坛,由清华大学战略与安全研究中心(以下简称中心)承办。此次分论坛重点公布和通报了中心与布鲁金斯学会联合研究项目“人工智能与国际安全”的初步成果,这个项目得到博古睿研究院和明德路基金会的共同支持。

论坛现场

清华大学战略与安全研究中心主任、人工智能国际治理研究院名誉院长傅莹和布鲁金斯学会主席约翰·艾伦(John Allen)围绕会议主题做主旨发言。清华大学战略与安全研究中心高级研究员、国际关系学系教授李彬对联合研究的情况和中方专家关于智能武器风险和治理的思路做了详细介绍。中国电科发展战略研究中心高级工程师郝英好、中国军控与裁军协会副会长兼秘书长李驰江、博古睿研究院项目副总裁尼尔斯·吉尔曼(Nils Gilman)、布鲁金斯学会研究员克里斯·梅塞罗(Chris Meserole)、布鲁金斯学会访问研究员汤姆·斯蒂芬尼克(Tom Stefanick)等项目成员,就人工智能的攻击禁区、数据安全风险、对国际法的挑战以及中美在全球治理上的合作等问题分别发表观点。分论坛由清华大学战略与安全研究中心副主任肖茜主持。

约翰·艾伦在主旨发言中提到,中美在人工智能等新兴技术领域的战略竞争日益明显,围绕着“人工智能军备竞赛”的说法不绝于耳。为了避免不可控的军备竞赛,他希望“人工智能与国际安全”项目中所讨论的安全关切,能够在政府层面对话和非官方论坛中得到进一步探讨,特别是针对人工智能所构成的国家安全风险,以降低这些风险发生的可能性。他认为现在正是规范技术发展和应用的关键期,呼吁美中两国的政府和专家团体能够抓住当下的机遇,围绕降低人工智能可能构成的国家安全风险的实际步骤达成共识。

傅莹在主旨发言中重点介绍了中国关于人工智能治理国际合作的主张,她说,今年11月中国国家主席习近平在二十国集团(G20)峰会上强调,中方支持围绕人工智能加强对话,倡议适时召开专题会议,推动落实G20人工智能原则,引领全球人工智能的健康发展。今年9月,中国国务委员兼外长王毅提出《全球数据安全倡议》,表示希望国际社会在普遍参与的基础上就人工智能的安全问题达成国际协议,支持通过双边或多边协议的形式确认倡议中的承诺。他提出有效应对数据安全风险应遵循的三项原则,包括秉持多边主义、兼顾安全发展和坚守公平正义等。

她说,中美关于人工智能安全治理的联合研究项目是一个成功的案例,双方都从中受益良多,研究结果也有很好的参考价值。既然人工智能武器化不可避免,我们需要寻找合适的治理路径。人类必须汲取历史教训,例如对核武器的治理共识就发生的太晚,导致人类曾经面临巨大威胁,互联网的治理也没有能够在早期实现。大家希望这次对人工智能,尤其是智能武器的治理,人类能走在技术变革的前面,充分认识其风险,早些达成治理共识。在讨论人工智能国际治理时,人们经常引用在核武器治理方面享有声誉的Pugwash机构(帕格沃什科学和世界事务会议),这一机构在核军控领域起到了积极作用。在推动人工智能的国际治理方面,也可以参考这样的方式,成立一个由科研人员、政府和政策专业人士组成的“人工智能国际治理委员会”。

傅莹发言

中方团队牵头人李彬在总结中方团队研究的进展和发现时说,国际法的基本准则应该被纳入到人工智能武器的设计和部署之中,从而确保使用智能武器进行武力攻击时符合国际法律规范。他谈到武力法和武装冲突法的运用,主张用国际法的基本原则指导人工智能军用技术的开发,同时还应该在人工智能程序员和军事操作人员中开展教育,让他们更好地理解和在实践中贯彻使用武力法中的相称性原则和武装冲突法中的比例原则。

李彬发言

在座谈环节,专家就中美如何在人工智能治理领域合作展开深入讨论并表示,中美两国是人工智能大国,都有防范军用人工智能技术风险和完善治理的需求。人工智能技术的滥用或者偏差有可能冲击战略稳定、改变交战规则,抬高军事风险。中美都有较强的风险管控需求和共同利益。因此,中美在人工智能国际治理中有很大的合作空间。有专家指出,人工智能在数据收集、算法训练和战场应用中,必须遵守国际法中的比例原则和区分原则,不能攻击平民或民用设施,造成过多的伤害。中方专家提出采用数据收集的“红绿灯”规则,禁止人工智能武器攻击民用目标,只能对完全确认的军用目标发动进攻。这个措施可以使人工智能更好地遵守国际法。

最后,专家们表示,包括中美在内的世界各国可以通过政策交流、互换文件、学者探讨等多种方式,增信释疑,实现在人工智能安全问题上形成国际治理共识。

责任编辑:lq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 算法
    +关注

    关注

    23

    文章

    4607

    浏览量

    92842
  • 人工智能
    +关注

    关注

    1791

    文章

    47205

    浏览量

    238272
  • 数据收集
    +关注

    关注

    0

    文章

    72

    浏览量

    11158

原文标题:分论坛三|人工智能与国际安全:挑战与机遇

文章出处:【微信号:cistp2016,微信公众号:CISTP科技政策中心】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    光庭信息亮相2024东湖国际人工智能高峰论坛

    近日,2024东湖国际人工智能高峰论坛在中国光谷科技会展中心盛大举办。论坛以“智联世界,共创未来”为主题,旨在加速推动人工智能创新成果规模化
    的头像 发表于 11-28 10:19 168次阅读

    19位国际顶尖学者联袂撰写《重新审视边缘人工智能机遇挑战

    19位国际顶尖学者联袂撰写《重新审视边缘人工智能机遇挑战
    的头像 发表于 11-27 01:04 448次阅读
    19位<b class='flag-5'>国际</b>顶尖学者联袂撰写《重新审视边缘<b class='flag-5'>人工智能</b>:<b class='flag-5'>机遇</b>与<b class='flag-5'>挑战</b>》

    嵌入式和人工智能究竟是什么关系?

    理这些数据,提高系统的响应速度和准确性。此外,嵌入式系统还可以为人工智能提供安全和隐私保护,避免数据泄露和攻击。总之,嵌入式系统和人工智能是相辅相成的,它们在许多领域都有广阔的应用前景。 嵌入式系统
    发表于 11-14 16:39

    高通公司孟樸出席进博会分论坛,共话人工智能与新型工业化未来

    11月5日,备受瞩目的第七届中国国际进口博览会(简称“进博会”)在上海国家会展中心拉开了帷幕。与此同时,由工业和信息化部、商务部携手中国电子学会举办的第七届虹桥国际经济论坛人工智能
    的头像 发表于 11-06 15:01 501次阅读

    《AI for Science:人工智能驱动科学创新》第6章人AI与能源科学读后感

    国际合作等多个层面。这些内容让我更加认识到,在推动人工智能与能源科学融合的过程中,需要不断探索和创新,以应对各种挑战机遇。 最后,通过阅读这一章,我深刻感受到
    发表于 10-14 09:27

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    阅读这一章后,我深感人工智能与生命科学的结合正引领着一场前所未有的科学革命,以下是我个人的读后感: 1. 技术革新与生命科学进步 这一章详细阐述了人工智能如何通过其强大的数据处理和分析能力,加速生命科学
    发表于 10-14 09:21

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    ,还促进了新理论、新技术的诞生。 3. 挑战机遇并存 尽管人工智能为科学创新带来了巨大潜力,但第一章也诚实地讨论了伴随而来的挑战。数据隐私、算法偏见、伦理道德等问题不容忽视。如何在利
    发表于 10-14 09:12

    名单公布!【书籍评测活动NO.44】AI for Science:人工智能驱动科学创新

    、污染治理、碳减排三个方面介绍了人工智能为环境科学引入的新价值和新机遇。 第8章探讨了AI for Science在快速发展过程中面临的机遇挑战,并对“平台科研”模式进行了展望。
    发表于 09-09 13:54

    报名开启!深圳(国际)通用人工智能大会将启幕,国内外大咖齐聚话AI

    8月28日至30日,2024深圳(国际)通用人工智能大会暨深圳(国际)通用人工智能产业博览会将在深圳国际会展中心(宝安)举办。大会以“魅力A
    发表于 08-22 15:00

    中国移动举办世界人工智能大会人工智能与教育论坛

    7月4日,2024世界人工智能大会人工智能与教育论坛在上海举行。论坛以“智能时代教育变革与人才培养”为主题,旨在探讨
    的头像 发表于 07-05 19:07 289次阅读
    中国移动举办世界<b class='flag-5'>人工智能</b>大会<b class='flag-5'>人工智能与</b>教育<b class='flag-5'>论坛</b>

    人工智能与大模型的关系与区别

    在科技日新月异的今天,人工智能(AI)已成为推动社会进步的重要力量。而在人工智能的众多分支中,大模型(Large Models)作为近年来兴起的概念,以其巨大的参数数量和强大的计算能力,在多个领域展现出了非凡的潜力。本文旨在深入探讨人工
    的头像 发表于 07-04 16:07 3671次阅读

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V2)

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V2) 课程类别 课程名称 视频课程时长 视频课程链接 课件链接 人工智能 参赛基础知识指引 1450秒 https
    发表于 05-10 16:46

    首届&quot;人工智能与可持续发展国际论坛&quot;在京成功召开

    4月25日,首届"人工智能与可持续发展国际论坛"在北京香格里拉酒店隆重召开。论坛由法国里昂商学院和北京邮电大学经管学院联合主办,北邮-里昂EMBA项目和法国里昂商学院全球商业
    的头像 发表于 05-07 15:24 606次阅读
    首届&quot;<b class='flag-5'>人工智能与</b>可持续发展<b class='flag-5'>国际</b><b class='flag-5'>论坛</b>&quot;在京成功召开

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V1)

    课程类别 课程名称 视频课程时长 视频课程链接 课件链接 人工智能 参赛基础知识指引 1450秒 https://t.elecfans.com/v/25508.html *附件:参赛基础知识指引
    发表于 04-01 10:40

    嵌入式人工智能的就业方向有哪些?

    嵌入式人工智能的就业方向有哪些? 在新一轮科技革命与产业变革的时代背景下,嵌入式人工智能成为国家新型基础建设与传统产业升级的核心驱动力。同时在此背景驱动下,众多名企也纷纷在嵌入式人工智能领域布局
    发表于 02-26 10:17