0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

微软发布!人工智能治理:未来蓝图

AI智胜未来 来源:中国军网 2023-06-13 14:25 次阅读

2023年5月25日,美国微软公司发布报告《AI治理:未来蓝图》(Governing AI: A Blueprint for the Future),详细介绍了政府在制定人工智能的政策、法律和法规时应考虑的五项指导方针。

元战略观察员精心编译本报告,为人工智能治理研究提供参考。

各国政府正在寻求或制定治理人工智能的新蓝图。基于众多紧迫的问题和议题,本报告在此提出一个方案,以帮助人工智能治理取得更快进展。该方案认同人工智能可以改善人们的生活,同时也制定了新的治理措施。基于政府和私营部门的倡议,该方案为人工智能治理提出五项建议:

1.搭建并执行以政府为主导的人工智能安全新框架;

2.控制关键基础设施的人工智能系统必须具备有效的安全防护措施;

3.基于人工智能技术架构,搭建范围更广的法律监管框架;

4.提升透明度,确保学界和公众可利用人工智能技术;

5.加强公私合作,用人工智能解决新技术引发的社会挑战。

391be77c-099e-11ee-962d-dac502259ad0.png

通过该方案,微软在一定程度上回应了美国白宫最近对人工智能公司的倡议,承诺确保人工智能的安全性和可靠性。

1、搭建并执行以政府

为主导的人工智能安全新框架

微软以政府工作的最新进展为基础,通过以下四种方式来提升人工智能的安全性:

第一,微软回应美国白宫最近的倡议,承诺将实施美国国家标准与技术研究院(NIST)的人工智能风险管理框架。

第二,将通过采取新措施,进一步加强与高风险人工智能系统相关的工程实践,来完善微软现有的人工智能测试工作。

第三,政府可以通过行政命令推进治理进程,要求向美国政府提供关键人工智能系统的供应商,应当自证其正在实施NIST的人工智能风险管理框架。

第四,与其他行业领导者和政府合作,制定与高度可靠的基础模型相关的新标准。

我们认识到,人工智能的快速发展带来了新的安全问题,并且通过合作制定可操作的标准,以帮助评估和解决这些问题。OpenAI、Google、Anthropic和其他人工智能公司的领导者已提出了重要的想法,为未来人工智能安全的进展奠定基础。

2、控制关键基础设施的人工智能系统

必须具备有效的安全防护措施

展望人工智能的未来,控制新技术潜在风险的基本方法一直以来都是有效的。该方法就是提前识别出新产品何时失控,并部署有效的安全“刹车”机制,以确保人工监督的有效性、及时性。

随着人工智能变得越来越强大,电网、供水系统和城市交通等关键基础设施交由人工智能控制的程度日益加深。因此,我们需要安全“刹车”机制来确保这些系统处于人类控制之下。

新的安全要求能为控制关键基础设施运行的人工智能系统进行安全“刹车”,从而确保基础设施人工监督的有效性、弹性和稳健性。政府将定义控制关键基础设施的高风险人工智能系统的类别,并确保运营商定期测试高风险系统,以确保系统安全措施有效。

3、基于人工智能技术架构

搭建范围更广的法律监管框架

随着对人工智能潜在监管问题的深入思考,我们需要建立一个与人工智能技术本身相符的法律和监管框架。简而言之,法律需要根据不同行为者在管理人工智能技术上的不同角色,赋予他们不同的监管责任。

在搭建人工智能的法律监管框架时,一方面,需要将现有的法律保护措施应用于人工智能。

第一,与客户合作,推动他们使用最佳方式来合法、负责地部署人工智能。

第二,监管机构需要新的人工智能专业知识和能力。

第三,支持广泛的教育倡议,为立法者、法官和律师提供人工智能技术和负责任的人工智能信息

第四,人工智能的快速进步给立法者或执法人员带来了新压力,他们需要了解新的人工智能技术及其工作原理

另一方面,针对高水平能力的人工智能基础模型制定新的法律法规。

第一,和其他领先的人工智能开发者共享先进人工智能模型的专业知识,以降低监管门槛。

第二,确立开发或部署高水平人工智能模型需要满足的条件。

第三,通过对人工智能数据中心运营商施加许可要求,确保有效执行高水平人工智能模型的许可制度。

4、提升透明度

确保学界和公众可利用人工智能技术

未来,有许多人工智能的政策问题有待认真讨论,包括安全与透明度之间的关系问题。在某些领域,许多专家认为保密对于安全至关重要,尤其是对于国家安全和公共安全。除此之外,透明度也很重要,甚至有助于更好地理解安全需求和最佳实践。

微软于2018年采用了人工智能伦理准则,并将透明度作为六项基本原则之一。在实施这一原则时,我们意识到在不同情况下提供不同类型的透明度非常重要。生成式人工智能的出现使得这一原则比以往更加重要,这也是需要持续进行研究和创新的关键领域。为了推动该领域的工作,微软向美国白宫做出了以下三项承诺:

第一,微软将发布年度透明度报告,向公众介绍其在负责任和安全管理人工智能方面的政策、系统、进展和表现。

第二,微软将支持建立一个开放的、供公众查阅的国家高风险人工智能系统注册机构,让公众了解这些系统的使用情况和方式。

第三,微软承诺确保其人工智能系统在与公众互动时能够清晰地向其传达系统的能力和不足。

第四,微软认同在重要场景中需标记人工智能生成的内容,以便公众“知晓所接收的内容”。

5、加强公私合作

用人工智能解决新技术引发的社会挑战

微软相信,公共和私营部门可以联合起来利用人工智能来改善世界,其中包括对抗技术变革所带来的挑战。微软对未来保持清醒的认识,并意识到有些人试图将人工智能作为武器而不是工具,技术变革会不可避免地带来难以预料的困难和问题。

近年来,人们越来越关注解决民主社会所面临的新风险,这些风险源于人工智能的潜在武器化。我们对未来技术的担忧是合理的,需要共同努力来对抗这种威胁。

在这一进程中,内容溯源和真实性联盟(C2PA)至关重要。该联盟由Adobe、BBC、Intel、Microsoft、Sony和Truepic等公司共同创立,整合了Adobe领导的内容真实性倡议(CAI),该倡议致力于为数字媒体提供历史背景,以及Microsoft和BBC领导的Project Origin倡议,旨在解决数字新闻生态系统中的虚假信息问题。

正如微软首席科学官埃里克·霍维茨去年所说,公私合营的成功需要采取“多管齐下的方法,包括媒体素养、意识和警觉性的培养,以及投资高质量传媒业的发展”。

微软将推出一套新的先进溯源工具,帮助公众识别人工智能生成的视听内容并了解其来源。在年度开发者大会上,微软宣布正在开发新的媒体溯源服务。该服务将使用元数据标记和签名来验证人工智能生成的视频和图像的真实性,该服务将按照C2PA的规范来实施。微软将支持主流的图像和视频格式,并将该服务提供给两款新人工智能产品Microsoft Designer和Bing Image Creator使用。这是一个重要措施,但也只是众多措施中的一个。幸运的是,许多人也正在采取类似且关键的行动,因此,需要将相关实践与更广泛的倡议结合起来。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 微软
    +关注

    关注

    4

    文章

    6590

    浏览量

    104026
  • 人工智能
    +关注

    关注

    1791

    文章

    47185

    浏览量

    238267

原文标题:微软发布!人工智能治理:未来蓝图

文章出处:【微信号:AI智胜未来,微信公众号:AI智胜未来】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    微软AI CEO苏莱曼谈对于人工智能未来发展

    日前,微软 AI CEO 穆斯塔法·苏莱曼在清华大学的演讲中,分享了他对人工智能未来发展的深刻洞见。苏莱曼提出了三个对于 AI 的核心观点——首先,他强调,发展人工智能的目标应当是服务
    的头像 发表于 11-15 13:53 267次阅读

    嵌入式和人工智能究竟是什么关系?

    了重要作用。在未来,随着嵌入式系统和人工智能技术的不断进步,我们可以预见更多创新应用的出现,为社会发展和生活品质的提升带来更多可能性。
    发表于 11-14 16:39

    《AI for Science:人工智能驱动科学创新》第6章人AI与能源科学读后感

    探讨了人工智能如何通过技术创新推动能源科学的进步,为未来的可持续发展提供了强大的支持。 首先,书中通过深入浅出的语言,介绍了人工智能在能源领域的基本概念和技术原理。这使得我对人工智能
    发表于 10-14 09:27

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    。 4. 对未来生命科学发展的展望 在阅读这一章后,我对未来生命科学的发展充满了期待。我相信,在人工智能技术的推动下,生命科学将取得更加显著的进展。例如,在药物研发领域,AI技术将帮助科学家们更加
    发表于 10-14 09:21

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    的同时,确保其公正性、透明度和可持续性,是当前和未来科学研究必须面对的重要课题。此外,培养具备AI技能的科研人才,也是推动这一领域发展的关键。 4. 激发创新思维 阅读这一章,我被深深启发的是人工智能
    发表于 10-14 09:12

    risc-v在人工智能图像处理应用前景分析

    RISC-V和Arm内核及其定制的机器学习和浮点运算单元,用于处理复杂的人工智能图像处理任务。 四、未来发展趋势 随着人工智能技术的不断发展和普及,RISC-V在人工智能图像处理领域的
    发表于 09-28 11:00

    名单公布!【书籍评测活动NO.44】AI for Science:人工智能驱动科学创新

    、污染治理、碳减排三个方面介绍了人工智能为环境科学引入的新价值和新机遇。 第8章探讨了AI for Science在快速发展过程中面临的机遇和挑战,并对“平台科研”模式进行了展望。 申请时间
    发表于 09-09 13:54

    报名开启!深圳(国际)通用人工智能大会将启幕,国内外大咖齐聚话AI

    8月28日至30日,2024深圳(国际)通用人工智能大会暨深圳(国际)通用人工智能产业博览会将在深圳国际会展中心(宝安)举办。大会以“魅力AI·无限未来”为主题,致力于打造全球通用人工智能
    发表于 08-22 15:00

    FPGA在人工智能中的应用有哪些?

    FPGA(现场可编程门阵列)在人工智能领域的应用非常广泛,主要体现在以下几个方面: 一、深度学习加速 训练和推理过程加速:FPGA可以用来加速深度学习的训练和推理过程。由于其高并行性和低延迟特性
    发表于 07-29 17:05

    微软发布全新Copilot+ PC,引领人工智能个人电脑新时代

    微软近日发布了革命性的Copilot+ PC个人电脑,该电脑搭载了最新的人工智能个人电脑芯片,并运行着微软最新版本的Windows 11操作系统及其创新的Copilot
    的头像 发表于 05-21 11:51 718次阅读

    中国面向人工智能的数据治理 行业研究报告

    电子发烧友网站提供《中国面向人工智能的数据治理 行业研究报告.pdf》资料免费下载
    发表于 05-10 17:22 0次下载

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V1)

    课程类别 课程名称 视频课程时长 视频课程链接 课件链接 人工智能 参赛基础知识指引 14分50秒 https://t.elecfans.com/v/25508.html *附件:参赛基础知识指引
    发表于 04-01 10:40

    微软发布首款人工智能PC

    微软最新发布了旗舰级企业设备——新款Surface Pro 10和Surface Laptop 6,这两款笔记本凭借最新的软件与人工智能功能,强势成为商业笔记本市场中的佼佼者。
    的头像 发表于 03-22 09:46 585次阅读

    嵌入式人工智能的就业方向有哪些?

    。 国内外科技巨头纷纷争先入局,在微软、谷歌、苹果、脸书等积极布局人工智能的同时,国内的BAT、华为、小米等科技公司也相继切入到嵌入式人工智能的赛道。那么嵌入式AI可就业的方向有哪些呢? 嵌入式AI开发
    发表于 02-26 10:17

    微软加强西德人工智能与云基础设施投资

    这项投资计划无疑将提升微软在欧洲人工智能市场的地位,助力西班牙的数字化转型进程。在此之前,这个科技巨头已经承诺将在未来两年内向德国投资32亿欧元(约合34.5亿美元),其中相当大比例的资金会被投向
    的头像 发表于 02-21 09:47 302次阅读