0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

介绍规范人工智能的5条指南

bzSh_drc_iite 来源:cg 2018-12-07 15:23 次阅读

随着人工智在日常生活中愈发普及,AI监管的问题也逐渐浮出水面,日渐棘手。本文翻译自文章《Point: Should AI Technology Be Regulated?: Yes, and Here's How》,文中首先提出AI监管势在必行,其次阐释了监管的重点和难点,接着分析介绍了规范人工智能的5条指南,旨在为相关部门的决策提出建议。文章最后,点明人工智能监管中最棘手之处在于:它不仅是一个技术问题,而且是一个社会学问题,并呼吁伦理学家等多方学者参与,共同来解决AI监管难题。

政府监管对于预防带来的伤害是非常必要的。但监管是一种非常缓慢的过程,且很容易受到政治的干预。而且,当监管应用于人工智能等快速发展的领域时,错位的监管可能会扼杀创新,破坏人工智能带给我们的巨大的潜在好处,比如提高无人驾驶汽车的安全性、提高生产率等等。埃隆·马斯克(Elon Musk)曾敦促美国政府尽早对人工智能进行监管,但我们也不希望监管阻碍技术的创新和发展。

为此,研究人员提出了一个折中的方法:即避免过度监管人工智能的研究,重点监管和关注人工智能在交通运输、医学、政治和娱乐等领域的应用。这种方法不仅平衡了人工智能研究带来的好处和人工智能系统可能的潜在危害,而且更具可操作性。

监管AI到底有多棘手?

人工智能席卷全球的趋势势不可挡。如何监管却成了棘手的问题。

监管AI存在的第一个问题就是如何定义AI?

曾经的AI只是一个国际象棋游戏机,但是现在,AI已融入我们的社交媒体、汽车、医疗设备等之中。技术进步的速度太快,并且迅速地融入我们的生活中,导致机器和智能机器之间的界限开始变得模糊不清。

比如“伤害(harm)”的概念就很难被纳入算法中。自动驾驶汽车可以大幅减少高速公路事故,但同时人工智能也可能会造成一些事故,而且人工智能造成的事故比普通的人为事故更容易使人受到伤害。因为AI没有常识,所以可能会删除尚未备份的博士学位论文。墨菲的人工智能定律是,当你给AI一个目标时,无论你是否喜欢它实现其目标的含义,AI都会做到这一点。人工智能在定义诸如“伤害”等模糊的概念方面几乎没有常识。

监管虽然很难,但是必须监管。那应该采取哪些规则来解决过多、而且不充分的监管问题呢?本文建议从以下5个方面着手:

规范AI应用的5个指南

1 不要将AI武器化

首先是制定针对人工智能武器和网络武器的法规。马斯克在给联合国的一封信中说:“自主武器(autonomous weapons)开发出来后,将会使武装冲突的规模比以往任何时候都大,而且时间比人们想象地更快。自主武器可能会被用作恐怖武器,也可能被暴君和***用来对抗无辜的平民。所以我们不应该创建应用AI技术的杀戮机器。因此,第一个监管原则是:“不要将AI武器化。”

2法律约束

第二个指南是人工智能应受到适用于人类操作员的全部法律约束。如果说“the AI did it”即必须意味着作为AI的所有者、操作者或构建者的人们做到了。作为AI的所有者、操作者或构建者,即负责任的一方,必须确保AI不会伤害任何人;一旦对别人造成了伤害,就应该承担责任。但是如果造成了伤害,应该可以区别出来是AI的拥有者,或者是生产商的责任,但是目前并没有完善的法律体系来应对这种情况。

3明确告知“自己是AI”

AI应明确告知他人,自己是AI。这意味着Twitter聊天机器人、扑克机器人和其他人必须将自己标识为机器,而不是人。因为,已经有政治机器人对新闻文章发表评论,并产生不和谐的宣传声音。

4未经批准不得保留或披露机密信息

第四条指南是,未经消息来源事先明确批准,AI不得保留或披露机密信息。比如从Amazon Echo,Google Home和智能电视中收集的数据,或是看似无害的扫地机器人也可能创建精确的室内地图。未来隐私问题只会越来越多越来越尖锐,需要更严格的隐私政策来保护人们及其信息。

5 消除偏见

AI应用程序规则的第五个指南是AI不得增加或放大系统中已存在的任何偏见。 现在AI使用过去的数据来预测未来。假如,数据显示白人违约率为60%,而有色人种违约率只有20%,那么种族信息就对算法很重要。

与AI相关的另一个相关问题是,所有形式的AI(包括机器人,自治系统,嵌入式算法)必须具有问责性、可解释性和透明性,以便人们能够理解机器所做出的决策。美国的各州可以使用预测算法来计算囚犯未来构成的风险,并在法庭审判中用做量刑建议。人工智能和算法会用于决定谁可以访问公共服务以及谁接受执法部门的额外审查。所有这些人工智能和算法的应用都提出了关于人权、系统性偏见和长期存在的不公平的棘手问题。

这也引出了人工智能监管中最棘手的问题之一:即它不仅是一个技术问题,而且是一个社会学问题,需要伦理学家和其他各方参与使用他们的专业知识来解决监管难题。

如何进行监管?

和其他法律法规一样,单一的监管机构是不可行的,而是应该嵌入现有的监管机制之中。

比如,假设我有一辆无人驾驶汽车发生了事故。如果这是我的车,我就会被认为应该负责。但可能是汽车技术工艺存在缺陷才导致的事故,在这种情况下,制造商应该分担责任。因此,无人驾驶汽车应该遵守与我们人类相同的法律,受联邦机动车辆安全标准(Federal Motor Vehicle Safety Standards)和机动车驾驶法律的监督。

有些人可能会问:电车难题(trolley problem)怎么处理呢?如何对汽车进行编码来确定如何在电车难题中做出抉择呢?这并不是一个工程问题,而是一个哲学思想问题。实际上,无人驾驶汽车将减少事故中受伤或死亡的人数;由于算法做出选择而导致某人受伤的极端情况只占事故的一小部分。以谷歌的自动驾驶Waymo为例,它在美国已经行驶超过200万英里,200万英里只有一次事故。其安全行驶率比任何驾驶员都低,大约比60-69岁的人低10倍,比新司机低40倍。

人工智能越来越普及,但是现有的监管机构尚未开始监管。但应该尽早识别这些应用程序,并确定监管机构来实现监管目标。我们必须认识到法律法规的目的是保护人类和社会免受伤害。可以通过人工智能的合作平台和研究组织作为其对对人类和社会影响的讨论和参与的开放平台。苹果和艾伦人工智能研究所等机构正在合作制定人工智能技术的最佳实践;纽约大学的AI Now研究所和哈佛大学的Berkman-Klein中心也正致力于制定人工智能的道德准则。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 机器人
    +关注

    关注

    211

    文章

    28767

    浏览量

    208994
  • 人工智能
    +关注

    关注

    1797

    文章

    47927

    浏览量

    240968

原文标题:人工智能监管指南

文章出处:【微信号:drc_iite,微信公众号:全球技术地图】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    相关推荐

    Banana Pi 携手 ArmSoM 推出人工智能加速 RK3576 CM5 计算模块

    的直接替代品。 ArmSoM 在其创建过程中写道:“ArmSoM-CM5 是一款由 Rockchip RK3576 第二代 8nm 高性能 AIOT(人工智能物联网)平台驱动的计算模块。它集成了四核
    发表于 12-11 18:38

    嵌入式和人工智能究竟是什么关系?

    嵌入式和人工智能究竟是什么关系? 嵌入式系统是一种特殊的系统,它通常被嵌入到其他设备或机器中,以实现特定功能。嵌入式系统具有非常强的适应性和灵活性,能够根据用户需求进行定制化设计。它广泛应用于各种
    发表于 11-14 16:39

    《AI for Science:人工智能驱动科学创新》第6章人AI与能源科学读后感

    探讨了人工智能如何通过技术创新推动能源科学的进步,为未来的可持续发展提供了强大的支持。 首先,书中通过深入浅出的语言,介绍人工智能在能源领域的基本概念和技术原理。这使得我对人工智能
    发表于 10-14 09:27

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    很幸运社区给我一个阅读此书的机会,感谢平台。 《AI for Science:人工智能驱动科学创新》第4章关于AI与生命科学的部分,为我们揭示了人工智能技术在生命科学领域中的广泛应用和深远影响。在
    发表于 10-14 09:21

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    ,无疑为读者铺设了一探索人工智能(AI)如何深刻影响并推动科学创新的道路。在阅读这一章后,我深刻感受到了人工智能技术在科学领域的广泛应用潜力以及其带来的革命性变化,以下是我个人的学习心得: 1.
    发表于 10-14 09:12

    risc-v在人工智能图像处理应用前景分析

    其在人工智能图像处理领域的应用提供更多支持。 标准化和规范化推进 :为了降低RISC-V的碎片化风险并促进其在全球范围内的广泛应用,标准化和规范化将是未来的重要趋势。这将有助于提升RISC-V技术
    发表于 09-28 11:00

    人工智能ai 数电 模电 模拟集成电路原理 电路分析

    人工智能ai 数电 模电 模拟集成电路原理 电路分析 想问下哪些比较容易学 不过好像都是要学的
    发表于 09-26 15:24

    人工智能ai4s试读申请

    目前人工智能在绘画对话等大模型领域应用广阔,ai4s也是方兴未艾。但是如何有效利用ai4s工具助力科研是个需要研究的课题,本书对ai4s基本原理和原则,方法进行描诉,有利于总结经验,拟按照要求准备相关体会材料。看能否有助于入门和提高ss
    发表于 09-09 15:36

    名单公布!【书籍评测活动NO.44】AI for Science:人工智能驱动科学创新

    材料基因组工程的推动下,人工智能如何与材料科学结合,加快传统材料和新型材料的开发过程。 第4章介绍人工智能在加快药物研发、辅助基因研究方面及在合成生物学中的普遍应用。 第5
    发表于 09-09 13:54

    报名开启!深圳(国际)通用人工智能大会将启幕,国内外大咖齐聚话AI

    8月28日至30日,2024深圳(国际)通用人工智能大会暨深圳(国际)通用人工智能产业博览会将在深圳国际会展中心(宝安)举办。大会以“魅力AI·无限未来”为主题,致力于打造全球通用人工智能领域集产品
    发表于 08-22 15:00

    FPGA在人工智能中的应用有哪些?

    FPGA(现场可编程门阵列)在人工智能领域的应用非常广泛,主要体现在以下几个方面: 一、深度学习加速 训练和推理过程加速:FPGA可以用来加速深度学习的训练和推理过程。由于其高并行性和低延迟特性
    发表于 07-29 17:05

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V2)

    32秒 https://t.elecfans.com/v/27222.html *附件:5G AIoT技术实践入门与探索_V2_20240416.pdf 人工智能 AIMO模型优化平台介绍 2分20秒
    发表于 05-10 16:46

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V1)

    .pdf 人工智能 软件平台使用指导A:AidLux平台介绍 8分29秒 https://t.elecfans.com/v/25505.html *附件:AidLux平台使用介绍.pdf 人工
    发表于 04-01 10:40

    嵌入式人工智能的就业方向有哪些?

    嵌入式人工智能的就业方向有哪些? 在新一轮科技革命与产业变革的时代背景下,嵌入式人工智能成为国家新型基础建设与传统产业升级的核心驱动力。同时在此背景驱动下,众多名企也纷纷在嵌入式人工智能领域布局
    发表于 02-26 10:17

    关于人工智能的60趋势预测

    2023年是技术发展的分水岭,生成式人工智能成为主流。2024年伊始,生成式AI的格局预计将迅速发展,带来一系列有望改变技术及其应用的趋势。这些趋势,从多模式人工智能模型的进步到小语言模型的兴起
    的头像 发表于 02-21 08:26 760次阅读
    关于<b class='flag-5'>人工智能</b>的60<b class='flag-5'>条</b>趋势预测