0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

以“科技向善”引领AI全方位治理,确保AI“可知”“可控”“可用”“可靠”

倩倩 来源:lq 2019-09-03 14:52 次阅读

8月29日,2019世界人工智能大会在上海开幕。世界一些国家的着名科技公司和学界、产业界着名人士参加了此次大会,对人工智能的发展进行展望分析和献计献策。中国腾讯董事会主席兼首席执行官马化腾在演讲时表示,人工智能(AI)治理的紧迫性越来越高,应以“科技向善”引领AI全方位治理,确保AI“可知”“可控”“可用”“可靠”。

尽管并非所有人都认同AI的这几个“可”,但这提出了AI的一种方向,即AI产品的研发和使用必须同时具有几个维度,而不能只发展一个方面。AI或其他科技产品无论如何新颖和实用,也需要在可控的状态下才能受到人们的欢迎,并且在获得极大效益的同时,防止和减少对人类社会可能造成的麻烦和灾难。这或许是反思世界各国经济发展与环境保护曾犯下的错误后得出的经验。

确保AI的“知、控、用、靠”也是总结了科技史上的先研发、后管理的传统思路和做法的教训。在科技史上,汽车的发明把人类社会带入了工业文明时代,但是,在汽车的使用过程中,人们却较难控制其带来的交通事故和伤害,安全带的发明和使用就是控制汽车伤害事件的一个要素,但是,汽车发明之后80年才研发出安全带。

基于这样的认知,微软提出了其人工智能发展的一项原则——每一项AI产品都要经过AI伦理道德审查。AI的迅猛发展也让人类认识到,如果AI在可用的同时不可控的话,人类将付出更大的代价。因此,对每一种AI产品进行伦理审查和立规也成为AI研发必须同时完成的任务。2016年微软的CEO萨提亚·纳德拉(Satya Nadella)提出了人工智能的十大伦理:AI必须用来辅助人类;AI必须是透明的;AI必须实现效能最大化,同时又不能伤害人的尊严;AI必须保护人的隐私;AI必须承担算法责任以便人类可以撤销非故意的伤害;AI必须防止偏见。

以上6项是对AI产品提出的,但同时也提出了使用AI产品的人类应该拥有的4个伦理原则,包括人要有同理心,这在人与AI共存的世界里非常有价值;教育,为研发和管理AI提供基础;保持人的创造力,机器也会继续丰富和增强人们的创造力;裁决和责任,最终由人来对AI的判决或诊断,或对AI产生的所有结果负责。

如果能实施,这些原则当然能对AI进行有效的控制。但实际上,由于种种原因,很多机构和研发者设计的AI产品并非可控,也因此会在应用时出现种种问题。目前最大的问题就是侵犯人们的隐私,难以保证安全,也因此受到人们的批评和反对。

最近一个比较大的教训是苹果产品的语音助手西瑞(Siri)。2019年7月,媒体报道,西瑞会偷录用户的隐私语音,如就诊时的医疗信息等,并转化为声音档案,发送给苹果公司在不同国家的承包商。声音档案同时也记录用户的位置、使用数据与通讯内容。在经过一番解释和拉锯之后,苹果公司于8月28日就西瑞秘密录下与用户的交流,并将文件泄露给外包商正式道歉。由于隐私不保,用户提出了批评,而且如果这些情况不能改善,就会让苹果失去大量的用户,甚至被市场抛弃。

不过这种情况也表明,人工智能的发展最终还是取决于是否能受人控制,因为离开了人的控制,AI就无法进化和升级。正是在人与AI的互动情况之下,才有可能让AI的伦理审查和监控失灵或失范,并造成安全漏洞。

因此,不只是可知可用,可控和可靠也要同时得到保证和保障,AI才会有未来。其他产品同样如此。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 微软
    +关注

    关注

    4

    文章

    6554

    浏览量

    103909
  • 人工智能
    +关注

    关注

    1791

    文章

    46711

    浏览量

    237236
收藏 人收藏

    评论

    相关推荐

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    很幸运社区给我一个阅读此书的机会,感谢平台。 《AI for Science:人工智能驱动科学创新》第4章关于AI与生命科学的部分,为我们揭示了人工智能技术在生命科学领域中的广泛应用和深远影响。在
    发表于 10-14 09:21

    AI for Science:人工智能驱动科学创新》第二章AI for Science的技术支撑学习心得

    和数量直接影响到模型的准确性和可靠性。因此,数据获取、处理、分析和质量控制在AI for Science中至关重要。此外,数据驱动的研究范式也促使科学家从传统的假设驱动转向更加灵活和开放的研究方法
    发表于 10-14 09:16

    云开发AI助手

    AI
    草帽王路飞
    发布于 :2024年07月22日 14:41:54

    平衡创新与伦理:AI时代的隐私保护和算法公平

    成了一把双刃剑,其锐利的一面正逐渐指向我们的核心价值。面对这些挑战,制定一套有效的AI治理框架和隐私保护机制变得迫在眉睫。 确保AI决策的透明度是解决这些问题的关键一步。透明度不仅
    发表于 07-16 15:07

    润和软件基于华为昇腾AI所打造的IntelliCore AI解决方案一体机

    江苏润和软件股份有限公司(以下简称“润和软件”)基于华为昇腾AI所打造的IntelliCore AI解决方案一体机,提供全方位AI与数据服务,帮助企业构筑竞争新优势,
    的头像 发表于 05-09 09:18 896次阅读
    润和软件基于华为昇腾<b class='flag-5'>AI</b>所打造的IntelliCore <b class='flag-5'>AI</b>解决方案一体机

    risc-v多核芯片在AI方面的应用

    在极低的能耗下实现高效的AI元器件的运行。这对于需要长时间运行和依赖电池供电的AI设备来说尤为重要。 其次,RISC-V的模块化架构允许其不同部分模块化的方式串在一起,从而满足各种不同的应用需求。这使
    发表于 04-28 09:20

    联想4月18日发布AI PC新品,引领AI PC时代

    联想观点,适应未来趋势,PC产业即将步入基于大模型技术的AI PC阶段,引领PC市场进入第三个重要代际更迭。于是,AI PC的一些关键特性得以揭示出来
    的头像 发表于 03-21 15:28 716次阅读

    数据赋能:构建数据治理AI的协同闭环

    在数字化浪潮中,数据已成为企业的新型燃料,而AI则是提炼这种燃料的精炼厂。数据治理AI的协同作用,正在引领企业迈向更智能、更高效的未来。本文将展示企业如何通过将数据
    的头像 发表于 03-15 10:47 447次阅读

    NanoEdge AI的技术原理、应用场景及优势

    硬件设计则是为了确保设备在执行这些任务时能够保持低能耗,从而提高其续航能力。 2、应用场景 NanoEdge AI 可以广泛应用于各种物联网设备和传感器,如智能家居、工业自动化、智能交通、医疗健康
    发表于 03-12 08:09

    传音旗下TECNO发布全新AIOS,致力于全方位提升用户AI移动体验

    传音控股旗下创新科技品牌TECNO于MWC 2024宣布推出TECNO AIOS ,用AI革新致力于全方位提升全球用户AI移动体验。
    的头像 发表于 03-01 16:30 732次阅读

    微软携手法国AI初创企业Mistral推动AI模型商业化

    微软近日与法国人工智能初创企业Mistral达成合作协议,旨在推动AI模型的商业化应用。据悉,微软将提供全方位支持,帮助这家成立仅10个月的公司将其先进的AI模型推向市场。同时,微软还将持有Mistral的少量股份,但具体的财务
    的头像 发表于 02-28 10:23 485次阅读

    富士通发布最新的人工智能(AI)战略,聚焦深化人类与AI之间的协作

    富士通株式会社(以下简称“富士通”)发布了最新的集团人工智能(AI)战略,聚焦深化人类与AI之间的协作,并提出了将AI作为“可信赖的助手”这一愿景,为提升人类生产力与创造力提供全方位
    的头像 发表于 02-21 17:09 718次阅读
    富士通发布最新的人工智能(<b class='flag-5'>AI</b>)战略,聚焦深化人类与<b class='flag-5'>AI</b>之间的协作

    Supermicro推出适用于AI存储的机柜级全方位解决方案 加速高性能AI训练和推理的数据存取

    【2024年2月1日,美国圣何塞讯】Supermicro, Inc.(纳斯达克股票代码:SMCI)作为AI、云端、存储和5G/边缘领域的全方位IT解决方案制造商,推出适用于人工智能(AI)和机器学习
    的头像 发表于 02-01 17:56 607次阅读

    引领AI未来 | 软通动力携手华为云联合成立泰国AI云智社区

    12月18日,引领AI未来”为主题的华为云泰国首届AI主题峰会在曼谷举行,政企客户、本地伙伴、中资伙伴、开发者等千人参会,围绕“AI f
    的头像 发表于 12-20 09:45 379次阅读
    <b class='flag-5'>引领</b><b class='flag-5'>AI</b>未来 | 软通动力携手华为云联合成立泰国<b class='flag-5'>AI</b>云智社区

    APUS李涛出席「清华会讲」谈“智能向善

    ,提出升级更新的“AI六要素”驱动中国AI产业可持续发展,为全球AI建设与治理带来专业见地,讲解如何引领智能
    的头像 发表于 11-22 16:13 477次阅读
    APUS李涛出席「清华会讲」谈“智能<b class='flag-5'>向善</b>”