0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

IBM发布云服务帮助企业检测和减少AI偏差

E4Life 2018-09-21 11:01 次阅读

偏差是人工智能AI)中的一个严重问题。研究表明,流行的智能扬声器在理解非美国本土口音方面的可能性降低了30%,而且像Cognitec那样的面部识别系统 在非洲裔美国人脸上表现得更差。事实上,根据IBM最近委托进行的一项研究,由于潜在的责任问题,三分之二的企业对采用AI持谨慎态度。

为了帮助企业解决这一问题,IBM今天宣布推出基于云的全自动服务,该服务“不断为人工智能系统制定决策提供洞察力”。它还会扫描偏见的迹象,并建议调整,例如算法调整或平衡数据,这可能会减少其影响。

该服务解释了哪些因素影响了给定的机器学习模型的决策,以及它的整体准确性,性能,公平性和属性。此外,它使人们对其减轻偏差的建议以及任何促成这种信心的因素充满信心。

IBM表示,它适用于流行的机器学习框架和AI构建环境,包括IBM WatsonTensorflowSparkMLAWS SageMakerAzureML,并且可以根据各个企业的工作流程进行定制。

IBM在认知解决方案高级副总裁David Kenny表示:“IBM在为新的AI技术开发建立信任和透明度原则方面处于行业领先地位。” “现在是将想法付诸实践的时候了。我们正在为使用人工智能的企业提供新的透明度和控制权,并面临任何有缺陷的决策带来的最大潜在风险。“

除了宣布之外,IBM还在开源软件中推出了一个工具包:AI Fairness 360工具包,包含一个算法,代码和教程库,演示了在模型中实现偏差检测的方法。

在白皮书发布一个月之后,IBM公司采取了一些措施,其中一些研究人员为AI系统提出了“情况说明”。自愿性情况说明书,正式称为“供应商符合性声明”(DoC),将回答有关系统操作和培训数据,基础算法,测试设置和结果等问题。更细粒度的主题可能包括用于跟踪AI服务的数据工作流的治理策略,测试中使用的方法以及对数据集执行的偏差缓解。

“就像食品的营养标签或家用电器的信息表一样,人工智能服务的情况说明书将提供有关产品重要特征的信息,”IBM研究院AI基金会负责人兼AI Science for Social Good计划的联合主任Aleksandra Mojsilovic写道在介绍该论文的博客文章中。“人工智能的信任问题是IBM和许多其他技术开发商和提供商的首要考虑因素。人工智能系统具有改变我们生活和工作方式的巨大潜力,但也存在一些漏洞,例如暴露于偏见,缺乏可解释性以及易受敌对攻击。必须解决这些问题才能使人工智能服务受到信任。“

IBM并不是唯一一个开发缓解算法偏见的平台。在5月举行的F8开发者大会上,Facebook宣布了Fairness Flow,这是一项针对数据科学家的自动化偏向捕获服务。微软和埃森哲已经发布了类似的工具。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • IBM
    IBM
    +关注

    关注

    3

    文章

    1755

    浏览量

    74679
  • AI
    AI
    +关注

    关注

    87

    文章

    30759

    浏览量

    268903
  • 机器学习
    +关注

    关注

    66

    文章

    8408

    浏览量

    132572
收藏 人收藏

    评论

    相关推荐

    通用型企业服务器的优缺点

    通用型企业服务器是一种基于计算技术的服务器解决方案,它通过虚拟化技术将计算资源、存储资源和网络资源提供给用户,具有多种优势和一定的局限性
    的头像 发表于 12-17 09:57 56次阅读

    企业服务器平台设计与搭建

    企业服务器平台的设计与搭建是一个复杂但系统的过程,涉及多个环节和因素。主机推荐小编为您整理发布企业
    的头像 发表于 12-04 09:51 82次阅读

    IBM将在平台部署AMD加速器

    IBM与AMD近期宣布了一项重要合作协议,根据协议,IBM将在其平台上部署AMD Instinct MI300X加速器。这一举措旨在提升企业客户在生成式
    的头像 发表于 11-19 16:24 213次阅读

    IBM与AMD携手将在IBM上部署AMD Instinct MI300X加速器

    近日,全球领先的科技企业IBM与AMD共同宣布了一项重要合作。双方计划在IBM上部署AMD的Instinct MI300X加速器服务,以满
    的头像 发表于 11-19 11:03 444次阅读

    IBM发布Granite 3.0 AI模型家族

    IBM在近日举行的年度TechXchange大会上,正式推出了其迄今为止最先进的AI模型家族——Granite 3.0。这一系列的发布标志着IBM在人工智能技术领域的又一次重大突破。
    的头像 发表于 10-23 17:09 436次阅读

    IBM发布面向企业的人工智能模型新版本

    近日,IBM正式发布了其面向企业的人工智能模型——Granite 3.0的最新版本,旨在抓住当前企业纷纷拥抱生成式AI技术的热潮。与
    的头像 发表于 10-22 17:32 451次阅读

    IBM陈旭东:携手IBM加速 AI 规模化应用,解锁企业新质生产力

    、总经理陈旭东应邀参会,并以"加速 AI 规模化应用,解锁企业新质生产力"为题作主旨演讲。 他认为,在企业规模化应用AI的路径中,最关键的是如何把
    的头像 发表于 07-15 16:13 316次阅读
    <b class='flag-5'>IBM</b>陈旭东:携手<b class='flag-5'>IBM</b>加速 <b class='flag-5'>AI</b> 规模化应用,解锁<b class='flag-5'>企业</b>新质生产力

    亚马逊科技连续5年位列GartnerAI开发者服务魔力象限领导者

    北京2024年7月3日 /美通社/ -- 日前,Gartner®发布了2024年《AI开发者服务魔力象限》报告[1],亚马逊科技被列为"
    的头像 发表于 07-04 04:55 664次阅读

    腾云驭智出海时 看IBM如何用1%的数据让你与众不同

    ——IBM混合AI为中国企业出海提供有力支持之系列报道(三) 北京2024年6月24日 /美通社/ -- IBM日前在北京举行媒体会,从
    的头像 发表于 06-24 17:34 440次阅读
    腾云驭智出海时 看<b class='flag-5'>IBM</b>如何用1%的数据让你与众不同

    中国开源软件推进联盟携手IBM发布《可信赖的企业级生成式AI白皮书》

    今天,IBM 在北京举行“AI for Business论坛”,与客户、合作伙伴、生态联盟等行业参与者一起,探讨如何将生成式 AI 应用到企业创新和实践当中。
    的头像 发表于 05-23 18:26 886次阅读

    IBM开源AI模型,推动AI企业化应用

    IBM近日宣布,将把一系列先进的人工智能模型以开源软件的形式发布,此举标志着人工智能技术在企业应用上的新篇章。公司表示,随着watsonx平台推出满一年,该平台将迎来重大更新,新增的数据和自动化功能将使
    的头像 发表于 05-22 09:25 488次阅读

    IBM收购HashiCorp拓展AI驱动软件产品

    此举旨在通过拓展IBM服务理念,满足日益增长的人工智能(AI)需求。此消息发布后,HashiCorp股价显著上扬,而
    的头像 发表于 04-25 17:08 597次阅读

    IBM向全球企业转型顾问推出新的AI服务平台—Consulting Advantage

    为了协助 IBM 咨询团队持续为客户交付一致性的高品质、可复制、高效的咨询顾问服务,日前,IBM 向全球 16万 IBM 企业转型顾问推出新
    的头像 发表于 04-12 09:25 633次阅读

    IBM发布AI增强版FlashCore模块与新版Storage Defender软件

    IBM近日为其新一代IBM Storage FlashSystem产品系列带来了两大创新:AI增强版的IBM FlashCore模块技术,以及全新版本的
    的头像 发表于 03-06 10:05 719次阅读

    IBM推出AI增强的数据弹性功能,打造更安全存储解决方案

    在新一代 IBM Storage FlashSystem 产品中发布新的 AI 增强版 IBM FlashCore 模块技术,以及新版 IBM
    的头像 发表于 03-05 18:45 1058次阅读