0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

亚马逊机器学习专家发现,他们的新型招聘工具并不欢迎女性

zhKF_jqr_AI 来源:未知 作者:李倩 2018-10-13 09:15 次阅读

编者按:据路透社今日报道,亚马逊机器学习专家发现,他们的新型招聘工具并不欢迎女性。以下是论智对报道的编译。

从2014年开始,亚马逊的机器学习小组就着手搭建一款能自动查看申请者简历的程序,目的是快速找到他们想要的人才。自动化是亚马逊电子商务的主要关注点,这在仓储物流和价格定位中都有使用。而公司目前正在试验阶段的招聘工具通过人工智能技术,将候选人从1到5进行评分,有人说这有点像商品的使用评价。

“人人都想得到这份工作。亚马逊想让这个模型从100份简历中自动筛选出top 5,然后直接聘用这些即可,”小组其中的一人说道。

但是到2015年,亚马逊发现这一新系统在评估软件开发职位和其他技术岗位时,在性别上有不公正之处。

这是由于亚马逊的计算机模型在训练时是通过观察过去十年申请者的简历信息,其中大多数是男性,这也反映了男性在技术领域中占有相当大的比例。

这样一来,亚马逊的招聘系统就告诉自己,男性候选人更受人青睐。于是它会降低含有“女性”字眼的简历分数,如果是在女子大学毕业,也会降低评分。

亚马逊针对这些问题进行了修改,使其更加中立。但是这并不能保证机器会用其他方法体现出它的不公平性。最终,去年年初,该小组被解散。招聘者会在面试时参考该工具的意见,但不会完全依赖它的答案。

男性化语言

随着大量低成本计算力的出现,机器学习受到很多公司的追捧,亚马逊也因此开始大量招聘。从2015年6月开始,总部员工增加了两倍,达到575700人。于是,亚马逊在爱丁堡工程中心成立了一个小组,目的就是开发人工智能,从网络上寻找值得招募的人。

该小组创建了500个计算机模型,专注于各地区各岗位的招聘,他们根据过去候选人的简历,教模型辨认大约5万个条目。算法并不看重IT职位招聘时常见的技能,例如会写多少种代码。相反,算法更喜欢看到男性简历中出现的某些动词,例如“执行”和“捕捉到”等等。

性别歧视并不是唯一的问题,模型的数据有时会带来错误判断。有时,不合格的候选人通常会被推荐到其他各种岗位,随着这些结果越来越离谱,亚马逊关闭了该项目。

阻碍还是动力?

不过,其他公司仍然在AI招聘的路上前进着。

初创公司HireVue的老板Kevin Parker表示,自动化招聘可以帮助雇主跳出传统的招聘平台,他的公司通过分析候选人在视频面试中的话语和面部表情来降低对简历的依赖。

高盛公司也创建了自己的简历分析工具,目的是选出最契合公司的候选人。而世界最大的职业招聘网站LinkedIn可以根据用户在网站上发布的信息,用算法生产排名提供给招聘者。LinkedIn人才招聘部门的副总裁John Jersin说,这项服务并不是要代替传统招聘,“我当然不会相信现在任何的AI系统做出的招聘决策。”

有些从业者说他们担心AI的透明度,美国公民自由联盟目前正考虑是否可以设立法律,允许受害者可以对使用带有歧视算法的招聘者提起诉讼。该联盟的一位律师Rachel Goodman表示:“我们正密切关注算法的公平性。”

但是,Goodman和其他有AI背景的人认为,想要以上述名义起诉招聘者可能很难,因为候选人可能永远不会知道在招聘时用了哪些信息。

至于亚马逊,公司目前从失败中学到了相关经验,只用简单的去重技术,将数据库中重复的简历筛选掉,这也是最常见的技术之一。另外有消息称,爱丁堡目前成立了一个新小组,他们正试着开始第二次自动化招聘的项目,但更关注的是多样性。

后记

对于亚马逊模型偏差的问题,在微博上也引起了讨论。网友@HammerSh4w提问:

“由群体特征学习,将该知识应用到个体,模型本身会引入偏差,这个偏差能否被认为是偏见,是不是可以通过弃用一些敏感的特征来缓解偏见?”

我们熟知的@爱可可-爱生活老师针对这一观点表示:

“有一定道理,不过敏感特征降权相当于用另一种手工偏差抵消数据偏差,其实很难把握;问题的根本,在于学到的数据模式是否能支持特定的决策目标。”

AI最初就像婴儿,它不带任何观点或偏见。它之所以变得“有偏见”,是因为教它的老师有偏见。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 机器学习
    +关注

    关注

    66

    文章

    8337

    浏览量

    132257
  • 亚马逊
    +关注

    关注

    8

    文章

    2618

    浏览量

    83094

原文标题:歧视女性应聘者,亚马逊AI招聘项目被迫关闭

文章出处:【微信号:jqr_AI,微信公众号:论智】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    亚马逊启用新型机器人仓库,效率提升十倍

    在近期举办的“未来配送”发布会上,亚马逊揭晓了其创新的机器人驱动配送仓库蓝图,并宣布首个“下一代运营中心”将落户于路易斯安那州的什里夫波特。这座宏大的仓库占地面积高达300万平方英尺,相当于55个足球场大小,且拥有五层楼的高度,令人叹为观止。
    的头像 发表于 10-11 17:00 371次阅读

    亚马逊达成收购协议,拟整合芯片制造商与AI模型压缩专家Perceive

    8月20日,国际媒体披露了亚马逊在人工智能领域的又一重要布局。继去年9月及今年3月分别向新兴AI企业Anthropic注资12.5亿美元与27.5亿美元,接近其承诺的40亿美元投资上限后,亚马逊持续
    的头像 发表于 08-21 15:33 430次阅读

    【「时间序列与机器学习」阅读体验】+ 鸟瞰这本书

    的交织中不断成长。 读者对这本书的评价普遍很高。他们称赞作者用通俗易懂的语言将复杂的概念解释得透彻清晰,即使是初学者也能轻松入门。同时,书中丰富的案例和详细的步骤指导也让读者快速积累经验,提高实战技能。甚至有读者表示,这本书已经成为时间序列分析、机器
    发表于 08-12 11:28

    【「时间序列与机器学习」阅读体验】+ 简单建议

    这本书以其系统性的框架和深入浅出的讲解,为读者绘制了一幅时间序列分析与机器学习融合应用的宏伟蓝图。作者不仅扎实地构建了时间序列分析的基础知识,更巧妙地展示了机器学习如何在这一领域发挥巨
    发表于 08-12 11:21

    亚马逊正测试一款融入AI芯片的新型服务器设计

    在得克萨斯州奥斯汀的秘密芯片实验室中,亚马逊正紧锣密鼓地测试一款高度保密的新型服务器设计,该设计融入了亚马逊自主研发的AI芯片,旨在与业界巨头英伟达展开正面竞争。这一举措由亚马逊云业务
    的头像 发表于 07-26 14:21 480次阅读

    机器学习算法原理详解

    机器学习作为人工智能的一个重要分支,其目标是通过让计算机自动从数据中学习并改进其性能,而无需进行明确的编程。本文将深入解读几种常见的机器学习
    的头像 发表于 07-02 11:25 627次阅读

    机器学习在数据分析中的应用

    随着大数据时代的到来,数据量的爆炸性增长对数据分析提出了更高的要求。机器学习作为一种强大的工具,通过训练模型从数据中学习规律,为企业和组织提供了更高效、更准确的数据分析能力。本文将深入
    的头像 发表于 07-02 11:22 498次阅读

    深度学习与传统机器学习的对比

    在人工智能的浪潮中,机器学习和深度学习无疑是两大核心驱动力。它们各自以其独特的方式推动着技术的进步,为众多领域带来了革命性的变化。然而,尽管它们都属于机器
    的头像 发表于 07-01 11:40 1069次阅读

    使用ADF2.3的opus编码时发现,opus的输出并不流畅,数据输出卡顿,为什么?

    我在使用ADF2.3的opus编码时发现,opus的输出并不流畅,数据输出卡顿。 我的数据流为: i2s -》opus编码-》raw opus参数如下: sample_rate = 16000 ch
    发表于 06-28 07:45

    请问PSoC™ Creator IDE可以支持IMAGIMOB机器学习吗?

    。 我发现IMAGIMOB 是一个很好的解决方案来满足我的需求,但现在的问题是, PSoC™ Creator 不支持 IMAGIMOB! PSoC™ Creator 可以支持机器学习或 IMAGIMOB 吗?
    发表于 05-20 08:06

    机器学习8大调参技巧

    今天给大家一篇关于机器学习调参技巧的文章。超参数调优是机器学习例程中的基本步骤之一。该方法也称为超参数优化,需要搜索超参数的最佳配置以实现最佳性能。
    的头像 发表于 03-23 08:26 538次阅读
    <b class='flag-5'>机器</b><b class='flag-5'>学习</b>8大调参技巧

    亚马逊推出电商AI工具

    亚马逊近日宣布推出了一项创新的电商AI工具,该工具旨在帮助卖家们更加高效地创建产品详情页面。据了解,这一AI新功能具备强大的自动化能力,能够基于卖家提供的关键词和产品图片等信息,智能地生成产品标题、描述以及其他重要的详细信息。
    的头像 发表于 03-21 11:45 711次阅读

    闪闪发光的“她”· Ladies in Tech |相聚女性开发者论坛

    和影响力,支持女性开发者构建能够改变世界的创新应用和工具。我们为女性IT工作者提供了一个学习、交流和展现自我的舞台,激励更多的女性开发者/科
    的头像 发表于 12-08 19:50 508次阅读
    闪闪发光的“她”· Ladies in Tech |相聚<b class='flag-5'>女性</b>开发者论坛

    亚马逊云科技携手埃森哲助力默沙东利用云技术缩短药物发现时间 并加速临床试验开发

    是默沙东持续多年的云迁移项目的一部分。 作为项目的一部分,默沙东选择亚马逊云科技作为首选云服务提供商并将埃森哲作为其专业服务合作伙伴共同推动公司核心应用的迁移,包括将SAP、机器学习和数据仓库迁移至
    发表于 12-06 14:32 290次阅读

    物联网与机器学习如何创造智能未来

    机器学习得到广泛运用,利用这些工具可以实现流程自动化,提高生产力,并实时做出数据驱动的抉择和策略。智慧医疗随着科技的发展,电子产品已经成为我们生活中的必备用品,但
    的头像 发表于 11-11 08:23 876次阅读
    物联网与<b class='flag-5'>机器</b><b class='flag-5'>学习</b>如何创造智能未来