0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

亚马逊:这不是人脸识别,如何解读置信分?

物联网之声 来源:未知 作者:李倩 2018-08-08 17:52 次阅读

BuzzFeed的人类们,一路喜欢搞事情。

自从亚马逊的人脸识别系统Rekognition,把28位美国议员认成了罪犯,他们就决定亲自实验一下。

不过,BuzzFeed测试的不是这套系统,而是同属亚马逊的一个名人识别AI

把FBI通缉犯的507幅图像拿去给AI匹配。

△画家Bob Ross与通缉令上的Mike W. Jackson

结果,吉他手啊,演员啊,画家啊,纷纷与通缉犯高分匹配成功。AI一共完成了17次置信度 (Confidence)95%以上的匹配。

在另外一项用NIST脸部数据集做的测试里,AI还把美国前国务卿赖斯,和一非裔男子被捕后的照片,匹配在了一起,置信分是96%。

机智的你可能发现了,重点不在明星和通缉犯的匹配,却在于这些匹配并非勉勉强强拉个人凑数,而是AI很有信心的答案。

为什么会这样?BuzzFeed也想知道,于是联系了亚马逊。

亚马逊:这不是人脸识别

得到的答复,可能比实验结果,还要让人惊喜。

亚马逊说,别看名人AI是作为Rekognition的一次更新,发布出来的,它们两个其实是完全不同的产品啊。

名人AI是个娱乐产品,会在社交网络或者搞笑App这样的地方出现。

所以,它要做的就是给出更多相似的组合。

比如,加勒比海盗的杰克船长,画了很浓的妆,跟强尼戴普平时的样子相差不少。

即便这样,名人AI还是会给你一个很高的置信分,告诉你他们两个是同一个人。

而同样的一组图,喂给Rekognition的话,两者匹配的置信分数,可能就只有50%-60%了。

毕竟,后者作为严肃的人脸识别AI,设定里就包含了执法用途。

为了强调两者的差异,亚马逊甚至表示,名人AI根本不是人脸识别系统,它和Rekognition在模型的结构上,就有明显的不同。

未曾写清差别

可问题是,普通人没有办法感觉到这样的差异。

至少,亚马逊的官方文件和宣传文,都没有体现它们之间的区别。

在跟BuzzFeed聊过之后,亚马逊的人类才修改了Rekognition的文件。修改过的版本,已经可见二者结构上的不同了。

亚马逊的一位发言人说,之前的文章写得太傻了,只想着吸引人点进去,没有想到应该让用户看清楚。

就像刚才说的,名人AI针对的是,会在影视作品里伪装自己的演员,把他们的扮相和真实的长相匹配起来。

所以,如果只对着一群通缉犯去匹配,当然匹配不出正确的结果了。

亚马逊还表示,大家不用在意名人AI给的置信分,因为真正的人脸识别系统,打分的规则是完全不一样的。

特意不写清楚?

这样,问题又来了。

加州大学伯克利分校的学者Joshua Kroll说,执法用的AI系统,大部分都不会公开技术细节。

这样的话,公司说什么,就是什么。

像亚马逊,Rekognition被爆出“把议员认成罪犯”之后,公司才向外界解释说,95%以上是推荐的置信度。

可置信分数到底是怎样得出的,代表怎样的含义,亚马逊从来没有解释过。

Kroll说,让外界产生那么大的困惑,这是亚马逊自己选择的。

如果公司愿意透露更多的细节,比如系统是如何开发,或如何运行的,那么针对亚马逊人脸识别技术的质疑和困惑就会少一些。

如何解读置信分?

可是现在,只是给出了95%的推荐置信阈值,执法人员又应该怎样理解这个数字呢?

来自乔治城法律中心的Clare Garvie说,一个人如果看到99%的置信度,那ta大概会认为系统给的结果是99%肯定的。

可事实并不是这样,那只是AI系统自己的信心而已。

而执法人员会怎么解读这个数字,取决于他们接受的是怎样的培训。

这个解读,又可能影响到案件调查的方向,人类很可能更偏重于那些置信分高的匹配结果。

人们之所以会有各种各样的担心,一部分也是因为,AI可以调查各种各样的人,可对人类又很难对AI的工作原理展开调查。

人类在明,AI在暗。

无休止的调查?

除此之外,当人脸识别被用于执法,你一旦被监控拍到,就不知道AI对你的调查,什么时候是个头了。

亚马逊说,存下图像,只是为了维护系统,改进系统。

可是,图像会不会被滥用,谁也不知道。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人脸识别
    +关注

    关注

    76

    文章

    4002

    浏览量

    81626
  • 数据集
    +关注

    关注

    4

    文章

    1200

    浏览量

    24606
  • 亚马逊
    +关注

    关注

    8

    文章

    2618

    浏览量

    83094

原文标题:用FBI通缉犯照片集,考验亚马逊人脸识别,意外发现了隐情

文章出处:【微信号:szwlw26059696,微信公众号:物联网之声】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    Boost工作时,LED 电量显示常量?这不是IC直接输出的么?难...

    Boost工作时,LED 电量显示常量?这不是IC直接输出的么?难道要写程序控制?
    发表于 06-05 16:25

    人脸识别技术原理解析

    概念:哪一部分数据是水杯,哪一部是书本,哪一部人脸,这是视觉模式识别中的粗分类问题。  而人脸识别
    发表于 12-23 23:17

    三招提高手机人脸识别的安全性

    有点匪夷所思了!事实上,这不是危言耸听、也不是个例。今年的315晚会上技术演示,不管是通过3D建模将照片转化成立体的人脸模型,还是将普通静态自拍照片变为动态模式,都可以骗过手机上的人脸
    发表于 08-22 16:22

    亚马逊FreeRTOS和Microchip,为什么这不是harmony项目?

    嗨,我昨天回来看了这个。Microchip现在被列为合作伙伴,你可以下载一个用好奇板设计的代码。它用新编译器编译,但它不是一个和谐项目。-他们已经把所有的工作都变成了一个有用的系统,但是它并不是一个
    发表于 10-18 15:42

    LabVIEW人脸识别设计

    五一来临之际,炎炎夏日到处车水马龙,是不是在家好好学习的最佳时机呢?所以第二期,LabVIEW人脸识别设计“3天挑战赛”,五一3天时间完成挑战学费全额退款!3天get新技能,是不是比吃
    发表于 04-28 10:00

    这不是神话:用手势就能驱动的显示器亮相

    这不是神话:用手势就能驱动的显示器亮相 请记住,科学永远比电影更科幻。现在,另一个《少数派报告》即将成为现实。  挪威Tromso大学
    发表于 04-02 11:27 540次阅读

    解读中国人脸识别市场现状和优势

    人脸识别技术属于目前在生物识别领域使用比较热门的技术,特别是在苹果iPhone X推出后更是掀起一起刷脸潮。目前我国人脸识别行业到底现状如何
    发表于 01-14 09:30 5687次阅读
    <b class='flag-5'>解读</b>中国<b class='flag-5'>人脸</b><b class='flag-5'>识别</b>市场现状和优势

    亚马逊向美国警方出售人脸识别技术,遭抗议

    今年5月底,据美国华盛顿邮报网站报道,北加州美国公民权利联盟”根据信息公开法案,获得了亚马逊的部分文件,文件表明亚马逊已经面向美国警方,以十低廉的价格提供人脸
    发表于 06-21 16:55 1442次阅读

    全面解读人脸识别技术发展史

    备受瞩目的人脸识别技术浪潮席卷全球,今天,我们就来全面解读人脸识别究竟是什么。
    的头像 发表于 07-16 17:39 8623次阅读

    亚马逊人脸识别系统把28名美议员识别为罪犯

    亚马逊在努力向美国执法机构兜售其Rekognition人脸识别技术,但美国公民自由联盟认为这不是个好主意。今天,美国公民自由联盟公布了一个似乎非常有说服力的证据。
    的头像 发表于 07-30 11:41 2686次阅读

    ACLU再次“找茬”亚马逊人脸识别系统

    需要指出的是,在 ACLU 这次对亚马逊人脸识别新系统测试时,其默认置信度阈值为 80%。亚马逊发言人回应称,ACLU 不应该对此担忧,因
    的头像 发表于 07-31 10:07 3028次阅读

    中兴事件这不是一个终点:摩擦一定会成为常态

    消息称,美国已经同意解除对中国禁令,当然中兴也付出巨大代价。巨额罚款、领导层更换,被美国派人监管。 不知是不是大家都松了一口气?我相信,这不是一个终点。
    发表于 09-05 09:00 3126次阅读

    ZLG全面解读人脸识别核心技术

    随着大数据时代的到来,“人脸”也将成为数据的一部人脸识别如何实现?本文将为大家从人脸检测、人脸
    的头像 发表于 01-08 17:02 3926次阅读
    ZLG全面<b class='flag-5'>解读</b><b class='flag-5'>人脸</b><b class='flag-5'>识别</b>核心技术

    MIT质疑亚马逊人脸识别错误

    MIT的研究表明,亚马逊与其它友商在人脸识别技术相比,误识率较高,将黑皮肤女性识别成男性的概率高达31%。而亚马逊方面回应称,他们所采用的是
    的头像 发表于 02-05 08:44 2630次阅读

    深圳的企业运营成本在不断上涨,这不是其他城市短时间内能够赶上的

    虽然深圳的企业运营成本在不断上涨,但是深圳的优势在于制造业产业链非常的齐全,这不是其他城市短时间内能够赶上的。
    的头像 发表于 07-29 15:17 3804次阅读