BuzzFeed的人类们,一路喜欢搞事情。
自从亚马逊的人脸识别系统Rekognition,把28位美国议员认成了罪犯,他们就决定亲自实验一下。
不过,BuzzFeed测试的不是这套系统,而是同属亚马逊的一个名人识别AI。
把FBI通缉犯的507幅图像拿去给AI匹配。
△画家Bob Ross与通缉令上的Mike W. Jackson
结果,吉他手啊,演员啊,画家啊,纷纷与通缉犯高分匹配成功。AI一共完成了17次置信度 (Confidence)95%以上的匹配。
在另外一项用NIST脸部数据集做的测试里,AI还把美国前国务卿赖斯,和一非裔男子被捕后的照片,匹配在了一起,置信分是96%。
机智的你可能发现了,重点不在明星和通缉犯的匹配,却在于这些匹配并非勉勉强强拉个人凑数,而是AI很有信心的答案。
为什么会这样?BuzzFeed也想知道,于是联系了亚马逊。
亚马逊:这不是人脸识别
得到的答复,可能比实验结果,还要让人惊喜。
亚马逊说,别看名人AI是作为Rekognition的一次更新,发布出来的,它们两个其实是完全不同的产品啊。
名人AI是个娱乐产品,会在社交网络或者搞笑App这样的地方出现。
所以,它要做的就是给出更多相似的组合。
比如,加勒比海盗的杰克船长,画了很浓的妆,跟强尼戴普平时的样子相差不少。
即便这样,名人AI还是会给你一个很高的置信分,告诉你他们两个是同一个人。
而同样的一组图,喂给Rekognition的话,两者匹配的置信分数,可能就只有50%-60%了。
毕竟,后者作为严肃的人脸识别AI,设定里就包含了执法用途。
为了强调两者的差异,亚马逊甚至表示,名人AI根本不是人脸识别系统,它和Rekognition在模型的结构上,就有明显的不同。
未曾写清差别
可问题是,普通人没有办法感觉到这样的差异。
至少,亚马逊的官方文件和宣传文,都没有体现它们之间的区别。
在跟BuzzFeed聊过之后,亚马逊的人类才修改了Rekognition的文件。修改过的版本,已经可见二者结构上的不同了。
亚马逊的一位发言人说,之前的文章写得太傻了,只想着吸引人点进去,没有想到应该让用户看清楚。
就像刚才说的,名人AI针对的是,会在影视作品里伪装自己的演员,把他们的扮相和真实的长相匹配起来。
所以,如果只对着一群通缉犯去匹配,当然匹配不出正确的结果了。
亚马逊还表示,大家不用在意名人AI给的置信分,因为真正的人脸识别系统,打分的规则是完全不一样的。
特意不写清楚?
这样,问题又来了。
加州大学伯克利分校的学者Joshua Kroll说,执法用的AI系统,大部分都不会公开技术细节。
这样的话,公司说什么,就是什么。
像亚马逊,Rekognition被爆出“把议员认成罪犯”之后,公司才向外界解释说,95%以上是推荐的置信度。
可置信分数到底是怎样得出的,代表怎样的含义,亚马逊从来没有解释过。
Kroll说,让外界产生那么大的困惑,这是亚马逊自己选择的。
如果公司愿意透露更多的细节,比如系统是如何开发,或如何运行的,那么针对亚马逊人脸识别技术的质疑和困惑就会少一些。
如何解读置信分?
可是现在,只是给出了95%的推荐置信阈值,执法人员又应该怎样理解这个数字呢?
来自乔治城法律中心的Clare Garvie说,一个人如果看到99%的置信度,那ta大概会认为系统给的结果是99%肯定的。
可事实并不是这样,那只是AI系统自己的信心而已。
而执法人员会怎么解读这个数字,取决于他们接受的是怎样的培训。
这个解读,又可能影响到案件调查的方向,人类很可能更偏重于那些置信分高的匹配结果。
人们之所以会有各种各样的担心,一部分也是因为,AI可以调查各种各样的人,可对人类又很难对AI的工作原理展开调查。
人类在明,AI在暗。
无休止的调查?
除此之外,当人脸识别被用于执法,你一旦被监控拍到,就不知道AI对你的调查,什么时候是个头了。
亚马逊说,存下图像,只是为了维护系统,改进系统。
可是,图像会不会被滥用,谁也不知道。
-
人脸识别
+关注
关注
76文章
4005浏览量
81751 -
数据集
+关注
关注
4文章
1205浏览量
24635 -
亚马逊
+关注
关注
8文章
2624浏览量
83171
原文标题:用FBI通缉犯照片集,考验亚马逊人脸识别,意外发现了隐情
文章出处:【微信号:szwlw26059696,微信公众号:物联网之声】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
相关推荐
评论