MIT质疑亚马逊人脸识别错误

MIT的研究表明，亚马逊与其它友商在人脸识别技术相比，误识率较高，将黑皮肤女性识别成男性的概率高达31%。而亚马逊方面回应称，他们所采用的是人脸分析，而非人脸识别，其最新Rekognition产品的准确率很高。

根据MIT公布的一项研究表明，与微软和IBM的人脸识别技术相比，亚马逊在识别深色皮肤女性的性别方面较弱，且识别整体性别时也更容易出错。

论文地址：

http://www.aies-conference.com/wp-content/uploads/2019/01/AIES-19_paper_223.pdf

根据这项研究，亚马逊的Rekognition软件把女性识别为男性的概率为19％，将黑皮肤女性识别成男性的概率为31％，相比之下，微软只有1.5%的概率。

亚马逊辩称是人脸分析，而不是人脸识别，作者深表怀疑

AWS人工智能总经理Matt Wood表示，该研究的测试结果是基于人脸分析(facial analysis)，而不是人脸识别。

他说，分析可以在视频或图像中找到人脸，并赋予其一般性属性，比如佩戴眼镜。而识别是将人脸与视频和照片中的图像相匹配。 Rekognition技术包括这两种功能。

Wood在一份声明中说：“基于面部分析得出的结果，我们不可能对任何用例的面部识别准确性做出结论。”

Wood补充说：“该研究没有使用最新版本的Rekognition。而在使用最新版本的该软件和相似数据的情况下并没有发现误报。”

这项研究的两位作者Deborah Raji和Joy Buolamwini表示，她们了解面部识别和面部分析之间的区别。

Raji说：“我们在论文中明确指出，我们选择评估的任务是二元性别分类的面部分析任务。这就意味着，在给定一定数量需要被测的人脸时，模型对它所看到的内容能够理解多少。”

Buolamwini提醒人们，当公司说他们有完全准确的系统时，需要保持一个怀疑态度。

Buolamwini写道：“Wood的公司使用了超过100万张脸作为基准来测试他们的面部识别能力，并且表现良好。虽然他们在这一基准上的表现似乎值得称赞，但我们不知道这一基准的详细数据或表型(皮肤类型)组成。没有这些信息，我们就无法评估种族、性别、肤色或其他类型的误差。”

“滥用”低准确率的人脸识别，后果不堪设想

尽管公民自由组织、国会议员和亚马逊自己的员工都提出对隐私问题的担忧，但亚马逊还是向执法机构提供了Rekognition。本月早些时候，一群股东还呼吁亚马逊停止向政府机构出售其识别技术。

根据MIT的研究，Buolamwini说亚马逊继续向执法机构出售技术是“不负责任的”。她说，面部分析技术可能会被滥用，并且应用到许多场景中，造成大规模的监控。此外，其识别的不准确性可能会导致无辜的人被误认为罪犯。

Raji也有同感。她说：“如果该系统因对特定人群的准确性降低而错误地识别了嫌疑人，这可能会造成严重的危害。”