亚马逊周三禁止警方使用其面部识别技术一年,使其成为最新的科技巨头从执法使用的系统退回,这些系统都面临着不正确识别具有较深皮肤的人的批评。
西雅图的公司并没有说明为什么现在采取行动。乔治弗洛伊德去世后持续的抗议活动将注意到美国的种族不公正以及警察如何使用技术来跟踪人们。弗洛伊德在一名白色明尼阿波利斯警察在膝盖向戴着手铐的黑人脖子上抬起了几分钟后,即使弗洛伊德停止移动和恳求空气,弗洛伊德也将膝盖撞到戴风。
执法机构使用面部认可来识别嫌疑人,但批评人士表示可以滥用。去年,许多美国城市都禁止由旧金山领导的警察和其他政府机构的使用。
周二,IBM表示将取消面部认可业务,并注意到该技术如何用于大规模监视和种族分析的担忧。
民权团体和亚马逊自己的员工推动了公司停止销售其称为再识的技术,以政府机构称,可以用来侵犯人们的隐私和目标少数群体。
在星期三的博客帖子中,亚马逊表示,它希望国会将使面大更强的面部识别法规。
“亚马逊的决定是一个重要的象征性步骤,但这并没有真正改变美国的面部识别景观,因为它不是一个主要的球员,”乔治城的隐私技术中心的研究员克莱尔卡维说,“乔治城的秘密和技术中心。她的公共记录研究发现了两个美国机构使用或测试重新识别。华盛顿县警长在俄勒冈州的办事处一直是最公开的关于使用它。她说,奥兰多警察局考验了它,但选择不履行它。
由麻省理工学院研究员带领的研究在面部识别软件中发现了种族和性别差异。这些发现刺激了微软和IBM改善了他们的系统,但亚马逊的讽刺,去年公开攻击了她的研究方法。一群人工智能学者,包括计算机科学最奖金的冠军,去年推出了对她的工作的精神防御,并呼吁亚马逊停止向警方销售其面部识别软件。
美国代理机构去年的一项研究肯定了对技术的缺陷的担忧。国家标准与技术研究所测试了领先的面部识别系统 - 虽然不是来自亚马逊,但没有提交其算法 - 并且发现它们通常根据一个人的种族,性别或年龄不均匀地表现不均。
Buolamwini在周三称为亚马逊的公告A“欢迎虽然意外的公告”。
“微软也需要采取立场,”她在电子邮件发表中写道。“更重要的是,我们的立法者需要加强”遏制技术的有害部署。
微软一直是有必要规范面部承认,以防止人权滥用,但尚未说它不会向执法销售。公司没有回复周三评论的请求。
亚马逊开始吸引美国的公民自由联盟和隐私倡导者在2016年推出的重新识别后引起的关注,并开始将其推向执法。但是,Garvie等专家表示,许多美国机构依赖于没有知名的公司建造的面部识别技术,例如基于东京的NEC,基于芝加哥的摩托罗拉解决方案或欧洲公司Idemia,Gemalto和Cognitec的公司。
亚马逊不完全放弃面部识别。该公司表示,这些组织,例如那些使用重新识别的人来帮助找到失踪或性剥削的儿童,仍然可以获得该技术。
本周的亚马逊和IBM的公告遵循民主党立法者推动大会的一揽子,可能包括对面部认可的限制,特别是在警察机构相机中。虽然在美国不常用,但可能会监测人群并实时识别人们的相机的可能性吸引了两党关注的问题。
科技产业遭到彻底的面部认可禁令,但有些公司呼吁联邦法律设定了对该技术负责任使用的指导方针。
“很明显,没有一致的国家规则将延迟将这种有价值的技术拖到执法的手中,减缓调查,使社区更安全,”行业支持的信息技术和创新副总裁Daniel Castro表示:Daniel Castro表示基金会已倡导面部识别提供商。
纽约大学的司法司法律师判决Ángeldíaz表示,他欢迎亚马逊的暂停,但表示,这应该达到许多研究表明该技术是种族偏见的研究。“
“我们同意国会需要采取行动,但当地社区也应该被赋予他们的担忧,并决定他们希望如何以及如何如何部署这项技术,”他说。