根据MIT和多伦多大学的研究人员称，亚马逊销售亚马逊营销往往销售执法的妇女，特别是皮肤较深的人。
隐私和民权倡导者呼吁亚马逊Tostop营销其重新识别服务减免了对少数群体歧视的担忧。一些亚马逊投资者还要求公司停止担心它使亚马逊容易受到诉讼。
研究人员表示，在他们的考验中，亚马逊的技术将黝黑的女性标记为较暗的肤色，因为男人31％的时间。较轻皮肤的女性被误认的7％。暗皮肤的男性有1％的错误率，而打火机皮肤的男性没有。
人工智能可以模仿他们的人类创造者的偏见，因为他们进入日常生活。新的研究周四发布，警告滥用和威胁对面部检测技术的隐私和公民自由的潜力。
亚马逊人工智能总经理马特木材表示，该研究采用了“面部分析”而不是“面部识别”技术。木头说面部分析“可以在视频或图像中发现面部，并分配佩戴眼镜等通用属性;识别是一种不同的技术，通过该技术与视频和图像中的面部相匹配。”
MIT Media Lab研究员Joy Buolamwini回复了MIT Media Lab研究员Joy Buolamwini回应了分析人类面朝偏见的所有系统。
“如果您销售一个系统已显示在人类面上有偏见的系统，则您的其他基于面部的产品令人疑问也完全偏离，”她写道。
亚马逊的反应表明，这是“这项研究的真正严重关切的严重令人担忧，”雅各布·斯诺，美国公民自由联盟的律师说。
多伦多大学的Buolamwini和Inioluwa德国·拉吉表示，他们研究了亚马逊的技术，因为该公司已将其销售到执法部门。Raji的LinkedIn账户表示，她目前是谷歌的人工智能研究媒体，与亚马逊一起提供云计算服务。
Buolamwini和Raji表示微软和IBM提高了他们的面部识别技术，因为研究人员在2017年5月的研究中发现了类似问题。他们包括亚马逊的第二次研究是在2018年8月完成的。他们的论文将于周一在檀香山的人工智能大会上呈现。
木头说亚马逊自研究以来已经更新了它的技术，并通过“零误匹配”进行了自己的分析。
亚马逊的网站积分重新识别帮助华盛顿县警长办公室在俄勒冈州加速了识别数十万张照片纪录的嫌疑人所需的时间。
