研究人员此前曾研究过面部识别算法中可能存在的偏见，但现在轮到美国政府了。美国国家标准技术研究院(National Institute of Standards and Technology)发表的一项研究表明，所测试的大多数面部识别算法均存在“人口统计学差异” 。该报告检查了一对一的匹配(例如核实护照照片)和一对多的匹配(在人群中寻找罪犯)，发现基于性别，年龄和种族背景的误报率明显上升。 -但请注意，这不能代表系统性偏见。

在一对一的比赛中，与非裔美国人，亚裔和美国原住民的面孔相比，与白种人相比，假阳性的发生率显着增加，错误的发生频率通常是“十到一百倍”。在一对多的比赛中，非洲裔美国妇女也更有可能成为误报的受害者，而作为一个整体，妇女应对这些假命中的可能性是二至五倍。但是，这些问题并没有到处蔓延。例如，亚洲人开发的算法在亚洲人和高加索人脸之间的结果中并未显示出很大的差异。NIST建议这可能是由于训练图像更加多样化。换句话说，这些缺陷可能源于算法本身而不是源数据。

该研究是同类研究中最全面的研究之一。尽管针对非裔美国女性的研究依靠的是160万联邦调查局的照片，但大部分研究还是依靠了1827万张849万张照片，这些照片全部来自FBI，国土安全部和国务院。NIST说，这些都不是来自社交网络或监控摄像机。

该研究所强调，其研究人员在报告本身中“不探讨”这些差异的原因。话虽如此，它认为该信息对于希望了解面部识别算法的“局限性和正确使用”的开发人员，政府和客户来说可能是至关重要的。

对于民权组织，NIST的调查结果表明政府和警察应遏制其使用面部识别技术。ACLU高级政策分析师杰伊·斯坦利(Jay Stanley)坚持认为，这是面部识别技术“有缺陷且有偏见”的证据，不良结果可能导致从错过飞行之类的不便到被列入恐怖分子监视名单等可怕后果的一切。斯坦利呼吁政府机构“立即停止”使用识别技术。

这些权利倡导者已经在某些领域表达了他们的愿望，即使不是他们想要的那样。尽管非美国人仍会处理面部扫描，但海关与边境保护局强调，它不需要对美国公民进行扫描。同样，多个城市也禁止面部识别，因此经常将偏见的可能性作为决定因素。但是，这与禁止在整个联邦或州级政府中使用该技术并不相同，持久的部署不一定能解决算法或培训数据中的缺陷。NIST的研究可能会有所帮助-但前提是官员必须认真考虑。