法庭文件显示,此前未披露的名为NCRFRILS的面部识别系统被用来识别一名被控袭击的拉斐特广场抗议者

2020-11-03 15:15:23

视频显示,6月1日,一队美国公园警察将抗议者从拉斐特广场推回,他们向H街西北方向撤退的人群发射胡椒球和滚动的毒气罐,向撤退的人群喷射刺激性气体。

指控文件显示,在尖叫声和烟雾中,一名身穿扎染T恤的男子将一名警察拉到地上,打了他的脸,然后消失在混乱中。

当局说,这名男子抓住了另一名警察,随后警方抓住了他,并试图逮捕他。但是那个人摔跤挣脱了,又一次消失了。

法庭文件称,抗议者的身份可能永远不会被确认,但一名警察在Twitter上发现了这名男子的照片,调查人员将其输入面部识别系统。他们找到了匹配的人并逮捕了他。

法庭文件据信是当局首次公开承认,在特朗普总统拍照之前,当局使用了这项有争议的技术,与广受批评的大体上和平的示威者扫荡有关。在全国范围内,越来越多的当局转向面部识别软件来帮助识别被控暴力的抗议者,这起案件就是其中之一。

此案还首次详细审视了一个强大的新地区性面部识别系统。官员们表示,自2019年以来,该系统已被使用超过1.2万次,包含一个140万人的数据库,但几乎完全在公众视线之外运行。14个地方和联邦机构可以进入。

公设辩护律师、辩护律师和面部识别专家表示,他们不知道国家首都地区面部识别调查线索系统(NCRFRILS)的存在。一些人表示,尽管在银行抢劫案、人口贩运和帮派案件中进行了数千次搜查,但拉斐特广场的案件是他们第一次看到它的使用情况向被告披露。

使用面部识别来识别抗议者的身份,以及NCRFRILS周围的秘密性,让活动人士和隐私权倡导者感到不安,他们表示,这可能会对第一修正案的权利产生寒蝉效应,并让被告无法挑战匹配,因为绝大多数案件中都没有披露它的使用情况。

美国公民自由联盟(American Civil Liberties Union)面部识别专家卡德·克罗克福德(Kade Crockford)表示,缺乏对NCRFRILS的公开披露是当局在全国范围内部署面部识别技术的典型方式-这是一个问题,特别是因为研究表明,该系统在识别少数族裔时更容易出错。

去年的一项里程碑式的联邦研究发现,面部识别算法,包括NCRFRILS使用的算法,在识别白人男性方面相当准确,但误认黑人和亚洲面孔的频率高达100倍。这项研究还发现了女性身份识别方面的问题。

克罗克福德在谈到缺乏披露时说,“这不是将新技术整合到美国警务架构中的可持续方式,而且会一次又一次地导致侵犯民权的行为。”

但执法部门为NCRFRILS辩护,NCRFRILS是华盛顿大都会政府委员会(MWCOG)的一个试点项目,始于2017年,并于2018年底推广。一位发言人说,委员会从未公开宣布过这一计划,因为它仍处于测试阶段。它的资金将持续到12月。

费尔法克斯县警察少校克里斯蒂安·奎恩(Christian Quinn)是该委员会项目的负责人,他说,NCRFRILS一直是一个有效的工具,为原本可能无法破案的案件提供线索。

奎恩说,该系统从未被用来收集和平示威的情报,但它被用于拉斐特广场的案件,因为抗议者被指控犯下了罪行。他说,该系统受到仔细的监管,以保护隐私,避免误认。Quinn说,NCRFRILS只用于线索-而不是逮捕的理由-所以它的使用不会定期向被告披露。

奎恩说:“我不会引入一个强加给人们隐私权、匿名权和民事权利的工具。”“保障人民的安全,为受害者伸张正义,并不是独立于维护公民权利和隐私的。”

据追踪这项技术的专家称,据信这是已知的第一起面部识别匹配错误导致错误逮捕的案件于今年夏天公之于众。

专家说,底特律警方在一起商店扒窃案中误认出一名黑人男子时,他们正在使用这项技术,尽管调查工作似乎草率也起到了一定作用。底特律警方正在运行的两种面部识别算法之一的一个版本也为NCRFRILS提供了支持。

IBM、微软(Microsoft)和亚马逊(Amazon)最近也宣布暂停向执法部门销售他们的面部识别系统,理由是最近发生了种族正义抗议活动,对系统存在偏见的担忧,以及对该技术缺乏国家监管。

6月1日,特朗普出现在白宫附近的一座教堂前,高举圣经面对镜头,引发了轩然大波。几分钟前,当地和联邦执法部门强行清除了该地区的示威者,这些示威者在警察击毙乔治·弗洛伊德后举行了抗议活动。

抗议者拍摄的手机视频显示,随着扫荡的展开,一名男子处于行动的中心。有一次,可以看到他与警察互动,然后警察向他的方向发射了一罐催泪瓦斯,他蒙着眼睛逃跑了。

示威结束后,公园警察通过推特追踪到了他,并将照片发送给了乔治王子县的马里兰州-国家首都公园警察,后者通过NCRFRILS将照片发送给了小迈克尔·约瑟夫·彼得森(Michael Joseph Peterson Jr.)。作为可能的匹配,法庭文件说。当局表示,他们还在抗议现场发现了一个装有彼得森身份证的背包。

指控文件显示,公园警方的一名侦探表示,身份证与NCRFRILS返回的彼得森的图像相匹配。彼得森被指控犯有两项袭警罪和一项妨碍执法罪。

“美国公园警察致力于维护法律,保护第一修正案权利的和平表达,”该部门在回答有关此案的问题时表示。

彼得森的律师格伦·F·艾维(Glenn F.Ivey)拒绝对这些指控发表评论,也拒绝让他的客户接受采访。

这类情况正变得越来越普遍。在迈阿密,当地NBC电视台报道,警方使用面部识别软件识别了一名被控在抗议期间向警察投掷石块的女子。据《华盛顿邮报》此前报道,费城警方还使用社交媒体图片和潜在的面部识别软件追踪被控破坏警车的抗议者。

在纽约,市长白思豪(Bill De Blasio)向警方发出警告,此前当地新闻网站Gothamist报道称,调查人员使用面部识别软件确认了一名黑人生命也是(Black Lives Matter)组织者的身份,这名组织者被控在抗议活动中用扩音器对着一名警察的耳朵大喊大叫。警察成群结队地出现在这名男子的公寓前。

6月1日在拉斐特广场(Lafayette Square)的抗议者基肖恩·麦克唐纳(Kishon McDonald)是起诉当局行为的团体之一。他表示,使用面部识别软件会让他在参加另一场抗议活动时三思而后行。

麦克唐纳说:“这让你担心抗议活动会以某种方式受到损害。”“这并没有吓到我不敢去,但却让我心有余悸。”

训练有素的考官从社交媒体、安全摄像头或其他来源输入嫌疑人的图像。该系统的算法然后搜索图像数据库以寻找潜在的匹配项,并根据它们是嫌疑人的可能性进行评分。然后,考官对是否有候选人看起来匹配做出了最后的决定。

Quinn说,该系统的设计是为了解决围绕面部识别技术的共同担忧。

奎恩说,这个包含140万张图片的数据库来自合作机构提供的面部照片。该系统不包含来自政府机动车部门或其他公共来源的图像,这些图像将允许未被逮捕的人在不知不觉中被登记到数据库中。

他说,任何搜查都必须以犯罪或可信的担心某人处于危险为前提。搜索每三周进行一次审计,以确保系统没有被滥用。

可以进入NCRFRILS的机构包括哥伦比亚特区地区核心县和一些城市的警察部门,以及地铁警察、烟酒火器和爆炸物管理局以及司法部。华盛顿警方表示,他们已经选择不使用该系统。整个地区大约有60人接受过使用培训。

Quinn说,该系统已经产生了近2600条线索,但他没有多少线索导致逮捕的数字。他说,目前还没有系统错误识别导致指控的人的例子。

他说,该系统在许多情况下都很有用。奎恩说,在去年蒙哥马利县发生银行抢劫案后,调查人员将银行监控摄像头中一名嫌疑人的图像输入NCRFRILS,并在抢劫案发生不到一小时后找到了潜在的匹配对象。

Quinn说,警察监视了这名男子的房子,他出来时穿的衣服与监控录像中穿的衣服相同。他被逮捕了。

在另一起事件中,一名未透露姓名的北弗吉尼亚州男子在Facebook的退伍军人群中发表了似乎是自杀的言论。Quinn说,NCRFRILS使用他的Facebook形象确认了他的身份,并推荐他接受心理健康咨询。

“我担心的是,如果它被拿走,我们又回到了依赖目击者的状态,我真的要问一个修辞上的问题:这样会更好吗?”Quinn说,他指的是研究表明目击者身份识别往往不可靠。“被社区其他成员误认的人比被电脑误认的人多得多。”

该委员会发言人史蒂夫·卡尼亚(Steve Kania)表示,由警察局长和县市管理人员组成的两个MWCOG委员会于2017年批准了NCRFRILS。他说,这些会议不是公开的,因为他们讨论了敏感的公共安全信息。

费尔法克斯县监事会确实在一次公开会议上接受了联邦政府对该项目的拨款,作为一揽子拨款的一部分,但几乎没有引起通知或评论。

乔治城大学法学院隐私与技术中心(Center On Privacy And Technology)高级助理克莱尔·加维(Clare Garvie)表示,尽管拉斐特广场案中的抗议者被控犯罪,但对参加拉力赛的人使用面部识别引发了第一修正案的担忧。

“这项技术的使用,甚至是潜在的使用。 . 。可能会导致人们改变他们在公共场合的行为,或者自我审查,或者不参加宪法保护的活动。“Garvie说。

美国公民自由联盟的克罗克福德表示,考虑到面部识别技术对隐私的深远影响以及对偏见的担忧,围绕批准NCRFRILS应该有一个更有力的公开程序。美国公民自由联盟支持暂停执法部门使用面部识别。

克罗克福德说,如果使用面部识别来帮助识别被告,也应该通知被告。她指出,今年早些时候底特律发生了身份识别错误的案件。

底特律警方正在运行两种面部识别算法,其中一种是Rank one Computing支持NCRFRILS的算法。调查人员使用监控摄像头图像和面部识别软件来帮助识别商店扒窃案件中的嫌疑人。

一名男子被捕,但指控后来被撤销,检察官道歉。底特律警方没有回应有关身份识别如何出错的问题,但Rank One的联合创始人在给《华盛顿邮报》的一封电子邮件中写道,他认为算法运行良好,但调查人员没有遵循适当的保障措施,防止误识别。

Rank One的首席执行官布兰登·克莱尔(Brendan Klare)写道:“我们的算法,就像大多数顶级算法一样,在所有种族上都非常准确,而第一等级的种族准确率差异是业内最低的之一。”

“可能还有许多其他因使用面部识别技术而导致的逮捕案件,”克罗克福德说,“但原因是。 . 。在绝大多数案件中,警方没有在法庭文件中披露。 . 。人们还没有机会挑战这项技术的使用。“