一年后,科技公司的呼吁管理面部认可很少有进展

2021-06-13 03:50:07

一年前,亚马逊,微软和IBM宣布他们将面部识别软件销售给警察部门,并呼吁联邦监管该技术。

国会尚未通过以来,任何法律规范警察在年度上的面部认可。

隐私和公民自由倡导者表示,莫拉利亚是一个有前进的第一步,但他们仍然关切的是,一些科技公司不断从警察所用的监控工具中获利。

去年的6月,在民权倡导者和国家抗议上的压力下引发了乔治·弗洛伊德的谋杀,面部识别技术的三个最大名字是对警察销售的自我强加的限制。

但经过一年的公众讨论美国在美国的警务状态,有些人几乎没有关于如何规范面部认可的进展。

亚马逊和微软这样的留言公司和微软的左公司颁布了莫拉达州,以便在LIMBO中颁布暂停举行国会时间来提出公平的道路规则。相比之下,IBM表示它将完全退出业务。

自从这些科技公司在面部承认下暂停,立法者仍然争取如何在国家和联邦级别妥善规范技术。民主人士联盟在政府中暂停了暂停,并完全使用该技术直到他们提出更好的规则。到目前为止,大多数行动都在少数各国发生。

隐私和公民自由倡导者表示,他们将公司视为有希望的第一步,但他们还持谨慎态度,即科技公司继续从中获利的其他令人担忧的监督。

虽然亚马逊和其他人限制了他们的面部识别技术的销售,但警方似乎在去年夏天在警方残酷的普遍抗议活动期间使用了类似的工具,尽管执法并未进入他们的使用。

隐私倡导者说,面部识别对公民带来了独特的风险,即使与地下警察监督相比,也会说。

"随着大多数数字监督,差异是'它在模拟空间中的那种活动中的法院监督更多,差异是成本,"监督技术监督项目执行董事Albert Fox Cahn(停止)。 CAHN说,虽然落后于某人卧底需要巨大的时间和金钱投入时间和金钱,以保持人们便宜且快速。

Matt Mahmoudi,Amnesty International的人工情报和人权研究员和顾问表示,另一个问题在于没有主题的面部认可的方式'知识。

"在标准警察阵容中,你'重新知道你'重新排队," Mahmoudi说。 "在面部识别的情况下,你不知道你'重新在一个虚拟阵容中。您可能在任何时候都在虚拟阵容中。"

面部识别可以随时部署面部识别的感觉 - 以及缺乏执法如何使用该技术的透明度 - 可以冷静致辞和自由表达,活动家恐惧。

这种工具的潜在威胁对黑人和棕色的人特别突出。面部识别工具在识别它们方面历史上不太准确,部分原因是算法倾向于使用歪斜白色和雄性的数据集进行培训。

研究表明,面部识别软件可以包含意外种族和性别偏见。 2018年,麻省理工学院电脑科学家Joy Buolamwini和Regownedededied Ai研究员Timnit Gebru协调了一个地标纸,显示IBM和Microsoft'在识别肤色的皮肤较暗的肤色时显着更糟糕。

此外,美国公民自由联盟和M.I.T的研究。发现亚马逊'重新识别技术比白人更频繁地误认了女性和颜色人民。

包括亚马逊在内的面部识别技术的支持者认为,它可以帮助执法追踪涉嫌犯罪分子和团聚失踪的儿童。亚马逊也有争议的ACLU和M.I.T.研究,争论研究人员使用的是与其建议执法机构如何使用该软件的再识。

代表。Bobby Rush,D-Ill。,他自己是在20世纪60年代的民权运动中加入学生非暴力协调委员会的活动家,并共同创立了黑豹派对的伊利诺伊州章节,提出了关于技术的担忧。偏见并支持联邦暂停的使用。

"有一代人,我猜你会称之为,在黑人社区中的牵引者,所有的黑人看起来都是相似的,"匆忙在接受CNBC采访时说。 "技术上,随着这个面部识别技术的出现,该牵引者已成为真理。"

亚马逊,微软和IBM向警方销售了对警方的宣传限制,但执法机构仍有丰富的监控工具。

微软在援助面部识别之外的警察监视中发挥了重要作用。根据该部门的' Site的说法,该公司与纽约警察局合作开发了域名认识制度。该系统被计入为A"犯罪战斗和反恐工具"使用"世界上最大的摄像机网络,车牌读者和世界上放射性传感器。"微软没有评论或提供关于DAS的进一步信息。

亚马逊' S智能家庭安全子公司Ring也面临着隐私倡导者的强烈审查,在其快速扩张与警方的工作中倡导者。自2018年以来,戒指已与警察和消防部门组成了2,100个伙伴关系,以便他们访问其用户录制的视频素材'互联网连接的摄像头。通过环和#39; Social-Media-Esque社区安全应用程序,称为邻居,用户可以上传和评论录制的镜头并在其地区讨论录音。

戒指没有透露其产品的销售,但去年1月份致函立法者,它说"有数百万客户购买了一个环设备。"

作为戒指'警察伙伴关系已经发展,隐私倡导者表示关切的是,伴随邻居App的计划和戒指和#39;已经将居民转变为通知者,同时警察在没有逮捕令的情况下获得镜头,并且周围有很少的守护者他们如何使用这些材料。

戒指已经争论它创造了"更安全,更多连接的社区。"亚马逊在2018年声称,戒指和#39; S视频门铃产品通过NBC新闻和CNET的最近调查在那里的NBC新闻和CNET进行了最近的索赔来减少55%。

戒指'与公共安全机构的伙伴关系只在亚马逊暂停警方销售重新识别以来的一年。自6月10日以来,本公司已宣布与警察局新的伙伴关系468年新伙伴关系公开,戒指秀。

在该计划的最新符号中,所有50名美国国家现在都有在公司' S Active Agency地图的数据的情况下参加亚马逊' S环网络。

在亚马逊举行的澳大利亚州之后,在重新识别和全球抗议活动中,在警察暴力周围的全球抗议活动中,有人自由和人权团体扣押的那一刻,要求戒指结束与警方的伙伴关系。当时,电子前沿基金会认为,亚马逊与黑人社区的团结声明的陈述,因为戒指与警察合作,为他们提供倡导团体恐惧将提高少数群体的种族剖析。

戒指告诉CNBC在该公司不容忍从环形设备和邻居应用程序共享的内容中忍受种族分析和讨厌演讲。

对CNBC发表谈话的隐私权倡导者表示他们认为环形铃声和重新识别提出类似的问题,因为这两种产品都增加了增加的警察监督网络。

" [亚马逊是]显然努力地努力将监控技术货币化,并舒适地向警察部门舒适,使其自身盈利,"纳森释放了Wessler,一名高级员工律师,与ACLU' S的演讲,隐私和技术项目。 "戒指以某种根本的方式少于面对识别,但它非常令人担忧,因为他们基本上在全国各地的居住区内放置了很少的监视摄像机,并提供警察以非常有效的方式试图获得访问该素材,这为执法提供了执法,只有一个巨大的人们录像,即他们的生活,他们从未能够进入以前。"

警方需要同意进入戒指相机镜头。由于上周按ring更新,这一过程变得更加透明,这需要警方和消防部门通过邻居应用程序的公共帖子提交用户录像的请求。以前,代理商可以私下通过电子邮件向用户申请视频。用户还可以选择退出邻居应用程序中公共安全机构的帖子。

戒指已经表示,镜头可以是一个有价值的工具,帮助警方调查包装盗窃,盗窃和闯入等罪行。但倡导者和立法者担心戒指设备将导致监测和种族分析增加。

2月份,电子前沿基金会获得了洛杉矶警察局的电子邮件,该部门显示了去年夏天在黑色生活中抗议期间的戒指镜头。 eff称为它"第一个记录的证据表明,警察局专门从新夏季相关的网络家庭监视装置中专门要求录像和#39;"

" LAPD'安全L.A.工作组'请求您的帮助,"阅读来自LAPD侦探格里·张伯伦的一封电子邮件。 "在最近的抗议活动中,个人受伤&物业被抢劫,损坏和销毁。为了确定负责人,我们要求您提交您可能拥有的任何视频的副本。"

戒指表示,其政策禁止公共安全机构提交抗议和其他合法活动的视频请求。该公司添加了该戒指,要求所有警察在邻居应用程序中进行视频,以包括有效的主动调查的有效案件编号,以及事件详细信息。

隐私和公民自由倡导者不仅担心戒指等家庭监控装置可能导致抗议者的监控,但是铃声可以与其他技术一起使用,如面部识别,使警方能够快速且容易地识别个人。

执法机构逃离'禁止与第三方共享戒指镜头。华盛顿邮政报道,亚马逊在2019年在2019年告诉立法者,下载戒指镜头的警察可以将视频留住,并与任何人分享他们。

"一旦警察会得到那个镜头,如果他们'重新在尚未禁止面部识别的许多城市之一,他们可以采取戒指镜头,然后使用不同的公司' s面部识别系统来识别一个人,或者这件事,任何人走路,"说Wessler。 "在通过系统中运行各面都没有任何技术地阻止他们尝试识别人。"

对于它的部分,Ring在去年8月表示,它在其任何设备或服务中使用面部识别技术,并将其销售或向执法提供技术。

去年夏天,隐私倡导者警告了一种戒备方式,其中可以被警方追踪和识别种族司法的抗议者。关于如何使用化妆和掩码伪装面的文章,并通过在逐步循环中发出详细的位置信息来保护智能手机。

一年后,有少数关于面部识别和其他监测技术可能已在抗议者中使用的报告。但活动家说,' s成为公众关于抗议监视的信息勉强划伤了执法能力的表面 - 以及它的一部分。

在许多情况下,没有披露关于他们如何调查公民的信息。它不是去年6月,在抗议活动中,纽约市立法机构通过了一项要求警察部门披露其在公众上使用监控技术的法律。通过对NYPD的诉讼和缺乏披露披露围绕其使用面部识别,停止发现该部门' S面部识别部分在三年内处理超过22,000例,但仍然揭示了其他案例。

"它'在黑暗中散步一点点,"说阿姆斯蒂国际马哈梅迪。

去年夏天在一个高度公布的案例中,诺维德似乎使用面部识别来追踪黑色生命物质抗议者Derrick" Dwreck" Ingram,试图逮捕,导致Ingram拒绝让官员没有权证进入他的公寓时长时间的支出。 Ingram据报道,大量的社交媒体上的苦难划出了他的街区,警察直升机飞过开销。警方最终离开了,他第二天拒绝了自己。

在向CNBC发表声明中,一个NYPD发言人表示,警方正在响应一个公开投诉,据称在演示中宣布伴随着扩音器的官员之前曾遭到近两个月的警察近两个月。 Ingram否认了NYPD'指控的攻击和指控最终被驳回。

Ingram说他是"拍了aback"和" Shaken"要了解,面部识别工具似乎参与了他的调查。 NYPD&#39的发言人'副委员会的公共信息副委员会,杰西卡MCRorie没有评论他的案件中是否使用了该工具,而是说NYPD"使用面部识别作为有限的调查工具"一场比赛不会被视为逮捕的可能原因。

Ingram'令人惊讶的是,他们的流利是他的监控工具的流畅性,为其他活动家提供了LED课程,以通过使用加密的应用程序来保护自己免受监视,使他们的社交媒体页面私人和其他策略。尽管如此,他认为他会以这种方式跟踪他。

现在,当他教育其他活动家了解监视时,他理解像他这样的抗议者仍然可以被履行自行实施所以选择。

"如果政府,如果警方,想要使用工具来监控我们,您将被监控,"他说。 "我的推动是我们应该使用这些同样的工具来证明这一原因的伤害。我们应该在做研究,我们应该与立法斗争,真正讲述像我这样的故事,以使公众发生的事情,并真正公开系统的欺诈和真正的危险程度。"

在国家'首都,法院透露的执法部门在法庭上透露,他们使用面部识别工具来确定被控攻击的抗议者。当时,警察官员领导该地区' S面部识别计划告诉华盛顿邮政的工具不会用于和平抗议,只用于领导。邮政后来报道,新的弗吉尼亚法律限制了当地执法部门的面部认可将很快结束面部识别系统。该系统一直是马里兰州,弗吉尼亚州和华盛顿,D.C的试点计划,需要从每个地区买入。

rep。D-Calif,Anna Eshoo,试图了解到去年夏天在种族正义抗议过程中如何使用监控工具,并敦促各机构限制使用这些工具,但表示她因响应而受到反应而受到影响从那些时代的机构。

"我收到了高级响应,但很少细节," Eshoo在接受CNBC采访时说。 "剩下的是很多未答复的问题。"

来自Eshoo的代表的代表 - 联邦调查局,毒品执法管理,国民卫队和海关和边境保护 - 无论是没有回应或拒绝评论他们对抗议的面部识别工具的回应或使用。

面部识别法的势头似乎在过去的一年中蜡和衰落。在大流行之前,几个隐私倡导者告诉CNBC,他们对此类法规进行了进展。

但公共卫生危机重置优先事项,甚至可以重塑一些立法者和公民对监视技术的思考。很快,政府机构正在讨论如何在美国人和#39上实施联系追踪;智能手机和广泛使用面具致力于涉及可以识别脸部的技术。

警方谋杀弗洛伊德谋杀后的社会运动,并特别涉及面部识别技术,具体围绕执法人员如何将其用来调查抗议者。隐私权倡导者和进步的立法者警告说,在言语和自由表达方面警告令人寒意的效果,如果这种监视不受控制。

像eShoo和Rush这样的立法者向执法机构发送了一系列信件,询问他们如何训练抗议,并签署了像面部认可和生物识别技术暂停行为的新账单。该法案将在未经国会许可的情况下暂停联邦机构或官员的使用。

在接受CNBC的采访中,Eshoo强调,暂停恰好 - 不是直接的禁令,而是机会将更强大的守护者对产品的使用。

"这个目标是该技术负责任地使用,"她说。 "它可以是一个非常有用和公平的工具,但我们现在没有那么有用。"

"我不开心我们所在的地方,因为我不觉得这一点牵着针头,"她说。

在哪里有一些变化的国家和地方一级,在萨默马维尔,大众的立法机构。,旧金山和加利福尼亚州奥克兰。已选择通过他们的城市代理商禁止使用面部识别技术。加利福尼亚现已在警察机身相机中使用面部识别技术的三年暂停。去年,奥勒波特兰的立法者。通过了技术最广泛的禁令之一,华盛顿州立法者选择了在政府使用各种卫兵和透明度。

它可以采取更多这些法律为国会终于采取行动,正如国家数字隐私法的兴起一样增加了联邦标准的紧迫性(尽管立法者在该案件中尚未围绕单一的账单合并)。 尽管如此,许多人继续呼吁永久禁止执法使用工具和联邦监管。 "虽然有很多东西的虽然有很多东西,但众所周知,我们必须推动我们的联邦政府实际能够通过立法," Ariisha Hatch,竞选活动的竞选活动。 隐私权倡导者还持谨慎态度,作为亚马逊和微软如亚马逊等科技公司的行业立法仍然致力于州上限 ......