你的 Facebook 自拍可能会出现在警方监控数据库中:“任何将隐私设置设为‘公开’的人都应该期待执法部门能够访问他们的个人资料”

2021-08-06 00:04:12

当你将照片发布到 Facebook 时,不仅仅是你的朋友和奶奶可以看到它——警方越来越多地使用社交媒体通过有争议的面部识别技术来识别嫌疑人。任何拥有驾驶执照的人都已经被列入警察机构用来识别潜在嫌疑人的数据库中。社交媒体图片也被输入到面部识别软件中,将关于监控技术的争论带入了新的领域。任何将隐私设置设为“公开”的人都应该期望执法部门能够访问他们的个人资料。圣克拉拉大学高科技法律研究所联席主任埃里克·戈德曼 (Eric Goldman) 说:“如果你将照片发布到 Facebook 并让公众可以看到,你应该认为它被很多人抢走了。”警察监视的扩大引起了人们对其对在线隐私和边缘化社区影响的严重担忧。它还推动了两党支持在联邦层面进行更多监管,而此时几乎没有关于如何使用这项技术的法律。从本质上讲,面部识别技术的工作原理是这样的:调查人员上传的照片通过一种算法进行研究,该算法构建一个人脸的独特地图,并将其与数据库中包含的其他人脸模板进行比较。理想情况下,该过程会创建一个数字阵容,调查人员可以用它来识别嫌疑人。尽管全国各地的警察都接受了面部识别技术,但它仍然存在争议。众所周知,不完美的算法有时会错误地识别肤色较深的人,这导致密歇根州至少发生了两起有人被错误逮捕的事件。民权组织担心该技术会威胁在线隐私并歧视少数民族社区。 “面部识别技术可能非常有用,但也可能会带来极大的问题,”戈德曼说。 “总的来说,我不认为我们想一直把面部识别技术描绘成一团糟。我认为在这个过程中我们会失去一些东西。我们还必须意识到它是多么容易被滥用。”

无论如何,私营公司正在通过出售对他们自己的数据库的访问权来赚取利润,这些数据库有时包含在用户不知情的情况下从社交媒体网站上抓取的图像。到 2024 年,面部识别行业的价值预计将达到 70 亿美元。事实证明,您的自拍毕竟是有价值的。旨在寻找人脸的算法已经使用普通人的在线图片进行了近十年的训练。消费者还使用面部识别技术解锁智能手机并在发布到社交媒体的照片中标记朋友。 Clearview AI 是一家纽约公司,出售对从 Facebook、Instagram、Twitter 和 LinkedIn 等公共网站挖掘的 30 亿张图片的庞大数据库的访问权限。高盛说,从互联网上抓取照片是一个模糊的法律领域。 Facebook、LinkedIn、谷歌和 Twitter 向 Clearview 发送了停止和终止信件,声称该公司通过抓取用户数据违反了他们的服务条款。 Clearview AI 在加拿大被视为非法,并在美国和欧洲面临多项法律投诉。 Clearview 仍然保留着一份广泛的警察客户名单。根据政府监管机构的报告,至少有 10 个联邦机构使用 Clearview 的技术。该公司还向密歇根州警察和数十个地方警察部门提供免费试用期。批评者认为,收集数百万美国人的面孔,包括许多没有犯罪的人,会形成一个“永久阵容”。然而,执法组织表示,如果使用得当,面部识别技术是一种宝贵的打击犯罪工具。面部识别禁令将如何影响执法? MSP 情况说明书从警方的角度提供了一个答案:

“如果执法部门无法使用 FR,面部检查员将被迫手动分析图像,从而导致调查时间长、效率低且成本高昂。由此导致的调查延误将使公众面临更大的受害风险。”密歇根大学科学、技术和公共政策项目主任 Shobita Parthasarathy 表示,面部识别技术被认为比人类的偏见要少。但她指出,越来越多的研究表明,这些工具在识别有色人种、儿童、女性、性别不符合者和残疾人时会出错。 “我们真正听到的只是因为存在诉讼威胁而报告的错误识别案例,”她说。 “我认为这可能发生得更频繁。”密歇根州已经经历了几个黑人被错误识别,导致错误逮捕和法律诉讼的例子。 2019 年,一名底特律男子被错误地指控犯有重罪盗窃罪,因为他的脸与警方上传的手机视频中的人不正确匹配。去年,Farmington Hills 的一名男子被错误地与一家零售店的视频监控图像匹配后被错误逮捕。 7 月,一名 14 岁女孩在被面部识别软件错误识别后被踢出利沃尼亚溜冰场。法明顿希尔斯 (Farmington Hills) 男子罗伯特·威廉姆斯 (Robert Williams) 因入店行窃而被错误逮捕,他在美国众议院关于警察面部识别技术的小组面前作证。美国公民自由联盟代表他对底特律警察局提起诉讼。 “我从没想过我会成为一个警示故事,”威廉姆斯在 7 月对国会议员说。 “更重要的是,我从没想过我必须向我的女儿们解释为什么他们的爸爸在我们家门前的草坪上当着她们的面被捕。如何向两个小女孩解释电脑出错了,但警察还是听了,这意味着他们可以以我没有犯下的罪行逮捕我?”

Parthasarathy 警告说,面部识别工具可能会加剧少数族裔社区的警务和监视系统性问题。对“法医确认偏见”的研究表明,面对不确定性,人们倾向于关注能够证实他们预期的证据,而忽略不能证实的信息。 “我认为我们在认知上更难理解这项技术反映了人类的偏见,”她说。 “这些技术通常被认为更客观。我们对这类技术的审查更少,因为我们认为它们不会有偏见。”虽然公司强调面部识别工具有助于警方调查的能力,但高盛表示,该软件是否会产生种族偏见结果的透明度较低。 “在实践中,我们怀疑每个面部识别数据库都对种族偏见进行编码,”他说。 “我们有大量证据表明,如果执法部门可以使用面部识别技术,他们就不会进行标准的调查。他们用它来缩短他们的努力,如果他们得到的搜索结果带有种族偏见,那么他们所做的所有剩余执法工作可能都在编码或基于这种种族偏见。”面部识别技术对密歇根州的警务来说并不陌生。自 2001 年以来,密歇根州警察局维护了一个当地警察可以访问的数据库。截至 8 月 1 日,它已增长到 5500 万张图片,并在去年增加了 200 万张图片。 MSP 数据库由驾驶执照、面部照片、身份证照片和其他由惩教部和国务院创建的图像组成。据一位发言人称,它不包括社交媒体图片。但是,警方可以输入社交媒体图片以在 MSP 数据库中搜索匹配的面孔。底特律警察局还使用公共记录、社交媒体图像和遍布全市的监控摄像头网络,通过面部识别技术识别可能的嫌疑人。

DPD 没有回答有关如何使用社交媒体图像以及社交媒体照片是否保留在其数据库中的问题。 DPD 也没有回答有关其数据库规模或是否在刑事调查中使用 Clearview AI 工具的问题。 7 月份提交给底特律警察局的一份报告显示,自 2021 年初以来,社交媒体照片被用于 25 项调查。根据最新数据,这占今年面部识别调查的 35%。面部识别技术在 62% 的案例中创造了可能的匹配,这意味着图像在三分之一的时间内没有识别出嫌疑人。根据 MSP 和底特律警方制定的政策,计算机匹配的面孔不应被视为正面识别。必须通过进一步调查确定与可能的嫌疑人的任何联系。 2019 年,底特律警务专员委员会要求面部识别技术仅用于调查暴力犯罪或家庭入侵,以应对公众的反对。抗议者要求底特律市完全停止使用面部识别软件。市政府和 DPD 坚持使用它,认为好处大于风险。底特律退休警官、该市警察监督委员会成员威利·贝尔表示,“没有系统是完美的”,但事实证明,面部识别技术很有用。贝尔说,如果使用得当,该工具可以加快调查和破案速度。

“我们听到了社区的担忧,但我们认为这是当今打击犯罪的必要工具,”贝尔说。 “到目前为止,这对我们有用。”底特律于 2017 年开始使用面部识别技术。去年,该市延长了与 DataWorks Plus 的合同,DataWorks Plus 是一家总部位于南卡罗来纳州的公司,该公司与芝加哥、纽约、洛杉矶和旧金山等其他主要城市的警察签订了合同。根据与底特律的最初合同,DataWorks 提供了通过视频监控源实时搜索人脸的能力。 DPD 在 2019 年修改了其内部政策,以在居民和活动人士的反对下停止在实时供稿中使用面部识别。 DPD 政策还禁止使用面部识别来评估一个人的移民身份。美国政府问责局最近的一份报告发现,20 个联邦机构拥有或使用了具有面部识别技术的系统。它还发现十多个联邦机构并不了解他们面部识别工作的全部范围,并且缺乏跟踪该技术使用的有效手段。几个使用 Clearview 工具的联邦机构在密歇根州广泛运作,包括美国海关和边境保护局、移民和海关执法局以及 FBI。据一位发言人称,密歇根州警察在 2019 年获得了为期六个月的 Clearview 工具试用版,但决定不与该公司签订合同。六个联邦机构报告使用了由乔治·弗洛伊德 (George Floyd) 于 2020 年 5 月去世引发的抗议和公民起义的图像。三个机构报告说,在 1 月 6 日美国国会大厦骚乱中拍摄的图像中使用了它。

Facebook 帖子为试图查明 1 月 6 日违法者身份的调查人员提供了数字证据的宝库。美国国会警察还使用 Clearview AI 来帮助生成线索,联邦特工从社交媒体平台获取内部记录以识别嫌疑人。 Clearview AI 没有透露其客户,但 BuzzFeed 新闻报告发现 1,803 家公共资助机构在 2020 年 2 月之前使用或测试了该警务工具。 BuzzFeed 报告基于 Clearview 内部数据,表明有 30 个密歇根州执法机构使用了该工具。 Grosse Pointe 和 St. Clair Shores 的警察部门也表示,他们使用了 Clearview AI 的免费试用版。 “我们知道执法部门是 ClearView AI 的大客户,”Parthasarathy 说。 “他们也有私人客户。我们并不总是知道执法机构是否在与他们合作。”还有各种各样的其他地方正在使用面部识别技术。密歇根州的数十个警察局与亚马逊的 Ring 门铃服务合作,以获取私人摄像机录制的镜头。但是,房主可以拒绝查看录像的请求。 Parthasarathy 是 UM 研究人员团队中的一员,他们撰写了一份关于学校面部识别技术的报告。该报告建议五年内禁止在学区使用该技术,直到制定数据隐私法律和监管政策。去年,IBM、亚马逊和微软宣布停止向警方出售他们的面部识别技术,直到国会制定联邦法律来规范其使用。

美国众议员拉希达·特莱布 (Rashida Tlaib) 发起了一项法案,该法案将禁止联邦机构使用生物识别监控并扣留使用它的州和地方警察部门的资金。密歇根州已经出台了几项旨在规范面部识别技术的法案,但都没有取得进展。 2019 年的两项法案试图对实时视频源的技术和非法扫描实施五年暂停。底特律州众议员凯伦·惠特塞特 (Karen Whitsett) 于 6 月提出的另一项法案旨在阻止警方使用面部识别程序和随身摄像机录制的录音,除非获得授权。一些州已通过数据隐私法来规范生物识别数据的收集。 ACLU 在伊利诺伊州起诉 Clearview,称该公司违反了该州的隐私法。今年早些时候,安娜堡市议会成员讨论了禁止警察使用面部识别技术的问题。密歇根州警察是探索面部识别技术的国际科学工作组的一部分。美国司法部和总统执法与司法委员会在 2020 年举行的听证会上报告了其在密歇根州使用的几个“成功案例”。在一个例子中,密歇根州一家未具名的地方警察机构使用了社交媒体照片以确定一名凶杀嫌疑人,后来被定罪。另一个例子描述了联邦执法机构如何向 MSP 的数据库提交社交媒体照片,以识别涉嫌在网上招揽未成年人的嫌疑人。

Parthasarathy 说人们可能没有意识到他们允许科技公司收集他们的数据。亚马逊、谷歌和 Facebook 等公司通过收集生物识别数据并将这些信息出售给广告商而发了大财。 Parthasarathy 说:“人们可以做一些事情——他们可以设置他们的隐私设置,他们可以停止在社交媒体上放照片——但现在很难做到。” “我也不想给人们带来负担。考虑到我们必须担心的所有事情,我认为这不公平。我认为这是政策制定者的责任。”读者注意事项:如果您通过我们的附属链接之一购买商品,我们可能会赚取佣金。在本网站上注册或使用本网站即表示接受我们的用户协议、隐私政策和 Cookie 声明以及您的加利福尼亚隐私权(用户协议于 21 年 1 月 1 日更新。隐私政策和 Cookie 声明于 2021 年 5 月 1 日更新)。 © 2021 Advance Local Media LLC。保留所有权利(关于我们)。未经 Advance Local 事先书面许可,不得复制、分发、传输、缓存或以其他方式使用本网站上的材料。