技术不能预测犯罪,它只能使靠近警察的地方武器化

2020-09-09 22:40:48

2020年6月,加利福尼亚州圣克鲁斯成为美国第一个禁止市政使用预测警务的城市,预测警务是一种根据数据驱动的分析部署执法资源的方法,据称能够预测肇事者、受害者或未来犯罪的地点。特别有趣的是,圣克鲁斯是美国首批试验这项技术的城市之一,当时它在2011年试行了一项预测性警务计划,然后采用了这项计划。该项目使用历史和当前的犯罪数据,将城市的一些地区划分为500英尺乘500英尺的街区,以确定可能成为未来犯罪现场的地点。然而,九年后,市议会一致投票禁止它,因为担心它如何延续种族不平等。

预测性警务是一种自我实现的预言。如果警方将精力集中在一个社区,并在一周内逮捕了数十人,数据将反映出该地区是犯罪活动的温床。该系统还只考虑举报的犯罪,这意味着报警更频繁的社区和社区可能会看到,预测性警务技术将资源集中在那里的可能性更高。这个系统是量身定做的,通过利用科学合法性的外衣和数据所谓的不偏不倚的性质,进一步伤害已经被过度管控的社区-即有色人种社区、无房个人和移民。

圣克鲁斯的实验,以及最终取缔这项技术对美国其他地区来说是一个教训:技术不能取代社区参与和整体减少犯罪的措施。警察部门越是依赖技术来规定在哪里集中力量,谁值得怀疑,这些部门对脆弱社区造成的伤害就越大。这就是为什么警察部门应该被禁止使用所谓的数据知情算法来告知哪些社区,甚至哪些人,应该接受最大份额的警务和刑事化。

圣克鲁斯禁止预测性警务的条例将这项技术定义为“指用于预测过去或未来有关犯罪或犯罪行为的信息或趋势的软件,包括但不限于任何可能犯罪的人的特征或特征,任何可能犯罪的人的身份,犯罪地点或频率,或受预测犯罪影响的人”。

预测性警察分析来自历史犯罪的大量信息,包括一天中的时间、一年中的季节、天气模式、受害者类型和地点类型,以推断犯罪可能发生的时间和地点。例如,如果周四在胡同里发生了多起犯罪事件,算法可能会告诉一个部门,他们应该在每个周四派遣警察到胡同。当然,这意味着警方倾向于怀疑当时恰好在那个地区的每一个人。

这项技术试图在执行不太流行的“以人为本”的预测性警务的同时发挥类似的作用。这采取不透明的评级系统的形式,根据一些数据流为人们分配风险值,包括年龄、疑似帮派从属关系以及一个人成为受害者和被指控的犯罪者的次数。这些数据的累积可能会导致某人被列入“热门名单”,就像芝加哥有1000多人被列入这样的“战略主题名单”一样。因为当特定地点成为目标时,这项技术实际上无法预测犯罪-在试图这样做的过程中,它可能会在没有任何实际证据证明将发生犯罪的情况下,将人们暴露在警方有针对性的骚扰或监视之下。

尽管预测警务的基础不确定,但它的使用仍在继续扩大,这是有原因的:它是赚钱的。许多公司已经开发了数据驱动的监管工具;其中一些最大的是PredPol、HunchLab、CivicScape和Palantir。学术机构还开发了预测性警务技术,例如罗格斯大学(Rutgers University)的RTM Diagnostics或卡内基梅隆大学(Carnegie Mellon University)在匹兹堡使用的CrimeScan。一些部门已经与私营公司和学术机构建立了这样的工具。例如,2010年,孟菲斯警察局与孟菲斯大学犯罪学和刑事司法系合作,使用IBM SPSS预测分析建立了自己的工具。

截至2020年夏天,这项技术在美国数十个城市使用。

预测警务的最大缺陷之一是输入系统的错误数据。这些算法依赖于告知他们犯罪活动发生在哪里的数据来预测未来犯罪活动将在哪里发生。然而,并不是所有的犯罪都被记录下来-一些社区比其他社区更有可能举报犯罪,一些犯罪比其他犯罪更不可能被举报,警察在决定是否逮捕时有自由裁量权。预测性警务只考虑到报告的犯罪,并将警务资源集中在这些社区,这使得警方更有可能发现其他犯罪。所有这些都创造了一个反馈循环,使预测性警务成为一个自我实现的预言。正如Suresh Venkatasubramanian教授所说:

“如果你建立预见性警力,你实质上就是根据他们告诉你的情况向某些社区派遣警察-但这也意味着你不会向其他社区派遣警察,因为系统没有告诉你去那里。如果你假设你的系统的数据收集是由你派到特定社区的警察产生的,那么从本质上说,你的模型控制着你获得的下一轮数据。“。

这个反馈循环将影响弱势社区,包括有色人种社区、无房社区和移民。

警方已经在维持少数族裔社区的治安,并逮捕那些在巡逻人数较少的社区可能没有注意到或没有报告的事情的人。当这些已经扭曲的数据输入到预测算法中时,它将向已经过度警戒的社区部署更多的警察。

最近对帕斯科县警长办公室使用的预测程序的深入研究表明,陷入算法循环可能会对人造成伤害。在一名15岁的少年因从车库偷自行车被捕后,算法不断出动警察骚扰他和他的家人。在五个月的时间里,警方去了他的家21次。他们出现在他的健身房和他父母工作的地方。“坦帕湾时报”透露,自2015年以来,警长办公室已经对人们进行了超过12500次类似的先发制人的访问。

这些探访往往导致其他无关的逮捕,进一步伤害受害者家庭,并增加他们再次被探访和骚扰的可能性。在一起事件中,一名目标少女的母亲被开出了2500美元的罚款,因为被派去检查她的孩子的警察在后院看到了鸡。在另一起事件中,当警察透过房子的窗户看到一名17岁的男孩正在吸烟时,一名父亲被逮捕。这些犯罪通常没有上报,发生在所有社区,所有经济阶层-但只有那些生活在几乎持续不断的警察监管下的边缘化人群才会受到惩罚。

正如专家指出的那样,这些算法往往来自有缺陷和不透明的来源,如帮派数据库,由于缺乏透明度和过度纳入黑人和拉丁裔人,这些数据库一直是公众审查的对象。例如,在洛杉矶,如果警方注意到一个人穿着运动衫,或者在街上与某人进行了简短的交谈,那么将该人列入洛杉矶警察局的帮派数据库可能就足够了。被纳入帮派数据库通常意味着暴露在更多的警察骚扰和监视之下,而且一旦进入法律系统也可能导致后果,比如更严厉的判决。包括在帮派数据库中可能会影响预测算法是否将某人识别为对社会的潜在威胁,或者人为地将特定犯罪预测为与帮派有关。2020年7月,在洛杉矶警察局官员被发现伪造数据后,加州总检察长禁止该州警方进入加州帮派数据库的任何条目。不负责任的和过于宽泛的帮派数据库是从警察部门流入预测算法的有缺陷的数据类型,也正是为什么预测警察不能被信任的原因。

为了测试预测性警务中的种族差异,人权数据分析小组(HRDAG)研究了奥克兰警察局记录的毒品犯罪。它使用大数据警务算法来确定它将建议警方在哪里寻找未来的毒品犯罪。果不其然,HRDAG发现,数据驱动的模式几乎只关注低收入有色人种社区。但有关吸毒者的公共卫生数据结合美国人口普查数据显示,吸毒者的分布与该项目的预测并不相关,这表明该算法的预测植根于偏见而非现实。

所有这些都是为什么一群学院派数学家最近宣布抵制帮助警察创造预见性警务工具的原因。他们辩称,他们的资历和专业知识创造了一种便捷的方式,可以根据他们的居住地和认识的人,通过科学合法性,将关于谁会犯罪的种族主义想法走私到主流。他们写道:“为种族主义制造一个‘科学’的表象实在太容易了。”

此外,许多预测性警务工具缺乏透明度,这一点令人不安。在许多情况下,不清楚算法是如何设计的,使用了什么数据,有时甚至不清楚系统声称要预测什么。供应商以商业秘密或商业机密为由,寻求保密条款或以其他方式将他们的产品保密。当数据驱动的监管工具是黑匣子时,很难评估影响搜索结果的错误率、误报、编程能力限制、有偏见的数据,甚至源代码缺陷的风险。

对于地方部门来说,使用这些预测技术的高昂成本也可能对公民社会的维护造成不利影响。在洛杉矶,洛杉矶警察局在九年的时间里仅使用Palantir的预测技术就支付了2000万美元。这只是洛杉矶警察局用来预测未来的众多工具之一。

最后,预见性警务引发了宪法方面的担忧。仅仅是住在附近或与某些人在一起,可能会招致警方的怀疑,或者导致他们将人们视为潜在的肇事者。正如法律学者安德鲁·格思里·弗格森(Andrew Guslee Fureson)所写的那样,预测性警务与法律要求警察拥有合理怀疑才能拦截之间存在紧张关系。此外,预测性警务系统有时利用来自社交媒体的信息来评估一个人是否可能从事犯罪,这也引发了言论自由问题。

科技不能预测犯罪,它只能将一个人与警方行动的距离武器化。个人不应该因为一个偶然的熟人、家庭成员或邻居犯罪而削弱他们的无罪推定。这只会让本已脆弱的人群面临更多的警察骚扰,侵蚀公共安全措施和社区之间的信任,并最终造成更多的危险。这在芝加哥已经发生了,那里的警察监视和监控犯罪受害者的社交媒体-因为成为犯罪受害者是芝加哥预测算法用来确定一个人自己是否有高犯罪风险的众多因素之一。

正如圣克鲁斯禁令所表明的那样,各城市开始意识到预测性警务的危险。随着禁止政府使用人脸识别和其他生物识别监控的运动日益高涨,我们也应该寻求禁止预测性警务。在全国范围内,从旧金山到波士顿,几乎有十几个城市已经禁止警方使用人脸识别,因为它们认识到了人脸识别对有色人种的不成比例的影响,它倾向于错误地指控人们犯罪,它侵蚀了我们的无罪推定,以及它追踪我们的行动的能力。

在预测性警务变得更加普遍之前,城市现在应该利用这个机会,通过禁止使用这项技术或从一开始就阻止部门获得这项技术的法令来保护居民的福祉。如果你所在的城镇有社区控制警察监控(CCOPS)条例这样的立法,要求民选官员批准警察购买和使用监控设备,那么在试图禁止这项技术的同时,可以阻止获得预测警务。

中篇小说和电影“少数派报告”的教训仍然适用,即使在大数据时代也是如此:人们在被证明有罪之前是无辜的。人们不应该因为接近犯罪而受到骚扰和监视。拥有秘密专有算法的营利性软件公司不应该创造黑匣子水晶球,不受公众监督,不受执法部门的限制。现在把预测警察的精灵重新放回瓶子里还不算太晚,这正是我们应该敦促地方、州和联邦领导人做的事情。