数据不仅仅是从你的手机上收集的。它被用来给你打分

2020-08-01 13:36:38

在网上市场的阴影下运营的专业科技公司,你可能从未听说过,它们正在利用我们海量的个人数据来生成秘密的监控分数“-数百万美国人的数字面部照片-据说可以预测我们未来的行为。这些公司将他们的评分服务出售给美国经济各地的主要企业。

CoreLogic和TransUnion表示,他们向房东兜售的分数可以预测潜在租户是否会按时支付租金,是否能够“消化租金上涨”,或者是否会违约。大雇主使用HireVue,这家公司通过分析“数以万计的因素”,包括一个人的面部表情和语调,生成关于应聘者的“就业能力评分”。其他雇主使用Cornerstone的评分,该评分考虑了潜在求职者住在哪里,以及他们使用哪种网络浏览器来判断他们在一份工作中会有多成功。

品牌零售商从Retail Equation购买“风险分数”,以帮助判断消费者在退货退款时是否存在欺诈行为。零工经济中的参与者利用像SIFT这样的外部公司来给消费者的“整体可信度”打分。预计利润较低的无线客户有时会被迫忍受更长的客户服务等待时间。

汽车保险公司根据使用追踪驾驶风格的智能手机应用程序的信息计算出的分数来提高保费。大型分析公司根据我们重新配药的倾向来监测我们是否有可能服药;制药公司、医疗保健提供者和保险公司可以利用这些分数来“将合适的患者投资水平与合适的患者相匹配”。

监督得分是两种趋势的产物。首先是从智能手机到汽车、烤面包机到玩具,关于我们生活的每一个私密细节的收集都很猖獗(而且大多不受监管),这些收集只需几毫秒就能积累起来。这些大火般的数据--其中大部分是我们自愿交出的--包括我们的人口统计数据、收入、面部特征、声音、精确位置、购物历史、医疗状况、遗传信息、我们在互联网上搜索的内容、我们访问的网站、我们何时阅读电子邮件、我们使用哪些应用程序、使用它们的时间,以及我们睡眠、锻炼的频率等等。

推动这些分数的第二个趋势是能够瞬间处理这些数据的技术的到来:功能呈指数级增长的计算机和5G等高速通信系统,这导致了使用人工智能以某种方式对我们所有人进行评分的评分算法。

其结果是:基于每个消费者的独特分数的自动决策,作为一个实际问题,是不可逆转的。

这是因为整个过程-分数本身,以及它们所基于的数据-对我们都是隐藏的。几乎不可能知道一个人什么时候成为分数的牺牲品,更不用说分数是不准确的、过时的,还是由一个不知名的软件工程师编写的带有偏见或歧视性的代码的产物。这是没有上诉的。

监督评分与20世纪60年代的信用评分有些许相似之处。在前计算机时代,为银行、零售商和保险公司工作的私人侦探跟踪消费者,在报纸上搜寻有关逮捕、促销、性取向、饮酒习惯和清洁程度的信息,以决定消费者的信用-直到国会在20世纪70年代制定规则,赋予消费者审查和质疑其信用评分的权利。

今天的数据窥探者实时获取关于其目标的无限多的信息。而监视得分的影响要有害得多。

科技行业坚称,它的每一次进步都改善了我们的生活。但那只是个神话。监控评分使公司能够在技术上准确无误和充满好奇心的光环下掩盖老式的歧视。

秘密监控得分创造了一些消费者不再受欢迎的微型市场。他们把美国人分为“富人”和“穷人”,失败者被降级为二等公民。

消费者需要一个21世纪的解决方案来应对这一紧急威胁。充斥着科技资金的国会陷入了一种过时的法律范式:通过点击“披露”隐私政策并“同意”。没有人会假装这些工业时代的合同法概念会对遏制数据盗窃起到任何作用,更不用说监管或禁止秘密监控得分了。

我们向联邦贸易委员会请愿,要求调查和规范监视评分。委员会对此有何回应?一篇博客文章敦促开发和应用分数的公司进行自我监管。

这只是华盛顿向科技行业投降的最新例子,科技行业不断出现侵犯隐私、卑鄙道歉和支付无关紧要的罚款的循环,这证实了消费者不能依赖联邦政府提供保护。

秘密监视计分将我们置于“奇点”的边缘,这是一个反乌托邦的转折点,之后机器将对人类做出判断,这将决定我们的命运。我们要么掌控自己的未来,要么冒着失去未来的风险。