优步和Lyft定价算法在非白人地区收费更高

优步(Uber)和Lyft等叫车公司用来确定车费的算法似乎造成了种族偏见。

通过分析芝加哥的交通和人口普查数据，华盛顿乔治华盛顿大学(George Washington University)的艾林·卡利斯坎(Aylin Caliskan)和阿克沙特·潘迪(Akshat Pandey)发现，如果接送地点或目的地是少数族裔居民比例高于白人为主的社区，叫车公司每英里的收费会更高。

“基本上，如果你要去一个有大量非裔美国人的社区，你会为你的乘车支付更高的票价，”卡利斯坎说。

与传统出租车不同，叫车服务的车费是动态的，是根据行程长度以及当地需求等因素计算的-尽管目前尚不清楚这些算法还会考虑哪些因素，因为叫车公司不会提供所有数据。

研究人员分析了2018年11月至2019年12月期间通过叫车应用在芝加哥进行的1亿多次出行的数据。每一次乘坐都包含信息，包括上下车地点、持续时间、费用以及乘坐的是个人旅行还是共享旅行。这些数据不包括人口统计细节，如骑手的种族。

在此期间，个人乘客出行6800万次，其中大部分使用优步。

两人将旅行数据与美国人口普查局的美国社区调查(American Community Survey)的信息进行了比较，美国人口普查局的美国社区调查提供了有关社区的综合统计数据，包括人口、种族细分、教育水平和房价中值。

他们发现，如果接送地点位于白人居民比例较低、房价中值较低或平均教育程度较低的社区，每英里的平均价格会更高。

西雅图华盛顿大学(University Of Washington)的奥斯·凯斯(Os Kyes)表示：“即使在没有明确考虑身份的情况下，如何决定算法的结果，种族主义的结构和历史性质，以及它影响地理、机会和生活机会的方式，意味着种族差异仍然可能出现。”

凯斯说：“进行这项分析的芝加哥就是一个很好的例子：由于红线划红线的做法，它在地理上仍然是高度隔离的。”红线是指抵押贷款机构拒绝在某些社区提供贷款的做法。

“这应该会让我们进一步质疑算法中的‘公平’和‘偏见’研究，这些算法承诺通过简单地不提种族来结束算法种族主义，”凯斯说。

研究人员发现，没有统计上的联系表明，少数民族比例较高的社区对乘车的需求更高，这可能也可以解释较高的票价。

Lyft的一位发言人表示：“我们认识到系统性偏见在社会中根深蒂固，并赞赏这样的研究，这些研究旨在了解技术在哪里可能无意中存在歧视。”“定价有很多因素--一天中的时间、旅行目的等等--而这项研究似乎没有考虑到这些因素。”我们急于在结果公布时审查全部结果，以帮助我们继续优先考虑我们的技术。“。

根据美国法律，基于受保护的属性(包括种族)歧视个人是非法的。卡利斯坎说，这项研究的结果是有问题的。“尽管这些算法应该是公平的，而且它们没有使用受保护的属性，但它们似乎对这些社区产生了重大影响。”

英国谢菲尔德大学的诺埃尔·夏基说：“这项研究表明，邮政编码和种族造成的算法偏差甚至可以潜入最意想不到的地方。”“这是一长串关于种族和种族偏见如何在计算机软件中找到新家的又一个例子。没有任何借口存在自动化偏见，这样的系统应该被关闭，直到它们能够证明公平和平等的时候，“他补充说。