Facebook的广告算法仍然排除女性看到工作

根据其广告服务的最新审计，Facebook因性别而扣留了妇女的某些工作广告。

由南加州大学（USC）进行的独立研究人员进行的审计揭示了Facebook的广告交付系统向女性和男性显示不同的工作广告，即使工作需要相同的资格。这被认为是根据美国平等就业机会法律的基于性别的歧视，这是根据受保护特征的禁止广告目标。尽管有多年的宣传和诉讼，但在Facebook的承诺后，这一发现就会出现，以改变它如何提供广告。

研究人员在Facebook上注册为广告商，并为具有相同资格的职位购买了公告，但不同的现实人口统计数据。他们为两个送货驾驶员作业宣传，例如：一个用于多米诺骨牌（比萨饼送货），一个用于Instacart（杂货交付）。目前有更多的男性比为多米诺骨牌开车的女性，反之亦然是Instacart。

虽然没有在人口统计信息的基础上指定了观众，但在2019年3月在解决了几个诉讼之后，禁用了一个特色Facebook的住房，信用和招聘广告，算法仍将广告展示统计上不同的人口群体。多米诺骨牌的广告比女性更多的男人，而Instacart广告比男性更多。

研究人员发现了与另外两对职位的广告相同的模式：NVIDIA（偏斜男性）和Netflix（偏斜女性）的软件工程师，以及汽车（偏斜男性）和珠宝（偏斜女）的销售员工。

研究结果表明，Facebook的算法是以某种方式挑选这些工作的当前人口分布，这通常因历史原因而异。 （研究人员无法辨别为什么，因为Facebook不会说它的广告交付系统如何运作。）“如果没有资格理由，Facebook即使没有资格理由，它也会播放那些偏差，”Aleksandra Korolova说， USC的助理教授，他将与她的同事John Heidemann及其博士顾问蓬松Imana一起学习。

该研究提供了本次凭据，即本案Facebook尚未解决其广告歧视问题，因为Propublica于2016年10月将该问题带来了光明。当时，Propublica揭示了该平台允许工作广告商和住房机会排除某些受众特征的受众像性别和比赛一样。这些群体根据美国法律获得特别保护，使这一惯例违法。花了两个半年，为Facebook花了几个法律冲突，最终删除了该功能。

但是，几个月后，美国住房和城市发展部（HUD）征收了一个新的诉讼，声称Facebook的广告交付算法仍然排除住房广告的受众，而没有指定排除的广告商。由东北大学穆罕默德阿里和PiotrSapieżyński领导的Korolova包括Korolova的团队，并在一周后证实了这些指控。例如，他们发现，待售房屋更常见于白色用户，并且租金的房屋更常见于少数民族用户。

Korolova希望通过最新审计重新审视该问题，因为工作歧视的证据负担高于住房歧视。虽然在住房的情况下，基于保护特征的广告显示的任何倾斜，但如果偏差是由于合法的资格差异，美国就业法认为它是合理的。这个因素的新方法控制。

“实验的设计非常干净，”Sapieżyński说，他没有参与最新研究。虽然有些人可能会争辩，汽车和珠宝销售伙伴确实有不同的资格，但他说，提供披萨和交付杂货之间的差异可以忽略不计。 “这些性别差异不能通过资格的性别差异或缺乏资格来解释，”他补充道。 “Facebook不能再说[这是]法律可靠的。”

此审计的发布可以在Facebook的AI偏见工作的审查中提高。 3月，麻省理工学院技术审查发布了九个月调查的结果，该公司负责任的AI团队发现，该团队于2018年首次组建，忽略了算法放大错误信息和极化的问题，因为它眨了眨眼专注于AI偏见。该公司不久之后发表了一个博客文章，强调这项工作的重要性，特别是Facebook寻求“更好地了解可能影响我们广告系统的潜在错误，作为我们正在进行的广告中的算法公平性的持续和更广泛的工作的一部分。 “

＆＃34;我们采取了有意义的措施来解决广告中歧视问题，并在今天的广告公平工作，＆＃34;在一份声明中说Facebook Shokesperson Joe Osborn。 ＆＃34;我们的系统考虑了许多信号来尝试和服务于人们的广告，他们将最感兴趣，但我们了解报告中提出的担忧......我们继续与民权界密切合作，监管机构和学者就这些重要事项。“

尽管有这些索赔，但是，Korolova表示，她在2019年审计和这一方面没有明显的变化，在Facebook的广告交付算法的方式方面。 “从那个角度来看，它实际上真的很令人失望，因为我们两年前向他们注意到了他们的注意，”她说。她说，她还提供与Facebook一起解决这些问题的工作。 ＆＃34;我们没有听过＆＃39;至少对我来说，他们没有达到。＆＃34;

在以前的访谈中，公司表示，由于持续诉讼，它无法讨论如何在广告服务中减轻算法歧视的详细信息。广告团队表示，其进度受到技术挑战的限制。

Sapieżyński现在进行了三台审计的平台，表示这与问题无关。 “Facebook仍未承认存在问题，”他说。 虽然该团队在技术纠缠中备注，但他补充说，还有一个简单的临时解决方案：它可以关闭算法广告，专门针对住房，就业和贷款广告，而不会影响其其余的服务。 他说，这只是一个政治意愿问题。 Risto Wilson是东北部的另一个研究员，他研究算法偏见但没有参加Korolova或Sapieżyński的研究，同意：“研究人员和记者需要多少次在我们接受整个广告目标系统破产之前找到这些问题 ？“