研究人员称,Facebook的算法不成比例地向男女展示某些类型的工作广告; 没有在LinkedIn上发现性别倾斜的证据

2021-04-10 00:47:14

研究人员发现,研究人员发现,研究人员已经发现了某些类型的工作广告,致电了该公司在其算法中扎出来的偏倚方面的进展。

由南加州大学的研究领导的研究人员发现,如果他们的性别认同反映了特定位置或行业的性别的集中,Facebook系统更有可能向用户提出招聘广告。在考试中,去年年底,向多米诺骨牌披萨DPZ招募递送司机的广告不成比例地向男性展示,而女性更有可能在招募杂货店送货服务Instacart Instacart Instacart Instacart Instacart Instacart Inclact公司的通知。

研究发现,不平衡适用于高技能工作的帖子,也发现了。 Facebook的算法更有可能在Netflix Inc.展示一个关于技术工作的女士 - 这对技术行业的女性就业相对较高 - 而不是在NVIDIA NVDA -0.24%,图形 - 根据来自联邦就业报告的数据,芯片制造商具有更高比例的男性员工。

结果表明,一个平台,他的算法学习和延长了员工人口统计数据的现有区别,“这篇论文表示,即使雇主旨在达到人口统计学平衡的观众,Facebook的算法也似乎产生了歪曲结果。

联邦法律禁止基于住房,就业和信用产品广告的性别,种族,年龄和其他特征的歧视。虽然法律申请行为广告仍然有争议,但联邦政府认为,广告必须以不利的方式分发保护课程的人们看到它们的能力。

本文反映了Facebook在理解和管理其内容推荐系统的社会影响方面的困难。几家大型科技公司有努力学习的团队,并找到消除算法偏见的方法。

“我们的系统考虑了许多信号来尝试和服务于人们的广告,他们将最感兴趣,但我们理解报告中提出的担忧,”Facebook的发言人Beth Gautier说。 “我们采取了有意义的措施来解决广告中歧视问题,并在今天致力于广告公平的团队。”

USC研究人员还耗尽了LinkedIn的招聘广告的近似同样测试,但没有发现微软平台上的性别偏好的证据。研究人员没有研究显示工作列表的其他网站,并说对更多类别的运行测试将提高对结果的信心。

Aleksandra Korolova是一位前谷歌研究科学家和学习的作者之一,表示,在没有获得公司数据的情况下,难以访问Facebook的系统,但她惊讶的是,该公司没有解决职位广告的歪曲分配。 “他们已经知道这一年,这是一个对社会的重要问题,”她说。

LinkedIn副总裁Ashvin Kannan表示,USC纸的结论反映了LinkedIn自己的调查结果,但该公司仍然关注其系统中的偏见。

多年来,歧视性和非法广告目标的问题已经为Facebook覆盖了大型。 Propublica的2016年报告发现,该公司允许雇主将老年工人排除在招聘岗位和房东中,从广告中排除少数群体。

美国住房和城市发展部于2019年起诉Facebook,它涉及偏见的广告目标,指示该公司允许房东将拥有兴趣与公寓列表的主题中有兴趣的用户排除在一起的主题。 Facebook解决了该诉讼,并表示已删除此类类别,因为目标选项并承诺与HUD合作,以解决原子能机构的其他问题。

它还解决了美国公民自由联盟带来的诉讼,同意采取措施,包括研究其算法产生的可能的歧视性结果。

虽然在Facebook上的Facebook上的问题发现问题的镜头问题上,但东北大学计算机科学教授Piotr Sapiezynski表示,仍然存在该行业的遗留修复,该公司在东北大学计算机科学教授上与USC团队合作,在运送了工作中的种族差异。广告。

“直到我们弄清楚如何做到这一点,短期解决方案是关闭住房,信用和就业广告的相关性匹配,”他说。