推特照片算法中发现明显的种族偏见

2020-09-22 01:02:57

Twitter用来决定如何在人们的时间轴上裁剪照片的算法似乎会自动选择显示白人的脸,而不是肤色较深的人。最近几天,Twitter用户在社交媒体平台上发布照片,发现了这种明显的偏见。Twitter的一位发言人表示,该公司计划重新评估该算法,并将结果提供给其他人审查或复制。

Twitter在2017年放弃了人脸检测算法,转而使用一种显著性检测算法,该算法用于预测图像中最重要的部分。Twitter的一位发言人今天表示,在该算法部署之前的评估中没有发现任何种族或性别偏见,“但很明显,我们还有更多的分析要做。”

推特工程师泽汉·王(Zehan Wang)在推特上表示,在该算法部署之前的2017年就检测到了偏见,但没有达到“显著”的水平。VentureBeat联系了Twitter,询问有关2017年评估的更多细节,以及该公司将采取的重新评估算法的步骤。我们会在收到消息后更新这篇报道。

算法偏差研究人员Vinay Prabhu,他最近的工作导致麻省理工学院废弃了8000万个微小图像数据集,他创造了一种评估算法的方法,并计划通过最近创建的Twitter账户裁剪偏差来分享结果。