Twitter 的照片裁剪算法偏向于拥有更苗条、更年轻的面孔和更白皙的皮肤的人；一位研究人员因这一发现获得了 3,500 美元的奖金

瑞士 EPFL 技术大学的一名研究人员赢得了 3,500 美元的奖金，因为他确定了一个关键的 Twitter 算法偏爱看起来苗条、年轻、肤色较浅或肤色较暖的面孔。 Twitter 周日宣布将奖项授予 Bogdan Kulynych，一位研究隐私、安全、人工智能和社会的研究生。 Twitter 赞助了这场比赛，以找出它用来裁剪它在你的 Twitter 时间线上显示的照片的“显着性”算法中的问题。 Twitter 为发现 AI 偏见而提供的赏金是对现在主流的漏洞赏金做法的一种新方式，即公司支付给外部人员以寻找安全漏洞。用最新的科技新闻、产品和评论为您的闲聊增添趣味。工作日发货。人工智能通过有效处理凌乱的主题（例如为视频添加字幕、发现网络钓鱼电子邮件和识别您的脸以解锁手机），彻底改变了计算方式。但是在现实世界数据上训练的 AI 算法可以反映现实世界的问题，而解决 AI 偏见是计算机科学中的一个热门领域。 Twitter 的赏金计划旨在发现此类问题，以便最终纠正这些问题。今年早些时候，Twitter 本身也证实其 AI 系统在其裁剪算法偏爱白人图像而非黑人图像时显示出偏见。但是 Kulynych 在算法如何裁剪照片以强调它认为最重要的方面发现了其他问题。 Kulynych 在他的项目调查结果中说：“目标模型倾向于认为更突出的人的描述显得苗条、年轻、浅色或温暖的肤色和光滑的皮肤纹理，以及刻板的女性面部特征。” “这种偏见可能会导致少数群体被排除在外，并在数以千计的图像中延续刻板的美感标准。” Kulynych 的系统将人脸原始照片的显着性与一系列 AI 生成的变化进行了比较。他发现，面部越年轻越瘦，显着性分数通常会增加。该算法还为更亮、更暖色调、更高对比度和更饱和颜色的皮肤给出了更高的分数。

在我们与朋友或社交媒体分享照片之前，我们中的许多人都使用相机和应用美颜滤镜的编辑应用程序，推特称赞参赛作品很重要。这会扭曲我们对吸引力的期望。美容和应用过滤器很普遍。 Facetune 是一款顶级应用，有望帮助您“在社交媒体上脱颖而出”。 B612 是另一种流行的过滤器，它提供了一个“智能美容”工具，可以推荐您的脸型和其他外观变化。但得出的结论是，美化过滤器会“对心理健康产生负面影响”，谷歌在其 Pixel 相机应用程序中默认禁用了自动修饰。它还停止将其调整称为“美容”过滤器。