YouTube的推荐系统被批评为有害的。Mozilla想要对其进行研究

2020-09-17 23:12:16

YouTube的视频推荐系统一再被批评者指责为将人们送进了虚假信息和极端主义的兔子洞。现在,火狐浏览器的非营利性组织Mozilla希望YouTube的用户能帮助其研究这些有争议的算法是如何工作的。

周四,Mozilla宣布了一个项目,要求人们下载一个软件工具,让Mozilla的研究人员了解人们在谷歌旗下的平台上收到了哪些视频推荐。

为我们的编辑订阅CNET Now时事通讯,精选当天最重要的新闻。

YouTube的算法会推荐屏幕右侧What‘s Next栏中的视频、内容结束后视频播放器内的视频或网站主页上的视频。每个推荐都是为观看者量身定做的,考虑到他们的观看历史、频道订阅列表或位置等因素。推荐可以是温和的,就像你正在观看的乐队的另一场现场表演。但批评人士说,YouTube的推荐也会将观众引向边缘内容,比如医疗错误信息或阴谋论。

Mozilla的项目推出之际,每月有超过20亿用户的YouTube已经在与病毒式有毒内容作斗争。今年早些时候,该公司努力遏制传播有关新冠肺炎的虚假信息的视频The Plandhemic的股票。YouTube和其他平台也因帮助传播Qanon阴谋论而招致反弹。Qanon阴谋论毫无根据地声称,包括食人者和恋童癖者在内的一群深厚的国家行为者正试图推翻唐纳德·特朗普(Donald Trump)总统。未来几周,随着美国人在美国总统大选前在网上寻找信息,赌注将继续上升。

Mozilla负责倡导和参与的副总裁阿什利·博伊德(Ashley Boyd)在一篇博客文章中表示,尽管后果严重,但YouTube的推荐算法对用户来说完全是个谜。在大选前的最后几天,YouTube会推荐美国用户看什么呢?还是在接下来的几天里,当选举结果可能不明朗的时候?

要参与Mozilla的项目,人们将需要安装一个扩展,这是一种适用于Firefox或Chrome的软件工具,而Chrome是谷歌制造的浏览器。这个名为“后悔报告”的工具可以让人们标记出他们认为有害的视频,并将信息发送给Mozilla的研究人员。

人们还可以添加一份书面报告,说明是什么建议导致了这段视频,并提到了他们认为相关的任何其他内容。该扩展还将自动收集一个人在YouTube上花费了多少时间的数据。Mozilla表示,它希望深入了解哪些行为模式会导致有问题的建议。

YouTube发言人法沙德·沙德洛(Farshad Shadloo)在一份声明中表示:我们总是很有兴趣看到对这些系统的研究,并探索如何与研究人员更紧密地合作。然而,很难从轶事例子中得出广泛的结论,我们会不断更新我们的推荐系统,以改善用户的体验。

他说,在过去的一年里,YouTube已经对推荐系统进行了30多次政策和执法更新。该公司还打击了医疗错误信息和阴谋内容。

Mozilla过去曾仔细研究过YouTube的算法。去年,该组织授予前YouTube工程师、该公司直言不讳的批评者纪尧姆·查斯洛(Guillaume Chaslot)一笔奖学金,以支持他对该平台人工智能系统的研究。今年7月,Mozilla公布了它资助的一个名为TheirTube的项目,该项目让人们看到YouTube的推荐如何寻找具有不同意识形态观点的人。

尊重他人,保持文明礼貌,不离题。我们删除违反我们政策的评论,我们鼓励您阅读这些评论。我们可以随时关闭讨论线程。