Mozilla的新浏览器扩展RegretsReporter旨在众包对YouTube有害推荐的研究

2020-09-17 23:11:10

YouTube的推荐算法可以把你带到一些非常奇怪的兔子洞里,推荐既让人感觉怪异的个人视频,又让你偏离目标的视频。今天,Mozilla将推出一个新的浏览器扩展,RegretsReporter,旨在众包关于用户“令人遗憾的推荐”的研究,让用户更好地了解YouTube的推荐算法是如何工作的,并提供其发现的模式的细节。

Mozilla去年开始从用户那里收集关于YouTube推荐给他们的视频的故事;一名用户搜索了关于维京人的视频,得到了关于白人至上的推荐内容;另一名用户搜索了“失败”的视频,并开始获得致命车祸可怕视频的推荐。

但Mozilla负责宣传和参与的副总裁阿什利·博伊德(Ashley Boyd)说,目前还没有真正大规模的、独立的努力来跟踪YouTube的推荐算法,以了解它是如何决定推荐哪些视频的。

博伊德说:“当涉及到错误信息时,Facebook受到了如此多的关注,这是当之无愧的。”“但数字生态系统中还有其他元素一直没有得到足够的关注,YouTube就是其中之一。我们开始观察YouTube说了什么,他们是如何策划内容的,并注意到他们对算法的担忧做出了回应,并表示他们正在取得进展。但没有办法核实他们的说法。“。

YouTube的一位发言人在给The Verge的一份声明中表示,该公司一直对其推荐系统的研究感兴趣。这位发言人说:“无论如何,很难从轶事例子中得出广泛的结论,我们会不断更新我们的推荐系统,以改善用户的体验。”他补充说,在过去的一年里,YouTube已经推出了“30多种不同的改变,以减少边缘内容的推荐。”

博伊德指出,谷歌旗下的视频平台已多次承诺调整算法,尽管公司高管意识到,它正在推荐包含仇恨言论和阴谋论的视频。

浏览器扩展会向Mozilla发送关于你使用YouTube的频率的数据,但不会收集你正在搜索或观看的信息,除非你特别提供。你可以通过这个扩展发送一份报告,提供关于你在推荐中遇到的任何“令人遗憾的”视频的更多细节,这将允许Mozilla收集关于你正在报告的视频以及你是如何到达那里的信息。

Mozilla希望这一扩展能使YouTube推荐算法的“方式”更加透明;例如,哪种类型的推荐视频会导致种族主义、暴力或阴谋论内容,并确定有害内容被推荐的频率。

博伊德说:“我希望人们对人工智能(在这种情况下是推荐系统)如何接触他们的生活更感兴趣。”“它不一定要神秘,我们可以更清楚地知道你如何控制它。”

博伊德强调,用户隐私在整个过程中都受到保护。Mozilla从扩展中收集的数据将链接到随机生成的用户ID,而不是用户的YouTube帐户,并且只有Mozilla才能访问原始数据。Boyd说,它不会在私人浏览器窗口中收集数据,当Mozilla分享其研究结果时,它将以一种将用户被识别的风险降至最低的方式这样做。

Mozilla没有与谷歌或YouTube就其推荐算法的研究达成正式安排,但博伊德表示,他们一直在与该公司沟通,并致力于分享信息。

然而,YouTube表示,Mozilla提出的方法似乎“有问题”,并补充说,它无法正确审查“遗憾”的定义,以及其他一些事情。

Mozilla计划花6个月的时间从这个扩展中收集信息,之后它将向用户和YouTube展示它的发现。“我们相信他们致力于这个问题,”博伊德在谈到YouTube时说。如果他们能从我们的研究中学到更多东西,并做出一些可行的改变,致力于建立更值得信赖的内容推荐系统,我们会很高兴。“