今年8月,Facebook表示将打击Qanon,但分析显示,Qanon在该网站上蓬勃发展,有时还得益于Facebook的推荐引擎

2020-09-19 04:56:05

加利福尼亚州奥克兰。-上个月,Facebook表示,它正在打击与QAnon有关的活动,QAnon是一种巨大的阴谋论,错误地声称撒旦阴谋统治着世界,以及其他潜在的暴力极端主义运动。

从那时起,Facebook上呼吁在美国城市街头发生武装冲突的民兵运动获得了数千名新的追随者。QAnon Facebook的一个群组也增加了数百名新的追随者,同时质疑常识的大流行医疗做法,比如在公共场合戴口罩,生病时呆在家里。一场号称提高人们对人口贩运的认识的运动已经引导数十万人进入该社交网络上的阴谋论小组和页面。

也许是最刺耳的部分?根据“纽约时报”进行的一项研究,Facebook自己的推荐引擎--为网站上的用户展示内容的算法--有时会把用户推向讨论Qanon阴谋的那个群组,尽管该公司保证不会出现这种情况。

所有这些都不应该发生在Facebook针对QAnon和其他极端主义运动的新规定下。尽管忧心忡忡的用户经常打出旗号,但这家硅谷公司无法压制极端主义内容,这再次引发了人们对其监管局限性的质疑,以及它是否会陷入与Qanon和其他将其视为网络战争关键战场的组织的无休止斗争中。

在11月3日的选举之前,赌注很高。QAnon团体将特朗普总统塑造为毫无根据的阴谋中的英雄,它们散布和放大了围绕选举的错误信息。除其他外,他们分享了广泛存在的选民欺诈已经发生的虚假传言,并对邮政服务处理邮寄选票的能力提出了质疑。

“Facebook允许QAnon团体走到这一步并继续发展壮大,这给他们自己和更广泛意义上的社会带来了一个巨大的问题,”QAnon匿名者的主持人特拉维斯·维尤(Travis View)说。QAnon匿名者是一个试图解释这一运动的播客。

事实证明,在Facebook平台的新限制下,QAnon运动在躲避检测方面非常熟练。一些团体只是简单地更改了他们的名字,或者回避了可能会敲响警钟的关键术语。这些变化很微妙,比如把“Q”改成“CUE”,或者改成包括数字17的名字,反映出Q是字母表中的第17个字母。民兵组织已经将他们的名字改为圣经中的短语,或者声称自己是“上帝的军队”。

其他人只是简单地调整了他们写的东西,让它更容易为普通人所接受。原本与阴谋论隔绝的Facebook社区,如瑜伽群或育儿圈,突然充斥着QAnon内容,伪装成健康和健康建议或对贩卖儿童的担忧。

Facebook的一位女发言人表示,该公司正在继续评估其最佳实践。这位女发言人说:“我们的专家正在与外部专家合作,研究如何扰乱旨在逃避我们执法的活动。”

Facebook和其他社交媒体公司今年夏天开始对极端组织采取行动,原因是QAnon的快速增长,以及与该组织有关的现实世界暴力,以及社交媒体上的民兵式运动。

推特率先行动。7月21日,Twitter宣布将删除数千个QAnon账户,并阻止与这场运动相关的趋势和关键短语出现在其搜索和热门话题部分。但据研究该平台的研究人员称,Twitter上的许多QAnon账户在最初被禁止后的几周内就回来了。

在周四的一份声明中,Twitter表示,自推出限制措施以来,对Qanon内容的印象或浏览量下降了50%。

然后在8月19日,Facebook紧随其后。这家社交网络表示,它将从其网站上删除790个QAnon群组,并正在引入新的规则,以打击讨论“潜在暴力”的运动。其效果将是限制属于极端组织的群组、页面和账户,这是该公司针对Qanon和其他利用Facebook呼吁暴力的此类组织采取的最全面的行动。

根据Facebook旗下的分析平台CrowdTangle的一项数据分析,自规则实施以来的一个月里,时报追踪到的Facebook上约有100个QAnon群继续以每周超过1.36万名新粉丝的合计速度增长。

这比新限制之前的一段时间有所下降,当时同样的团体每周增加15,000到25,000名新成员。即便如此,这表明Qanon仍在招募新的追随者。

这些团体的成员也比以前更加活跃。根据CrowdTangle的数据,在Facebook的规则生效后,Qanon群组内的评论、赞和帖子每周增长到60万条以上。前几周,平均每周的互动不到53万次。

包括QAnon在内的这些团体对他们的事业感到难以置信的热情,并将尽其所能吸引新的人加入他们的阴谋运动。与此同时,Facebook远没有同样的紧迫性或任务来遏制它们,“View先生说。“Facebook的运作受到限制,而这些极端主义运动则没有。”

研究QAnon的研究人员表示,该运动的持续增长在一定程度上与Facebook的推荐引擎有关,该引擎推动人们加入与阴谋论相关的群组和页面。

康科迪亚大学(Concordia University)博士生马克-安德烈·阿根廷诺(Marc-André阿根廷)正在研究QAnon,他说,他在Facebook上发现了51个自称是反拐卖儿童组织的群,但实际上这些群主要分享QAnon的阴谋。其中许多组织成立于2020年初,在Facebook和Twitter开始对Qanon实施新禁令后的几周内,它们的增长激增。

此前,这些团体每周都会增加数十到数百名新成员。阿根廷公布的数据显示,禁令实施后,他们每周都会吸引数以万计的新会员。

该公司越来越多地面临批评,包括来自好莱坞名人和民权组织的批评。周三,金·卡戴珊·韦斯特(Kim Kardashian West)、凯蒂·佩里(Katy Perry)和马克·鲁法洛(Mark Ruffalo)等名人表示,他们将冻结自己的Instagram账户24小时,以抗议Facebook的政策。(Instagram归Facebook所有。)。

反诽谤联盟还表示,它正在向Facebook施压,要求其对民兵组织和其他极端组织采取行动。ADL首席执行官乔纳森·格林布拉特(Jonathan Greenblatt)说,“多年来,我们一直在从字面上警告Facebook安全团队,警惕危险的、潜在的暴力极端分子利用他们的产品组织和招募追随者的问题。”

几个月来,美国公民自由联盟一直在与Facebook会面,表达自己的担忧,并在社交网络上公开发布了仇恨团体和阴谋组织的名单。ADL技术与社会中心(Center For Technology And Society)副总裁戴维·L·西弗里(David L.Sifry)说,ADL曾与Twitter、Reddit、TikTok和YouTube等更乐于接受的其他平台就极端主义内容进行过类似的对话。

“我们在Facebook得到的回应明显不同,”他说。“在每一个这样的平台上,都有良知良知的人。核心区别在于领导力。“

Sheera Frenkel从加利福尼亚州奥克兰报道,Tiffany Hsu从新泽西州霍博肯报道,Davey Alba从纽约和Ben Decker从波士顿贡献报道。