Facebook AI吸引了95%的仇恨言论;公司仍然希望国防部回到办公室

2020-11-22 00:35:41

今天,该公司吹嘘称,Facebook的软件系统在检测和阻止仇恨言论方面变得越来越出色,该公司今天吹嘘着它,但是最艰巨的工作仍然必须由人们来完成,其中许多人警告说,这是世界上最大的社交媒体公司使他们处于不安全的工作环境中。

Facebook在其最新的社区标准执行报告中说,Facebook上约有95%的仇恨言论在被任何人举报之前就已经被算法捕获。在过去的一个季度中,约有2200万个已标记帖子中的其余5%由用户报告。

该报告还跟踪了一种新的仇恨言论指标:患病率。基本上,为了衡量患病率,Facebook会对内容进行抽样,然后查找他们衡量的事物(本例中为仇恨言论)被视为查看内容百分比的频率。在今年7月至9月之间,该数字在0.10%至0.11%之间,即每10,000个观看次数中有10-11个观看。

Facebook在新闻发布会和新闻发布会中都强调,尽管其内部AI在几类内容执行方面取得了长足进步,但COVID-19对其内容审核的能力产生了持续影响。

该公司表示:“尽管COVID-19大流行继续破坏我们的内容审核人员队伍,但我们仍看到一些执法指标恢复到大流行前水平。” “即使审查能力有所降低,我们仍然会优先考虑最敏感的内容以供人们审查,其中包括自杀,自伤和儿童裸体等领域。”

Facebook诚信副总裁盖伊·罗森(Guy Rosen)在电话中对评论家至关重要。他说:“人们是内容实施等式的重要组成部分。” “这些都是非常重要的工人,他们在这项工作中发挥着非常重要的作用。”

该公司本身雇用的全职Facebook员工被告知在家中工作到2021年7月,甚至可能是永久性的。

在与记者的电话会议上,罗森强调说,要求Facebook员工从事实际工作的员工(例如管理数据中心基本功能的员工)必须配备严格的安全预防措施和个人防护设备,例如洗手液,提供。

罗森说,节制是不能总是在家完成的工作之一。他解释说,有些内容太敏感了,无法在其他家庭成员可能看到的专用工作区之外进行审查,他说,一些Facebook内容主持人正被带回办公室,“以确保我们能够在工作的人和AI之间保持平衡那些需要人工判断的区域”。

但是,Facebook的大多数内容主持人不适用于Facebook。他们为世界各地的第三方合同公司工作,而他们的工作经常受到严重支持的不足。来自《卫报》,《濒临灭绝》,《华盛顿邮报》和BuzzFeed News等的记者与世界各地的这些合同工进行了交谈,他们描述了无情的期望和工作中普遍的创伤。今年早些时候,Facebook同意由前内容主持人提起的集体诉讼中的5200万美元和解,他们指控这项工作使他们“伤了”创伤后应激障碍。

所有这些都是在COVID-19散布到世界各地之前。面对大流行,情况看起来更加糟糕。被告知要回到办公室的200多位主持人在一封公开信上签名,指责Facebook“不必要地冒着主持人的生命危险”,甚至没有为被下令送回办公室的工人提供危险津贴。

信中写道:“现在,在具有心理毒性的工作之上,坚持这份工作意味着走进了一个热区。” “在几个办公室里,发生了多个COVID案件。工人们要求Facebook领导层以及埃森哲和CPL等外包公司的领导层采取紧急步骤保护我们并重视我们的工作。您拒绝了。我们正在发布这封信是因为我们别无选择。”

这封信补充说:“这提出了一个严峻的问题。” “如果我们的工作对Facebook的业务如此核心,以至于您会要求我们以Facebook社区的名义和利益来冒生命危险,那么,我们实际上不是您公司的核心吗?”

同时,州和联邦对Facebook的审查也在不断增长。本周,公司首席执行官马克·扎克伯格(Mark Zuckerberg)在短短三周内第二次在参议院作证。众议院议员还抱怨说,由于与选举有关的虚假信息泛滥,Facebook无法适当或安全地管理内容。

其他监管机构很可能会很快加入Facebook。据媒体报道,从2019年开始的许多反托拉斯调查都已接近尾声。据报道,联邦贸易委员会计划在接下来的两周内提起诉讼,由纽约州总检察长莱蒂西亚·詹姆斯领导的近40个州的联盟很可能会在12月提出诉讼。这些诉讼可能会争辩说,Facebook通过收购和数据策略不公平地扼杀了竞争,最终可能试图迫使该公司剥离Instagram和WhatsApp。