由于平台未能通过审核测试，自杀的图形视频从Facebook传播到TikTok，再到YouTube

最初的视频两周前被发布到Facebook上，并在所有主要视频平台上传播，通常是从无害的镜头开始，然后剪辑到这名男子的死亡。这些技术可以追溯到许多年前避免自动审核的实践；当人们手动标记视频时，让不知情的观众看到它的最初目标已经实现了。

这在许多方面类似于新冠肺炎的造谣、母体扩散和肆意破坏的方式，尽管这些平台部署了表面上重要的缓和资源来防止这种情况发生。

尽管所有平台都在谈论先进的算法和立即删除违反规则的内容，但这些事件似乎表明，它们在最重要的时候失败了：在极端情况下。

罗尼·麦克纳特自杀的视频起源于8月31日，最初花了近3个小时才将其删除，到那时已经有无数人观看和下载了这段视频。如此图文并茂、明显违反平台标准、被用户积极标记的东西，怎么会被允许保持这么长时间呢？

在周五发布的一份《社区标准执行报告》中，facebook承认，它的(承包商)人类审查员大军，他们吃力不讨好的工作是整天审查暴力和色情内容，由于大流行，他们已经部分瘫痪。

随着内容评论者的减少，我们对Facebook和Instagram上自杀和自伤，以及Instagram上儿童裸体和性剥削的内容采取了更少的行动。

这份报告中的上诉数量也要少得多，因为我们不能总是提供它们。我们让人们知道这一点，如果他们觉得我们犯了错误，我们仍然让人们选择告诉我们他们不同意我们的决定。

麦克纳特的朋友兼播客联合主持人乔什·斯蒂恩告诉TechCrunch，这条小溪在他自杀之前很久就被标记了。斯蒂恩在一封电子邮件中写道：“我坚信，因为我了解他，了解这些互动是如何运作的，如果这条流结束了，它会足够转移他的注意力，进行某种干预，”斯蒂恩在一封电子邮件中写道。“这纯属猜测，但我想，如果他们切断了他的溪流，他就不会结束自己的生命。”

当我向Facebook询问这件事时，我收到了和其他人一样的声明：“我们正在评估如何才能更快地删除直播流。”人们当然希望如此。

但是Facebook无法控制像这样的视频的传播--以及过去在其Live平台上发生的各种枪击和自杀事件--一旦它们出现在那里。与此同时，很难想象其他平台是如何措手不及的：TikTok让视频在用户的“为了你”页面上排队，通过算法不负责任的行为暴露了无数人。当然，即使不可能将内容完全排除在服务之外，也应该有一些东西阻止它被积极推荐给人们。

YouTube是另一个后来的犯罪者：Steen和其他人捕捉到了许多视频是由货币化账户运行的案例。他发送的屏幕截图和视频显示，Squaepace和Motley Fool的广告跑在麦克纳特的视频之前。

令人失望的是，地球上最大的视频平台似乎从未停止过对关闭这类内容的能力的吹嘘，似乎没有任何认真的回应。例如，TikTok禁止任何多次尝试上传视频的账户。在这里给人们第二次或第三次机会有什么意义？

Facebook似乎无法决定内容是否违规，这一点从几次以各种形式重新上传的内容中可见一斑，这些内容在被标记时没有被删除。也许这些只是那些从裂缝中溜走的公司，而还有数千家公司被扼杀在萌芽状态，但为什么我们要让像Facebook这样拥有数十亿美元和数万名员工的公司，在如此重要的事情第n次失败的情况下，获得怀疑的好处呢？

斯蒂恩说：“Facebook在8月初公开表示，他们正在恢复正常的节制率，但他们的人工智能技术实际上在COVID放缓期间得到了改善。”“那么，为什么他们完全搞砸了他们对直播和之后的响应时间的回应呢？”

“我们从克赖斯特彻奇直播事件中得知，由于病毒的传播，他们有能力告诉我们目前确实需要透露的几件事：总共有多少人观看了直播流，分享了多少次，有多少人观看了视频，分享了多少次？”对我来说，这些统计数据很重要，因为它显示了视频实时产生的影响。我认为，这些数据也将证实实况流中的观看船在哪里激增，“他继续说。

在Twitter和Instagram上，整个账户都出现了，只是为了上传视频，或者用用户名的各种转换来冒充麦克纳特。有些人甚至在名字上加上“自杀”或“死亡”之类的字眼。这些账户都是出于违反规则的单一意图而创建的。假冒和僵尸活动的预防措施在哪里？

自杀的视频已经出现在YouTube上，并被冷漠地删除。其他人只是简单地使用麦克纳特的形象或他的流的早期部分来吸引观众。斯蒂恩和其他认识麦克纳特的人一直在定期报道这些情况，结果好坏参半。

是的，@YouTube仍然允许上传罗尼的视频，一些视频现在还带有广告。从悲剧中获利。我们联系了@TeamYouTube，寻求帮助删除这些内容，8小时后，我们仍在等待答案。现在是改革的时候了。#ReformForRonnie pic.twitter.com/pgml1UXX10。

我看到的一个频道利用麦克纳特的自杀吸引了超过50万的点击量，最初发布了直播视频(带有预播广告)，然后用他的面孔可能会吸引病态的用户。当我向YouTube指出这些时，他们取消了它们的货币化，并移除了上面显示的那个-尽管斯蒂恩和他的朋友们几天前就报道了这件事。我不禁觉得，下一次发生这种情况-或者更有可能的是，现在发生这种情况的平台上的其他地方-将会有更少的责任，甚至没有责任，因为没有媒体大惊小怪。

这些平台的重点是隐形抑制内容以及留住用户和活动；如果严格的措施降低了这些至关重要的指标，它们就不会被采取，就像我们在其他社交媒体平台上看到的那样。

但正如这种情况和之前的其他情况所表明的那样，这项服务的提供和监测方式似乎从根本上缺乏一些东西。显然，它可以带来巨大的好处，作为报道时事等等的工具，但它可以而且已经被用来串流可怕的行为和其他形式的虐待。

“这些公司仍然没有充分合作，仍然没有真正诚实，”斯蒂恩说。“这正是我创建#ReformForRonnie的原因，因为我们一遍又一遍地看到他们的报告系统什么都没做。除非有什么改变，否则只会不断发生。“。

当然，斯蒂恩感到失去了他的朋友，但也感受到了对平台的失望和愤怒，这些平台允许他的形象被辱骂和嘲笑，只是敷衍了事的回应。他一直在把人们聚集在标签周围，向主要的社交平台施压，要求他们就这一情况发表任何实质性的言论。他们怎么能阻止这一切呢？当它已经存在的时候，他们如何才能更好地处理它呢？他们怎么能尊重亲人的意愿呢？也许这些都是不可能的--但如果是这样的话，别指望他们会承认这一点。

如果您或您认识的人需要帮助，请拨打全国预防自杀热线800-273-Talk(8255)或发送短信至危机文本热线741-741。在这里可以获得国际资源。