询问Slashdot:如何对用户生成的内容进行审核?

2021-01-18 16:41:43

我越来越怀疑,互联网上大规模公开发布未经审核的UGC(用户生成的内容)的日子可能很快就会以重大的方式结束。随着时间的流逝,最有可能导致这种情况的途径将是社交媒体公司独立采取的措施与未来的立法授权相结合。

这种大规模的调节可以遵循基于AI的第一级过滤模型,然后是人类调节器层。在这样的节制模式下,今天的发布规模似乎不太可能继续,但是未来的技术发展很可能在这个领域中很有能力。

1985年,当我启动“星际之门”实验以在国家“超级站WTBS”的广播电视垂直消隐间隔内广播Usenet Netnews时,我决定该项目将仅包含经过审核的Usenet新闻组。甚至在35年前,我一直在关注Usenet上已经开始变得普遍的某些行为和内容。当时我主要的关注点并不涉及仇恨言论或暴力言论,在当时,这还不是互联网上的重大问题,但我认为人性就是这种情况,情况可能会变得越来越糟而不是好转。

从那以后的几十年里,我在很大程度上一直忘记了这一点,直到今天我对这个主题进行了Google搜索(有关Stargate的大量原始信息或以后的信息仍然在线,包括很早的邮件列表档案中的各种相关信息,可能会比我长寿),这是我当时收到的对该决定的敌意程度。我决定让星际之门只接待温和派的团体,这引发了“审查制度”的呼声,但我并不认为负责任的节制等同于审查制度,而今天我仍然认为。

而现在,经过了许多年,很明显,我们在这些方面没有取得任何实质性进展。实际上,与可恨和危险的方式滥用未经审查的内容相关的问题使我当时最关心的内容问题似乎像是肥皂泡,与现在引爆的核弹相比。

我们必须解决这个问题。我们必须立即就此开展认真和协调的工作。我的强烈意愿是,我们将这些问题作为公司,组织,客户和用户一起处理-而不是依靠政府的行动,如果历史可以作为指导,那将可能造成巨大的负面附带损害。