该公司新任全球事务负责人不应该追求“metaverse”,而应该解决造成如此巨大危害的监控业务模式
当英国前副首相尼克·克莱格2018年加入Facebook时,该公司陷入了一系列丑闻。Cambridge Analytica一直在从Facebook的个人资料中收集个人数据。联合国人权专家表示,该平台在促进缅甸罗辛亚人的种族清洗方面发挥了作用。它在2016年美国总统选举期间的政策遭到了抨击。现在,克莱格担任了该公司全球事务总裁一职。他能用Facebook(最近更名为Meta)的工作方式解决看似无穷无尽的问题吗?
不管是好是坏,Meta和谷歌已经成为数字公共领域的基础设施。在Facebook上,人们获取新闻,社会运动发展,侵犯人权的行为被记录在案,政客们与选民接触。问题就在这里。任何一家公司都不应该在全球公共领域拥有如此大的权力。
Meta的商业模式建立在无处不在的监控之上,这从根本上与人权不相容。跟踪和分析用户侵犯了他们的隐私,并提供了促进和放大分裂性、耸人听闻的内容的算法。研究表明,这样的内容可以获得更多的参与度,进而获得更大的利润。Facebook带来的危害和风险分布不均:网络骚扰可能发生在任何人身上,但研究表明,它对因性别、种族、民族、宗教或身份而被边缘化的人的影响不成比例。尽管虚假信息是一种全球现象,但其影响在脆弱的民主国家尤其严重。
尽管克莱格获得了新头衔,但他无法独自解决这些问题。但为了保护用户的人权,他应该做几件事。首先,他应该听取人权活动人士的意见。多年来,他们一直建议Facebook在扩张到新国家、推出新产品或对其服务进行更改之前进行人权尽职调查。他们还建议该公司加大对内容控制的投资,以便在人们使用其平台的任何地方有效应对人权风险。
像缅甸那样,网络言论造成伤害的可能性与社会中存在的不平等和歧视密不可分。Meta需要大量投资于当地的专业知识,以阐明这些问题。在过去十年中,Facebook在没有充分了解其运营所在的社会和政治环境的情况下,急于占领市场。它以非洲、亚洲和拉丁美洲国家为目标,推广以Facebook为中心的互联网版本。它已经与电信公司建立了合作关系,提供免费访问Facebook和有限数量经批准的网站。它收购了WhatsApp和Instagram等竞争对手。这一战略产生了毁灭性的后果,使Facebook成为信息生态系统中的主导者。
对于Meta来说,更一致、更透明、更负责任地管理内容也是至关重要的。在这方面,有先例可循:由民间社会制定、Facebook认可(尽管没有实施)的《关于内容适度透明和问责的圣克拉拉原则》(Santa Clara principles on transparency and accountability in content moderation)制定了指导这些努力的标准。除其他事项外,他们还呼吁制定可理解的规则和政策,这些规则和政策应该可以让世界各地的人用他们所说的语言访问,让他们能够有意义地对删除或放弃内容的决定提出上诉。
Meta还应该更透明地了解影响人们在其网站上看到的内容的算法。该公司必须解决算法在引导用户获取有害错误信息方面所起的作用,并为用户提供更多的机构来塑造他们的在线体验。Facebook的Xcheck系统免除了名人、政界人士和其他知名用户对普通用户适用的规则。社交媒体平台不应该为有权势的参与者制定不同的规则,而应该优先考虑普通人的权利——尤其是我们当中最脆弱的群体。
随着Meta试图成为“metaverse”,这些问题只会变得更加明显。依赖扩展现实(XR)技术的数字环境,如虚拟现实和增强现实,仍处于早期发展阶段。但已经有迹象表明,许多相同的问题将适用于元宇宙。虚拟现实眼镜可以收集和获取用户数据,一些虚拟现实用户已经报告称,在这些环境中,在线骚扰和虐待的情况非常普遍。
到目前为止,Meta还没有把用户的权利放在其商业模式的中心。要做到这一点,就意味着要考虑其监控方法,并从根本上增加其在全球范围内尊重其用户权利的资源。Meta应该暂停并将注意力转移到解决它在我们当前现实中制造的非常有形的问题上,而不是重新包装和转向XR,因为XR的潜在危害将呈指数级增长。现在是解决这个问题的时候了。