Google员工公开信支持Gebru博士

2020-12-05 01:10:54

签名的我们与Timnit Gebru博士保持一致,在经历了空前的研究审查之后,Timnit Gebru博士被辞去了Google的研究人员和伦理人工智能(AI)团队的联合负责人的职务。我们呼吁Google Research加强其对研究完整性的承诺,并明确承诺支持符合Google AI原则所作承诺的研究。

在2020年12月2日之前,Gebru博士是该公司为数不多的黑人女性研究科学家之一,该公司的黑人雇员总数令人沮丧,仅为1.6%。她的研究成就广泛,对学术学术和公共政策产生了深远的影响。 Gebru博士是一位开创性的科学家,他从事一些最重要的工作,以确保公正和负责任的AI并创建一个受欢迎且多样化的AI研究领域。

格布鲁博士没有被Google视为杰出人才和多产的贡献者,而是面临防御,种族主义,瓦斯灯,研究审查以及现在的报复性解雇。在2020年12月2日晚上发给格布鲁博士团队的电子邮件中,Google高管声称她已选择辞职。这是错误的。这些管理人员在与Gebru博士的直接通信中告知她,她即将被终止合约,并以她发送给Google Brain多样性和收录邮件列表的电子邮件为借口。

该电子邮件的内容很重要。在其中,Gebru博士反对Google对她(和她的同事)的研究的审查,该研究的重点是检查在许多Google产品中使用的大规模AI语言模型(LLM)对环境和伦理的影响。 Gebru博士和她的同事工作了几个月的论文,该论文正在一次学术会议上进行审查。在11月下旬,即对该作品进行内部审核并通过标准流程批准发布该作品的五个星期后,Google领导层做出了对其进行审查的决定,没有任何警告或原因。 Gebru博士要求他们解释这一决定并对此负责,并因为他们对歧视性和骚扰性工作场所条件的冷淡立场。终止合约是对Gebru博士的报复行为,它预示着Google范围内为道德且公正的AI工作的人们(尤其是黑人和有色人种)的危险。

在Google的公司研究环境中,研究完整性不再是理所当然的,而Gebru博士的解雇推翻了人们对Google将允许进行何种研究的有效理解。这也是Google之外不可思议的时刻。众所周知,Gebru博士是少数人内部施加压力,以反对不道德和不民主地将强大而有偏见的技术侵入我们的日常生活。这是一项公共服务,其重要性不可高估。 Google对Gebru博士的报复行动,以及旨在使这项工作保持沉默的举动,都与我们所有人有关。

我们要求Jeff Dean(Google高级研究员兼研究高级副总裁),Megan Kacholia(Google Brain组织的工程副总裁)以及参与审查Gebru博士论文决定的人员与道德的AI团队解释领导者单方面拒绝论文的过程。

对于Google领导层命令Gebru博士及其同事撤回对大规模语言模型的研究的决定,我们需要向包括Google用户和学术界同事在内的广大公众透明。这已经成为公众关注的问题,并且需要有公众责任来确保对Google Research的信任。

Warning: Can only detect less than 5000 characters