尼克松的深伪、“月球灾难”的演讲和岌岌可危的信息生态系统

2020-07-21 02:35:44

关于今天的人工智能和网络虚假信息的未来,美国前总统理查德·尼克松(Richard Nixon)可能会教给我们什么?没什么。真正的尼克松26年前就去世了。

但是,人工智能生成的他的肖像为一项快速发展的技术提供了新的曙光,这项技术对我们目前的数字信息生态系统具有相当大的影响,既有创造性的,也有破坏性的。从2019年开始,麻省理工学院(Massachusetts Institute Of Technology)的媒体艺术家弗朗西斯卡·帕内塔(Francesca Panetta)和哈尔西·伯贡德(Halsey Burgund)与两家人工智能公司Canny AI和Respeecher合作,创造了一个死后的深度赝品。合成视频显示,尼克松发表了一场他从未打算发表的演讲-在演讲主题半个世纪后。

下面是(真实的)背景故事:1969年7月,当阿波罗11号宇航员沿着通往月球的轨道在太空中滑行时,当时尼克松的演讲稿撰稿人之一威廉·萨菲尔(William Safire)写道,作为应急措施,“万一发生月球灾难”。这篇演讲是对尼尔·阿姆斯特朗(Neil Armstrong)和埃德温·“巴斯”·奥尔德林(Edwin“Buzz”Aldrin)的美好致敬,这两位宇航员降落在月球表面-在这个版本的历史中一去不复返。它以这样的话结束:“因为每一个在未来的夜晚仰望月亮的人都会知道,另一个世界的某个角落永远是人类。”

《Deepfakes》是一类人工智能生成的合成媒体。如果你以前在互联网上见过,它很可能是“换脸”的一个例子。这个术语本身是“深度学习”和“假的”的混合词,有一个可怕的起源故事,涉及一个同名的Reddit账号发布名人脸部互换色情内容。问题仍然存在:2019年的一份报告发现,“非双方同意的深度虚假色情……。占网上深度假视频总数的96%。“。

除了这种非法和有害的脸部交换使用之外,还有各种其他类型的基于人工智能的合成媒体。深度学习还被改编成音频假冒、假嘴唇同步以及全头和全身木偶。这些技术中的许多纯粹是作为基础研究而存在的,尽管人工智能合成的媒体正在迅速演变为商业用途-包括用于好莱坞的制作,甚至包括失去说话能力的癌症患者。

麻省理工学院的团队并没有开始创造一个简单的脸部交换。(一些机器学习从业者现在正在推动这样的想法,即只要有一点编码经验,几乎任何人都可以在短短5分钟内做出一个这样的深伪。)。他们一直想在记录相关劳动的同时,尽可能创造出最好的技术假货。这个过程花了半年多的时间。

为了完成赝品的视觉部分,Canny AI采用了一种名为“视频对话替换”的技术。代替脸部交换,一个人工智能系统被训练成将“在月球灾难中”演讲的面部动作转移到尼克松面容和周围环境的逼真重建上。

在声音部分,Respeecher处理了一名演员朗读演讲的训练音频,以及尼克松在白宫多次电视露面的录音。然后,该公司使用“声音转换系统”合成尼克松,从这位演员的表演中发表演讲。(Canny AI和Respeecher的技术都是专有的,这两家公司表示,它们从未被用来制造非法假货。)

麻省理工学院的团队还想展示这种深伪的潜力,以提出问题,即它们可能会如何影响我们共享的历史和未来的经历。为了做到这一点,他们与科学美国人合作,向一组人工智能、数字隐私、法律和人权方面的专家展示了他们的视频。在制作深伪的短片中,这些专家提供了关于这项技术的必要背景-它的危险,它的潜力,以及这个美丽的新数字世界的可能性,在这个世界里,每一个经过我们集体视线的像素都有可能被抓住。