看看 Metaphysic，一家使用 deepfake 技术制作广告和修复旧电影的公司；其创始人因深造汤姆克鲁斯而在 TikTok 上走红

(CNN Business) 今年早些时候，汤姆克鲁斯的视频开始在 TikTok 上出现，该演员做了一些令人惊讶的与汤姆克鲁斯类似的事情：在高档男装店里闲逛；炫耀硬币技巧；在 Dave Matthews Band 的“Crash Into Me”的简短演绎中，他调皮地咆哮着。在一段视频中，他咬了一口棒棒糖，惊讶地发现中间有口香糖。 “嗯，”他对着镜头说。 “太不可思议了。怎么没人告诉我有泡泡糖？太不可思议了！”尽管有着电影明星的头发、眯着眼睛和标志性的露齿笑，但这并不是真正的克鲁斯。在 2 月至 6 月期间发布的 10 个视频中，有一个人工智能生成的分身，旨在看起来和听起来像他。 Deepfakes 是“深度学习”和“伪造”这两个术语的组合，由视觉和 AI 效果艺术家 Chris Umé 在 Cruise 替身演员迈尔斯·费舍尔 (Miles Fisher) 的帮助下创建。这条假冒的 Cruise 非常受欢迎，在 TikTok 上获得了数千万的浏览量，这促使 Umé 在 6 月份与其他人联手创办了一家名为 Metaphysic 的公司。它使用相同的 deepfake 技术制作原本不可能的广告并修复旧电影。 Metaphysic 为客户设计的 deepfake 项目包括吉列剃须刀广告系列，该广告系列重现了年轻的 Deion Sanders 以及他 1989 年选秀日的样子，以及比利时足球协会的广告系列，该广告系列让两名已故的比利时球队经理起死回生。人们非常关注将深度伪造用于恶意目的的可能性，并且有充分的理由。 2017 年在 Reddit 上发布的第一个已知的 Deepfake 视频示例将名人的脸与色情明星的脸互换。从那时起，该技术经常被用于制作未经同意的色情内容。立法者还警告说，深度伪造可能会被用来误导美国公众。然而，越来越多的人相信，这项技术也可以很有趣，并且可以为电影、广告和其他形式的媒体实现令人难以置信的壮举，而这在以前即使是最好的特效也是不可想象的。 Metaphysic 的创始人设想使用 deepfakes 做任何事情，从让年长的艺人看起来更年轻，到创建可用于制作广告或任何类型内容的名人视频替身，而无需他们亲自到场。但正如最近关于使用已故厨师和电视名人 Anthony Bourdain 的人工智能生成声音的争议所表明的那样，即使是娱乐性使用这种有争议的技术也会引起人们的注意和道德问题。 “这项技术正在向前发展，无论有人喜欢它，真的，”Metaphysic 联合创始人汤姆格雷厄姆是一位总部位于伦敦的科技企业家，他告诉 CNN Business。他说，该公司的目标是“真正地、真正地专注于尝试以某种方式开发我们的产品”，以避免增加其他人已经创建的有害深度伪造。

曾参与过 Deepfake 网络剧集“Sassy Justice”（来自“南方公园”的创作者）的试播集的 Umé 认为该技术的未来实际上是光明的。 “这是一个你拥有更多自由和更多创造性可能性的未来，”他说。在网上找到 deepfakes 变得很容易。一些智能手机应用程序甚至可以让您自己制作。但通常可以看出生成的视频已被篡改。 Umé 和 Metaphysic 所做的工作是不同的，更不用说困难和耗时。他们不只是试图制造深度伪造——制造商告诉 CNN Business 需要付出很多努力才能看起来像样——而且要尽可能地完美无瑕。对于 Umé 制作的 Cruise 视频，他说他首先花了大约两个半月的时间来训练一个关于这位好莱坞明星的视频和图像的 AI 模型，试图从尽可能多的角度和尽可能多的光照条件下捕捉他。根据 Umé 的说法，这可以让 AI 模型学习演员的皮肤在不同镜头中应该如何反应。乌梅说，因为目标是制作克鲁斯看似坦率的 deepfake 视频，而不是戏剧性的动作镜头，所以培训材料还包括克鲁斯的许多公开采访。 Umé 还需要为 deepfake 拍摄基础视频。根据 Umé 的说法，Fisher 是 Cruise 的身体（和声音）替身，提出了视频的概念。然后，Umé 花了两到三天的时间生成了一个将 Fisher 的镜头和 Cruise 的面部相结合的 Deepfake 视频，再加上大约 24 小时使用 AI 工具来做一些事情，比如提高视频质量。有时，Umé 会添加棘手的 AI 驱动的繁荣。例如，这个声称是大胡子克鲁斯炫耀他的 CD 收藏的 Deepfake 视频实际上是费舍尔、克鲁斯和第三个人（小胡子来自荷兰 DJ Bram Krikke）的组合。他认为，这些细节表明 AI 可以很好地用于改变演员的外貌——而不是使用传统的视觉效果来一次一帧地煞费苦心地改变视频。

由于这项技术有多新，关于如何制作和共享深度伪造并没有明确的规则。例如，目前尚不清楚是否或何时应告知观众他们正在查看深度伪造，或者应制定哪些准则来管理深度伪造主题的同意流程。西北大学传播研究和计算机科学副教授 Nick Diakopoulos 认为我们可以从现有媒体中寻找一些线索。如果您在电影院看一部轰动一时的大片，您就会习惯于看到现实与特效的混合，并且您明白广告——比如 Metaphysic 为吉列工作的广告——是高度操纵性的。但他指出，深度伪造也可以个性化以吸引不同人口群体的人，或者您在深度伪造广告中看到的支持产品的名人可能会被选择来满足您的兴趣。在这些情况下，他认为披露可能是必要的，这样观众就不会感到被操纵。 “我认为这些道德问题真的很棘手，因为没有硬性规定，你可以划出一条明线，然后说，‘我们永远不会越过这条线’，”迪亚科普洛斯说。居住在曼谷的 Umé 和他在 Metaphysic 的联合创始人——Umé 的兄弟，在比利时的 Kevin 和 Graham——强调他们正在努力注意这种人工智能驱动技术对护栏的需求。也就是说，他们希望确保它的使用符合道德和适当。 Graham 说，该公司正在直接与想要深度伪造并使用自己的技术的客户合作，因此它知道自己对输出有一定的控制权。此外，商业项目还需征得主体同意。这些担忧是及时的，因为一部关于 Bourdain 的新纪录片包含三段 AI 生成的对话，这些对话似乎是他在说话。最初并没有向观众明确使用人工智能，Bourdain 分居的妻子后来在 Twitter 上表示反对。 （CNN 与 HBO Max 共同制作了这部纪录片；两者都有相同的母公司 WarnerMedia。）Umé 没有听到 Cruise 或他使用 AI 模仿的其他名人的任何抱怨。他说他确实联系了克鲁斯的管理层，提出如果克鲁斯不同意他们所做的事情，他会删除视频并交出对 TikTok 帐户的控制权。 Umé 说他只是得到了一个回复，表明消息已经收到。 Cruise 尚未公开评论深度造假，Cruise 的代表也没有回应 CNN Business 的评论请求。

由于克鲁斯作为公众人物的身份，以及这些视频是轻松模仿的事实，它们似乎并没有违反 TikTok 规则，该规则禁止“合成或操纵的内容，通过扭曲事件真相的方式误导用户造成伤害。” “如果这些名人中的任何一个对我所做的事情感到难过，我会第一个将其删除，因为这不是我的本意，”乌梅说。 “但我喜欢让人着迷。”与此同时，在 TikTok 上，deeptomcruise 帐户添加了其他名人的 Deepfake，包括 7 月下旬歌手玛丽亚凯莉的视频。她穿着黑色皮革，坐在摩托车上，头戴黑色猫耳头盔。 “打赌你从没想过你会看到这个，是吧？”她笑着说，然后离开停车场。