微软在美国大选前推出深度假冒探测器工具

这个名为Video Authenticator的工具提供了微软所说的媒体被人为操纵的“百分比概率，或置信分数”。

该公司在一篇宣布这项技术的博客文章中写道：“在视频播放的情况下，它可以在每一帧上实时提供这个百分比。”“它的工作原理是检测人眼可能无法察觉的深伪和微妙的褪色或灰度元素的混合边界。”

如果一条在线内容看起来是真实的，但“闻起来”是错误的，那么它很可能是高科技操纵，试图伪装成真实的--可能是怀着恶意误导人们的。

虽然大量的深度假是出于截然不同的目的-为了有趣或娱乐-断章取义，但这种合成媒体在传播时仍然可以呈现出自己的生命，这意味着它也可能最终欺骗毫无戒心的观众。

虽然人工智能技术被用来产生逼真的深伪，但使用技术识别视觉虚假信息仍然是一个难题--批判性思维仍然是发现高科技废话的最佳工具。

尽管如此，技术专家们仍在继续研究深度假探测器--包括微软的这款最新产品。

尽管该公司的博客文章警告称，这项技术在人工智能引发的虚假信息军备竞赛中可能只会提供短暂的实用程序：“(深伪)是由人工智能产生的，可以继续学习，这一事实使得它们不可避免地会击败传统的检测技术。”然而，在短期内，比如即将到来的美国大选，先进的检测技术可以成为帮助有洞察力的用户识别深度假货的有用工具。“。

今年夏天，facebook发起了一项开发深度假冒探测器的竞赛，结果比猜测要好，但只是在研究人员之前没有接触到的数据集的情况下。

与此同时，微软表示，其视频认证器工具是使用Face Forensic++的一个公共数据集创建的，并在DeepFake检测挑战数据集上进行了测试，微软指出，该数据集“既是训练和测试深度假冒检测技术的领先模型，也是测试深度假冒检测技术的领先模型”。

它正在与总部设在旧金山的人工智能基金会合作，今年向参与民主进程的组织提供该工具-包括新闻媒体和政治竞选活动。

“视频认证器最初只能通过RD2020[Reality Defender 2020]提供，这将指导组织克服任何深度假冒检测技术固有的限制和伦理考虑。有兴趣了解更多信息的活动和记者可以在这里联系RD2020，“微软补充说。

该工具是微软研发部门微软研究院(Microsoft Research)与其负责的人工智能团队以及内部人工智能、伦理和影响工程与研究委员会(AI Effects In Engineering And Research Committee)协调开发的--这是微软正在实施的一个更广泛项目的一部分，该项目旨在保护民主不受虚假信息构成的威胁。

“我们预计生成合成媒体的方法将继续变得更加复杂，”它继续说。“由于所有的人工智能检测方法都有失败率，我们必须了解并准备好应对那些通过检测方法漏掉的深度假货。因此，从长远来看，我们必须寻求更强有力的方法来维护和证明新闻文章和其他媒体的真实性。现在几乎没有工具可以向读者保证，他们在网上看到的媒体来自可信的来源，而且没有被篡改。“。

在后一方面，微软还宣布了一个系统，该系统将使内容制作者能够在内容在线传播时，向其元数据中保留的媒体添加数字散列和证书-提供真实性的参考点。

该系统的第二个组件是阅读器工具，该工具可以部署为浏览器扩展，用于检查证书并匹配散列，以向查看者提供微软所称的特定内容是真实的/未被更改的“高度准确性”。

微软希望这个数字水印真实性系统最终将支持英国公共资助的广播公司BBC去年宣布的一项受信任的新闻倡议-专门针对一个名为Project Origin的验证组件，该倡议由BBC、CBC/加拿大广播电台、微软和《纽约时报》联合领导。“可信新闻倡议”是由英国广播公司(BBC)、加拿大广播公司/加拿大广播电台(Radio-Canada)、微软(Microsoft)和“纽约时报”(New York Times)组成的联盟领导的。

该公司表示，数字水印技术将由Project Origin进行测试，目的是将其开发成一种可以广泛采用的标准。

“包括一系列出版商和社交媒体公司在内的”值得信赖的新闻计划“也同意采用这项技术。在接下来的几个月里，我们希望将这一领域的工作扩大到更多的技术公司、新闻出版商和社交媒体公司。“微软补充道。

尽管识别深伪的技术研究仍在继续，但其博客帖子也强调了媒体素养的重要性--表示与华盛顿大学(University of Washington，Sensity)和今日美国(USA Today)建立了合作伙伴关系，旨在促进美国大选前的批判性思维。

这一合作伙伴关系为美国选民推出了一个名副其实的深假测验(Deepfake Quiz)，用它的话说，目的是“了解合成媒体，发展批判性媒体素养技能，并认识到合成媒体对民主的影响”。

根据博客文章，互动测验将在今日美国、微软和华盛顿大学拥有的网络和社交媒体资产上分发，并通过社交媒体广告发布。

这家科技巨头还指出，它正在支持美国的一项公共服务公告(PSA)活动，鼓励人们在即将到来的选举之前，在社交媒体上分享或推广信息之前，先暂停一下，并检查以确保信息来自一家声誉良好的新闻机构。

“公益广告活动将帮助人们更好地理解错误信息和虚假信息对我们民主的危害，以及花时间识别、分享和消费可靠信息的重要性。广告将在9月和10月在美国的广播电台播出。“它补充道。