带有人造面孔的不真实Instagram帐户针对纳瓦尔尼抗议活动

2021年1月23日，在全俄罗斯范围内支持反对派领袖阿列克谢·纳瓦尼的示威活动同时，针对莫斯科聚会的可疑社交媒体行为也随之而来。在抗议活动之前，新创建的不真实帐户使用AI生成的面孔和Navalny海报劫持了莫斯科红场的Instagram地理标记。 AI生成的面孔是不真实帐户的越来越普遍的特征，它是使用可以通过反向图像搜索检测到的真实用户的被盗照片的替代方法。

纳瓦尼在2020年8月的一次致命致命的神经毒剂袭击中幸存下来。后来，调查机构Bellingcat和纳瓦尼本人提供了将俄罗斯FSB与中毒联系起来的证据。德国，法国和瑞典的实验室已经证实，纳瓦尔尼被苏联时期的诺维奇克神经毒剂中毒。纳瓦尼（Navalny）因中毒从德国康复，他于1月17日返回莫斯科，并被拘留在机场。他呼吁俄罗斯人抗议他的拘留。

1月23日是俄罗斯迄今为止最大规模的示威游行，抗议俄罗斯政府对Alexey Navalny的支持。成千上万的俄罗斯人在至少85个城市的街道上游行，抗议反对派领导人入狱。结果，有3,300多人被拘留。

俄罗斯电讯频道Baza在1月20日（Navalny抗议活动预定举行的三天前）报道了Instagram上的可疑行为。根据该频道的报道，1月17日，Navalny返回莫斯科的那天，这个可疑网络试图劫持Instagram地理标签Red Square。 Baza建议在其背后建立某种类型的僵尸网络，充斥着标有“红场”地理标记的帖子存档。他们写道：“结果是，任何带有此标记的帖子都淹没在相同类型的出版物中，它们只是被神经网络生成的数百张面孔照片所取代。”

在克里姆林宫附近，红场一直是反对派抗议活动的热门地点。俄罗斯当局在封锁广场以破坏示威活动方面有着悠久的记录。

在1月23日抗议活动之前，Navalny的小组宣布了在俄罗斯举行群众集会的计划，并发布了城市清单，这些城市中的特定地点以及时间。莫斯科的红场不在地点清单上-莫斯科的主要抗议活动是在普希金斯卡亚广场进行的，该广场距离红场只有20分钟的步行路程。抗议当天，俄罗斯当局封锁了红场，可能是为了阻止示威者接近克里姆林宫。

抗议发生前，Instagram上贴有红场的帖子似乎充斥着与该地点无关的内容。地理标记使用户可以在平台上搜索位置，以查看从特定区域发布的内容类型。搜索结果显示带有特定位置地理位置标记的最新帖子。在这种情况下，尽管红场不是这些抗议活动的官方示威地点，但俄罗斯用户可能一直在搜索“红场”地理标签，以检查与1月23日抗议活动有关的事态发展。

从1月17日开始，红场的Instagram搜索结果返回了相同类型的图像：各个人的个人资料照片。 DFRLab已确定这些图像是由StyleGAN（一种可以生成合成人脸的神经网络）生成的。

这些图像还显示为Instagram Top Posts。热门帖子会显示在热门主题标签和位置上，以显示使用该主题标签或位置标记的一些最受欢迎的帖子。

发布此类图片的所有可疑帐户都是在2021年1月15日至17日之间创建的，并于当天上传了其内容。帐目的句柄包括俄罗斯女性姓氏，后跟数字，并且其中一些个人资料照片上有男性照片。这些帐户的职位很少，关注者很少，参与度几乎为零。这些特征表明这些帐户是不真实的，并且可能是自动的。

尽管用于创建这些图片的算法迅速发展，但是训练有素的眼睛仍然可以识别出GAN生成的面部的某些迹象，包括扭曲的背景细节以及渲染头发，眼睛，嘴唇，耳朵和配件时的伪像。

例如，来自上述网络的三个AI生成的面孔显示了以下伪像：在左图上，头发中的伪像用绿色标记。头发不自然地与皮肤融合在一起，就好像它的质地一样。在中央图像中，伪像标记为黄色：孩子的耳朵和头发一样融入背景中。在右图中，主要伪影标记为红色，显示了太阳镜的末端如何融合到男人的耳朵和头发中。

GAN生成的脸部的另一个特征是，无论计算机生成的脸部的方向如何，眼睛都位于同一位置。在潜在的AI生成的图像中检测这种均匀性可能是在社交媒体上识别这些配置文件的有用技术。下图显示了此技术的示例。

除了这组发布AI生成的面孔的帐户外，另一种类型的帐户还试图在1月20日劫持红场地理标签，方法是张贴抗议海报以支持纳瓦尼，可能是试图将抗议者重定向到错误的位置。

这些可疑帐户是在1月20日当天创建的，但不是使用AI生成的图像，而是在计划于1月23日的抗议活动之前使用海报来支持Navalny。用户的处理方式相似，并且包含不同的单词变体俄语中的“ Navalny自由”，但用拉丁字母书写。例如，两个帐户句柄是svobo_dynavalnomy和svobodu.navalnomy。这些帐户的追随者很少，参与度也很低-每个图片大约40个赞。

有趣的是，Navalny的支持海报没有指定示威地点。通过对红场进行地理标记，这些帐户可能打算误导Instagram用户有关抗议活动的普希金斯卡亚广场的计划位置。

在这些活动中，Navalny团队成员以及数家俄罗斯商店在其Instagram帐户上报告了可能的机器人活动：特别是，具有AI生成面孔的机器人正在大量关注他们。 Navalny新闻秘书Kira Yarmysh，Navalny反腐败基金会职员Georgy Alburov，律师Lyubov Sobol以及媒体机构Novaya Gazeta，MBX Media和Otkrytka均报告了可疑活动。

这些描述表明了一些不真实活动的指标，包括使用AI生成的面孔，没有其他个人资料信息，以及向地理标签充斥了可疑内容。他们最近的创建日期，同时发布和大量关注行为可能表明他们采用了某种自动化操作，这可能违反了Instagram的使用条款，并导致帐户被暂停或影子禁令。