周末开始流传的美国总统乔·拜登(Joe Biden)的伪造音频信息，最让全球造谣专家感到震惊的政治深度造假。

　　在这则电话留言中，一个听起来像拜登的声音被编辑过，敦促新罕布什尔州的选民不要在星期二的民主党初选中投票。“把你的选票留到11月的大选吧，”电话留言说。它甚至使用了拜登的标志性短语之一:“真是一派胡言。”实际上，在新罕布什尔州的竞选中，总统并没有出现在选票上——在初选中投票并不妨碍人们参加11月的选举。

　　许多人警告说，新的人工智能驱动的视频和图像生成器今年将被用于政治利益，而世界上近一半的人在民意调查中都处于危险之中。但专家们现在担心的是音频造假。它们易于编辑，制作成本低廉，尤其难以追踪。研究人员说，将令人信服的电话信息与选民登记数据库结合起来，不法分子就拥有了一个强大的武器，即使是最先进的选举系统也无法应对。消费者权益智库“公众公民”(Public Citizen)总裁罗伯特·韦斯曼(Robert Weissman)说:“现在是政治深度虚假的时刻。”他呼吁议员们采取措施防止伪造音频和视频，以避免“选举混乱”。

　　虚假的拜登信息出现之际，越来越多的美国政治竞选活动使用人工智能软件来吸引选民，同时投资者正在向语音克隆初创公司投入资金。周一，就在deepfake手机消息四处传播的同时，人工智能语音复制初创公司ElevenLabs宣布，该公司已获得新一轮融资，估值达到11亿美元。

　　被篡改的政治录音并不是第一次。去年，在斯洛伐克议会选举之前，深度伪造的音频在社交媒体上传播开来，其中一段音频显示，该党领导人迈克尔·西梅卡(michael Simecka)似乎在讨论一项购买选票的计划。与此同时，视频和音频深度造假的政治用途被证明是有限的。

　　目前还不清楚拜登的信息是如何产生的。周一，新罕布什尔州总检察长正在调查这通电话。但波士顿大学(Boston University)新闻学和新兴媒体研究助理教授琼·多诺万(Joan Donovan)表示，要找到假音频的来源将特别困难，因为它是通过电话而不是网络传播的。通过电话传递的音频信息没有同样的数字痕迹。

　　多诺万说:“这是下一代肮脏伎俩的标志。”

　　假的拜登视频让造谣研究人员和选举官员特别担忧还有另一个原因。这证实了他们最大的担忧:坏人利用深度造假不仅是为了影响公众舆论，也是为了阻止选民去投票。

　　西北大学(Northwestern University)教授尼克·迪亚科波洛斯(Nick Diakopoulos)研究了被操纵的音频和选举，他说，“即使这种错误信息带来的混乱只会影响几百或几千张选票，但就结果和结果而言，它可能是有意义的。”

　　美国联邦选举委员会(Federal Election Commission)在监管政治深度造假方面已经采取了一些小步骤，但尚未取缔帮助产生政治深度造假的技术。一些州已经提出了自己的法律来遏制深度造假。

　　选举官员正在进行训练演习，为这次袭击做准备。今年8月，大约100名联邦和州政府官员聚集在科罗拉多州，集思广益，对一段包含虚假选举信息的假想虚假视频做出最佳回应。深度造假是去年12月在亚利桑那州进行的另一场演习的重点，当时官员们研究了一个场景，即国务卿阿德里安·丰特斯(Adrian Fontes)的视频被伪造，以传播不准确的信息。

　　与此同时，深度伪造检测工具仍处于起步阶段，尚无定论。

　　例如，周一，ElevenLabs自己的检测工具表明，拜登的电话不太可能是用克隆软件创建的——尽管深度伪造检测初创公司Clarity表示，它有80%以上的可能性是深度伪造的。