周末开始流传的美国总统乔·拜登(Joe Biden)的伪造音频信息,最让全球造谣专家感到震惊的政治深度造假。
在这则电话留言中,一个听起来像拜登的声音被编辑过,敦促新罕布什尔州的选民不要在星期二的民主党初选中投票。“把你的选票留到11月的大选吧,”电话留言说。它甚至使用了拜登的标志性短语之一:“真是一派胡言。”实际上,在新罕布什尔州的竞选中,总统并没有出现在选票上——在初选中投票并不妨碍人们参加11月的选举。
许多人警告说,新的人工智能驱动的视频和图像生成器今年将被用于政治利益,而世界上近一半的人在民意调查中都处于危险之中。但专家们现在担心的是音频造假。它们易于编辑,制作成本低廉,尤其难以追踪。研究人员说,将令人信服的电话信息与选民登记数据库结合起来,不法分子就拥有了一个强大的武器,即使是最先进的选举系统也无法应对。消费者权益智库“公众公民”(Public Citizen)总裁罗伯特·韦斯曼(Robert Weissman)说:“现在是政治深度虚假的时刻。”他呼吁议员们采取措施防止伪造音频和视频,以避免“选举混乱”。
虚假的拜登信息出现之际,越来越多的美国政治竞选活动使用人工智能软件来吸引选民,同时投资者正在向语音克隆初创公司投入资金。周一,就在deepfake手机消息四处传播的同时,人工智能语音复制初创公司ElevenLabs宣布,该公司已获得新一轮融资,估值达到11亿美元。
被篡改的政治录音并不是第一次。去年,在斯洛伐克议会选举之前,深度伪造的音频在社交媒体上传播开来,其中一段音频显示,该党领导人迈克尔·西梅卡(michael Simecka)似乎在讨论一项购买选票的计划。与此同时,视频和音频深度造假的政治用途被证明是有限的。
目前还不清楚拜登的信息是如何产生的。周一,新罕布什尔州总检察长正在调查这通电话。但波士顿大学(Boston University)新闻学和新兴媒体研究助理教授琼·多诺万(Joan Donovan)表示,要找到假音频的来源将特别困难,因为它是通过电话而不是网络传播的。通过电话传递的音频信息没有同样的数字痕迹。
多诺万说:“这是下一代肮脏伎俩的标志。”
假的拜登视频让造谣研究人员和选举官员特别担忧还有另一个原因。这证实了他们最大的担忧:坏人利用深度造假不仅是为了影响公众舆论,也是为了阻止选民去投票。
西北大学(Northwestern University)教授尼克·迪亚科波洛斯(Nick Diakopoulos)研究了被操纵的音频和选举,他说,“即使这种错误信息带来的混乱只会影响几百或几千张选票,但就结果和结果而言,它可能是有意义的。”
美国联邦选举委员会(Federal Election Commission)在监管政治深度造假方面已经采取了一些小步骤,但尚未取缔帮助产生政治深度造假的技术。一些州已经提出了自己的法律来遏制深度造假。
选举官员正在进行训练演习,为这次袭击做准备。今年8月,大约100名联邦和州政府官员聚集在科罗拉多州,集思广益,对一段包含虚假选举信息的假想虚假视频做出最佳回应。深度造假是去年12月在亚利桑那州进行的另一场演习的重点,当时官员们研究了一个场景,即国务卿阿德里安·丰特斯(Adrian Fontes)的视频被伪造,以传播不准确的信息。
与此同时,深度伪造检测工具仍处于起步阶段,尚无定论。
例如,周一,ElevenLabs自己的检测工具表明,拜登的电话不太可能是用克隆软件创建的——尽管深度伪造检测初创公司Clarity表示,它有80%以上的可能性是深度伪造的。