在新罕布什尔州传播的拜登虚假自动拨号电话消息引起选举专家的警惕-彭博社

一名选民在美国新罕布什尔州杜勒姆的奥斯特河高中投票站投票，日期为2020年2月11日星期二。根据周二发布的一项全国民意调查，伯尼·桑德斯在民主党总统初选中领先乔·拜登10个百分点，突显了前副总统在爱荷华州排名第四的表现如何重塑了提名之争。摄影师：亚当·格兰兹曼/彭博社没有什么政治上的深度伪造比美国总统乔·拜登的篡改音频信息更让世界的虚假信息专家感到震惊，这个消息在周末开始传播。

在电话留言中，一个经过编辑的声音听起来像拜登，敦促新罕布什尔州的选民不要在星期二的民主党初选中投票。“把你的选票留到11月的选举中使用”，电话留言说道。它甚至使用了拜登的标志性短语：“真是一派胡言。”事实上，总统并没有参加新罕布什尔的竞选，而且在初选中投票并不排除人们参加11月的选举。

许多人警告称，今年将有新的人工智能视频和图像生成器被用于政治目的，同时全球近一半的人口将在选举中发挥作用。但现在让专家们担心的是音频深度伪造。它们很容易被编辑，制作成本低廉，而且特别难以追踪。研究人员表示，将一个令人信服的电话留言与选民登记数据库相结合，一个不良行为者就拥有了一个强大的武器，即使是最先进的选举系统也难以处理。“政治深度伪造的时刻已经到来，”消费者倡导智库公民公民的总裁罗伯特·韦斯曼说道。他呼吁立法者制定保护措施，以防止虚假音频和视频记录引发“选举混乱”。

阅读更多： 美国进入后真相选举，平台回避仲裁角色

虚假的拜登信息出现在越来越多的美国政治活动中使用人工智能软件大规模接触选民的同时，投资者也在向语音克隆初创公司注入资金。就在周一，当深度伪造的电话信息传播开来时，人工智能语音复制初创公司ElevenLabs宣布已经筹集到了一轮新的融资，使公司估值达到了110亿美元。 估值了该公司。

篡改的政治录音并非首次出现。去年，在斯洛伐克议会选举前，社交媒体上传播了音频深度伪造，其中包括一段党领袖米哈尔·希梅茨卡似乎在讨论购买选票的计划。与此同时，视频和音频深度伪造在政治上的使用被证明是有限的。 传播在社交媒体上。

目前尚不清楚拜登的信息是如何生成的。新罕布什尔州的检察长正在调查这通电话。但要追踪虚假音频的来源将会特别困难，因为它是通过电话传播而不是在线传播的，根据波士顿大学新闻和新兴媒体研究助理教授琼·多诺万的说法，电话传递的音频信息并不会留下相同的数字踪迹。

“这表明了下一代肮脏手段的迹象，”多诺万说。

有另一个原因使得虚假的拜登视频片段对虚假信息研究人员和选举官员尤为令人担忧。它证实了他们最大的恐惧：恶意行为者不仅仅是利用深度伪造来影响公众舆论，而且是为了阻止选民根本不去投票。

“即使这种虚假信息只会影响几百或几千张选票，也可能在结果和结果方面具有意义，”尼克·迪亚科普洛斯说，他是一位研究操纵音频和选举的西北大学教授。

美国联邦选举委员会已经开始采取一些措施来规范政治深度伪造，但尚未对帮助生成它们的技术进行限制。一些州已经提出了自己的法律来遏制深度伪造。

选举官员正在进行培训演习以应对一场攻击。今年8月，大约100名联邦和州官员在科罗拉多州聚集在一起，共同商讨如何最好地应对一段假想的虚假视频，其中包含虚假的选举信息。去年12月，亚利桑那州进行了另一次演习，官员们在其中讨论了一种情景，即国务卿阿德里安·方特斯的视频被篡改以传播不准确的信息。

与此同时，深度伪造检测工具仍处于萌芽阶段，结果仍不确定。

例如，周一，ElevenLabs自己的检测工具显示拜登的电话很可能不是使用克隆软件创建的，即使深度伪造检测初创公司Clarity表示超过80%的可能是深度伪造。