AI Deepfakes被用于斯洛伐克传播虚假信息-彭博社
Olivia Solon
其中一个视频展示了一场长达两分钟的对话，进步党领袖米哈尔·西梅卡（Michal Simecka）似乎在与一名记者讨论从罗马少数民族那里购买选票。
摄影师：弗拉基米尔·西米切克/法新社/盖蒂图片社在斯洛伐克议会选举前夕，展示了使用人工智能生成的深度伪造声音的视频在社交媒体上传播，展示了这种新兴技术如何被用于政治虚假信息。
这些视频正在包括 Meta Platforms Inc.的Facebook和Instagram以及包括模仿政治对手的音频的Telegram等消息应用程序上分享，Reset，一个研究科技对民主影响的团体，周五在一份报告中表示。
其中一个视频展示了一场长达两分钟的对话，进步党领袖米哈尔·西梅卡似乎在与一名记者讨论从罗马少数民族那里购买选票。法新社事实核查员咨询了几位专家，他们得出结论，这段音频是由一个AI工具合成的，该工具是在真实发言者的声音样本上训练的，几份副本在社交媒体上没有标记为误导性。
Meta的一位发言人表示，政党发布的帖子不符合事实核查的条件，因为Meta不应该“阻止政治人物的讲话传达到观众并接受公众辩论和审查”，但其在斯洛伐克的事实核查人员“继续积极揭穿在网上流传的与选举有关的虚假言论。”
阅读更多： 欧盟在斯洛伐克打击虚假信息的能力受到事实核查
Telegram的一位代表未回复置评请求。
研究人员和立法者一直在警告关于一波由人工智能驱动的虚假信息，但直到现在，虚假图片和视频更多是一种有趣的好奇。 斯洛伐克的例子似乎显示了这种技术如何被用来欺骗和激怒选民在紧张的选举前几天。
这次选举正在成为东欧联盟国家540万人口的一个最重要的选举之一，自共产主义倒台以来。罗伯特·菲科的 SMER党 是领先者之一，他正在进行一场民粹主义竞选，反对对俄罗斯的制裁和对乌克兰的军事援助。他将与西梅卡的亲欧盟 Progressive Slovakia 党竞争。
在另一个视频中，极右政党Republika发布了基于Šimečka和总统Zuzana Čaputová的AI生成配音的政治广告，警告选民不要“盲目跟随进步的群体”。这些视频周五仍然在Facebook和Instagram上。
“在过去的三四年里，每个人都在谈论即将到来的深度伪造操纵浪潮，但出于某种原因，这并没有发生，但有理由认为现在可能会有所不同，”为Reset进行研究的Rolf Fredheim说道，该研究更广泛地关注了选举前虚假信息和仇恨言论的激增。
此前在北约StratCom追踪虚假信息的Fredheim表示，深度伪造技术现在变得更容易让普通人使用，而不需要一台非常强大的计算机。他指出了诸如HeyGen之类的应用，这些应用使将脚本转换为说话深度伪造视频变得非常容易，只需使用某人声音的简短样本即可。
“从斯洛伐克选举的例子来看，有充分理由认为专业操纵者正在研究这些工具，以创造效果并以协调的方式分发它们，”他补充道。
HeyGen并没有立即回应评论请求。