2024年选举：Facebook应该禁止特朗普和其他人的音频深度伪造视频-彭博社

Parmy Olson

这张插图照片展示了前总统唐纳德·特朗普的Facebook页面，显示在2023年3月17日洛杉矶的智能手机屏幕上。

摄影师：CHRIS DELMAS/AFP在烤一片面包的时间内，你可以克隆美国总统乔·拜登的声音并在社交媒体上分享。你可以让他用他那慢慢的嘶哑声音咕哝：“我一直都知道Covid-19是一个骗局，只是假装它是真的很有用”，然后将音频叠加在总统微笑的照片上，上传到TikTok、YouTube和Facebook，然后等待。

然后会发生一件有趣的事情。前两个网站会删除你的剪辑。但是拥有30亿用户的最大平台不会。Facebook会在剪辑上贴上警告标签，但让它保留供人们点击、收听和分享。这种陈旧的政策在一个分裂的选举年可能会带来灾难。

已经有几个例子显示了这种情况是多么可能。去年九月，斯洛伐克一位政治领袖的伪造音频“讨论”如何购买选票在Facebook上分享，这发生在一场激烈的国家选举的几天内。母公司Meta Platforms Inc.并不像删除伪造视频那样禁止伪造音频剪辑，因此Facebook让它保留，并贴上标签说它已被篡改。两天后，同一政党领袖输掉了选举。我们无法知道这是否影响了选票，但在选举前该国还进行了48小时的媒体封锁，这意味着没有其他人来揭露这个伪造。

在虚假信息的世界中，假音频可能比视频产生更加阴险的影响。虽然唐纳德·特朗普的假“照片”看起来光滑、塑料感十足，但背后的人工智能技术很难被识别和区分。而由于一系列新工具的出现，AI生成的声音现在可以听起来超现实主义。这些工具最初是为了帮助播客和营销人员而设计的。

像Eleven Labs、Voice AI和Respeecher这样的公司销售可以合成演员的声音的服务，这样他们就可以用不同语言朗读有声书，有些只需要几分钟的语音录音就可以克隆出声音。根据市场研究公司Pitchbook的数据，2023年，语音AI初创公司从风险投资者那里筹集了约16亿美元（总体投资增长在过去两年已经下降，部分原因是像亚马逊和OpenAI这样的大公司正在获取更多的业务）。

像Respeecher这样的一些公司已经采取了防止滥用的措施，或者他们要求人们允许克隆他们的声音。但这并不能阻止其他人利用它们。例如，最近有人克隆了伦敦市长的声音，并将伪造的音频剪辑发布到了TikTok。在这段音频中，可以听到萨迪克·汗的声音说，停战纪念日应该取消，以支持巴勒斯坦人的抗议活动。“为什么他们不在下个周末举行纪念周末？”他的声音说。这段音频引起了英国人的愤怒，他们认为应该尊重该国的退伍军人纪念日庆祝活动，但汗的办公室 表示，这段剪辑正在“被一个极右团体传播和放大”。令他们失望的是，它被重新发布到Facebook上，并且至少有一个案例在网站上没有警告标签。

另一人制作了一段假视频，声称英国工党领袖基尔·斯塔默称呼他的一个团队成员为“该死的白痴”，而第二个伪造的视频显示斯塔默说他“讨厌利物浦”。这些帖子在TikTok上被观看了数千次后被删除。一位保守党政客鼓励公众“忽略它”。

一条推特截图，显示了英国工党领袖被篡改的声音。它已被观看超过160万次，并仍然在X（以前称为Twitter）上。来源：Twitter.comTikTok删除了伦敦市长的视频片段，一位女发言人表示，涉及政治人物的类似欺骗性音频通常会被删除，因为这违反了政策。YouTube也删除了伪造市长声音的帖子；一位女发言人表示，该网站会删除可能造成伤害的“技术上篡改的”内容。Twitter也有一项类似规定，尽管似乎没有执行（例如，它保留了市长的伪造视频）。

但考虑到Facebook的月活跃用户数比Twitter高出八倍，因此对伪造音频的宽容态度显得更加离奇。

Facebook的一位发言人表示，他们对政客的伪造音频进行了标记并保留，以便人们在在互联网上遇到类似内容时能够获得准确的信息。Facebook辩称，最好是在警告标签下保留剪辑，这样当人们在Twitter或Telegram等其他网站上看到它时，他们就能了解其不真实性。

但Facebook依赖于拉伸的事实核查团队来进行标记。“这些东西正在互联网上实时传播，”独立事实核查慈善机构Full Fact的编辑史蒂夫·诺沃特尼表示，该机构曾与Facebook合作揭穿汗和斯塔默的音频剪辑。他说，他们花了两天时间来核查工党领袖的剪辑。

一个问题是目前仍没有可靠的技术工具来检测伪造的AI音频，因此Full Fact使用老式的调查技术，1而其事实核查团队只有13人。更广泛地说，社交媒体公司从事虚假信息的人员数量也在下降。在过去两年里，Alphabet Inc.、Meta和Twitter都削减了信任和安全团队的人数以降低成本，Meta最近还关闭了一个构建事实核查工具的项目，据CNBC报道。

“我在11月与来自亚洲各地的大批事实核查员和记者交谈，几乎每个人都遇到了操纵音频，不确定如何检测，”人权组织Witness的执行主任萨姆·格雷戈里说。

即使标记为错误信息，也可能在警告被正确理解之前迅速传播。在信息分享迅速、情绪高涨的时刻，不是每个Facebook或Instagram用户都会完全理解标签的含义，或者相信它。

Facebook只删除伪造视频的政策已经过时。当我们进入英国、印度、美国和其他地方可能会发生动荡的国家选举时，由于人工智能工具生成各种媒体和信息，情况变得更加混乱，该平台应该开始删除欺骗性音频。

更多来自彭博观点：

想要更多彭博观点？ OPIN <GO>。或者您可以订阅我们的每日新闻简报**。**