人工智能的快速增长威胁到2024年竞选活动被伪造视频淹没 - 华尔街日报

中国入侵台湾，移民潮涌入美墨边境，视频展示了拜登总统连任后的后果。在一系列图像中，前总统唐纳德·特朗普被制服的警察追捕并逮捕。另一张照片显示五角大楼在一场爆炸后被大火吞噬。

这些场景的共同点是什么？它们都是虚假的。快速发展的人工智能使生成复杂视频和图像变得更加容易，可以欺骗观众并传播错误信息，对2024年竞选活动构成重大威胁。

虚假图像在竞选活动中并不新鲜。在2020年总统竞选中，特朗普分享了一个虚假动画，显示拜登一再伸出舌头，并配有标题“懒汉乔”。一段放慢速度的视频错误地让当时的众议院议长南希·佩洛西看起来有缺陷，在2019年获得了数百万次观看。

变化的是，合成媒体变得更容易创建，随着所谓的生成式人工智能系统的推出，可以快速将简单输入转化为看起来复杂的视频、照片、音乐和文本。这让竞选官员为2024年做好准备，迎来数字创作和传播的水平，与以往任何一届选举季节都不同，现在数百万用户都可以使用这样的工具。

“这不会创造全新的虚假信息领域或类型，我们以前从未想象过，但它会使生产变得更容易、更快速、更便宜，”前总统巴拉克·奥巴马连任竞选的数字总监泰迪·戈夫说。“这将产生相当深远的后果。”

共和党全国委员会是制作描绘拜登连任后美国陷入乌托邦的视频的幕后推手。特朗普发布了一段篡改视频，视频中CNN主持人安德森·库珀对前总统在该网络举办的市政厅会议上的出现做出反应。

“这是唐纳德·J·特朗普总统在CNN的现场总统市政厅会议上狠狠地批评我们，”库珀在被篡改的视频中说道。

特朗普还在Twitter Spaces上分享了佛罗里达州州长罗恩·德桑蒂斯的满是故障的总统竞选启动的模仿视频。特朗普发布的假视频中出现了德桑蒂斯、Twitter首席执行官埃隆·马斯克、民主党捐助人乔治·索罗斯、前副总统迪克·切尼、阿道夫·希特勒和魔鬼，并似乎使用了AI生成的声音克隆，包括特朗普的声音，特朗普插话说：“等等，埃隆，真正的总统要发表几句话。”

特朗普竞选团队和共和党全国委员会的发言人未回复置评请求。

人工智能生成内容的速度被视为一个游戏规则改变者。与其依赖顾问和数字专家，AI是一种更便宜的手段，通过它，竞选活动可以实时回应事件。

民主党和共和党顾问表示，他们也在测试AI和病毒式聊天机器人ChatGPT作为数字组织工具，可以帮助起草演讲、筹款邮件和短信，建立选民档案。尽管竞选活动仍需要审查和编辑AI生成的内容，但这项技术可以帮助大幅减少日常选民联系所花费的时间。

在线监督机构警告说，这项技术可能被用于更多恶意目的，包括散布关于投票时间和地点、选民登记截止日期或人们如何投票的虚假信息。

在2月芝加哥市长选举的前夕，候选人保罗·瓦拉斯的工作人员注意到Twitter上流传着一个视频。瓦拉斯的竞选经理布赖恩·唐尼说，视频中显示了他的照片，并播放了一个听起来像他的声音，似乎在支持警察暴行。

唐尼说，这个视频没有广泛传播，可能并没有影响选票。瓦拉斯在2月份的第一轮中获得第一名，但在决赛中输掉了。尽管如此，唐尼将这一事件描述为一个危险的先例。他说他不知道谁制作了这个视频，竞选团队确定这很可能是使用人工智能创建的。

“对于一个知情的选民来说，最终会发现这个视频是捏造的，”唐尼说。“但你也会有很多不知情或不关心的选民可能只看了视频的一小部分，突然间他们更倾向于反对一个候选人。”

社交媒体平台通常有政策规定，他们将删除误导性、篡改内容。这些政策的执行可能不一致或缓慢，有时平台会为了允许自由政治辩论而对候选人的虚假帖子做出例外。

生成式人工智能系统的兴起促使科技领袖呼吁建立一个新的标签系统，让用户可以看到一段内容是否是由人工智能生成的。共和党全国委员会关于拜登连任的视频附有一个小白色文本声明“完全使用人工智能图像构建”。

“很明显，用户不应该在不知道信息来源的情况下受到随机虚假信息的影响，”谷歌前CEO、国会指定的人工智能委员会主席埃里克·施密特说。

谷歌和微软，ChatGPT 创建者 OpenAI 的支持者，都表示他们将推出标记人工智能生成内容来源数据的工具。

作为监管的初步步骤，白宫最近要求公众就人工智能问题提出意见，包括如何应对选举过程中的挑战。

倡导者表示，在选举中使用人工智能生成内容的情况下，现有法律是适用的。联邦选举法禁止候选人冒充其他候选人。倡导团体“公民联盟”最近向执行竞选法律的联邦选举委员会提交请愿书，要求该机构发布指导意见，称如果一名候选人在竞选广告中使用人工智能生成的对手形象，该条款将适用。该机构尚未回应请愿书。

联邦选举委员会无权监管社交媒体普通用户可能发布的病毒式传播的伪造视频。

“公民联盟”总裁罗伯特·韦斯曼表示，政党和媒体应该宣布使用欺诈性媒体是“不道德的”。他补充说：“我们实际上并没有为这一挑战做好准备。”

请写信给《华尔街日报》的萨布丽娜·西迪基[email protected]和莱恩·特雷西[email protected]

出现在2023年6月6日的印刷版上，标题为“人工智能的增长威胁到2024年的竞选活动”。