ChatGPT，人工智能的兴起使政治肮脏手段变得更容易和更便宜 - 彭博社

生成式人工智能，如OpenAI的ChatGPT，已经被广泛应用于政治领域，用于撰写筹款邮件、演讲稿和其他工作。

插图：731；Getty Images

这是一个令人震惊的政治广告：中国袭击台湾的画面过渡到洗劫银行和武装士兵在旧金山实施戒严的场景。旁白暗示这一切都发生在总统乔·拜登的任期内。

共和党全国委员会的广告中的这些画面并不真实，情节显然是虚构的。但多亏了人工智能的手段，这些图像看起来像真实生活。广告一经在四月份上网后，纽约民主党众议员伊维特·克拉克提出了一项法案，要求政治广告中的AI生成内容必须披露。

“这已经太过分了，”她在接受采访时说。RNC广告中的小字写着，“完全由AI图像构建”。克拉克的法案在由共和党控制的立法机构中毫无进展，但这说明人工智能的快速发展已经让华盛顿措手不及。

Bloomberg的Laura Davison和Emily Birnbaum加入The Big Take podcast讨论人工智能如何影响美国及其他地区的下一轮选举周期。请在iHeart、Apple Podcasts和Spotify上收听并订阅。

美国和世界各地的选民已经被人工智能生成的政治内容淹没。例如，点击一封要求捐款的电子邮件，你可能正在阅读一条由所谓的大型语言模型起草的消息，政治顾问表示 — 这项技术是ChatGPT背后的技术，这是初创公司OpenAI推出的非常受欢迎的聊天机器人。政治家们也越来越多地使用人工智能来加快诸如分析选民名单、组建邮寄清单甚至撰写演讲等乏味但关键的任务。

与许多行业一样，人工智能有望提高政治工作者的生产力 — 并可能消灭更多的工作岗位。很难说有多少个，但政治业务充满了研究人员认为最容易受生成式人工智能干扰的角色，如法律专业人员和行政工作者。

但更令人不安的是，人工智能有潜力在政治活动中加速虚假信息的传播。这项技术能够快速创建所谓的“深度伪造”，即一些政治操纵者预测很快将无法与真实图片和视频区分开，使恶棍们可以真正地替对手说话。

多年来，深度伪造一直困扰着政治，但有了人工智能，不再需要精湛的编辑技巧来创建它们。

如果充分利用，人工智能可以改善政治沟通。例如，资金不足的新兴竞选活动可以利用这项技术以较少的员工成本廉价生产竞选材料。一些传统上只与总统和参议院竞选活动合作的政治顾问正在计划与利用人工智能为较小的竞选活动提供更多服务的竞选活动合作，以更低的价格点。

科技行业正在努力对抗深度伪造。包括微软在内的公司已承诺在使用他们的人工智能工具创建的图像中嵌入数字水印，以区分它们是否为伪造。

共和党全国委员会的一则视频广告包含了人工智能生成的虚构中国袭击台湾的图像。来源：共和党全国委员会（RNC）YouTube频道### ‘刀光剑影’

今年六月，佛罗里达州州长罗恩·德桑蒂斯的总统竞选团队发布了一则在线广告，展示了人工智能生成的唐纳德·特朗普总统拥抱并亲吻安东尼·福奇的图像。这位前美国国家过敏与传染病研究所所长因其在疫情期间的公共卫生建议而成为共和党人的眼中钉。

德桑蒂斯竞选团队的推文附有一个事实核查说明，说明这些图像是人工智能生成的，混在了特朗普的真实照片和视频中。德桑蒂斯的竞选团队最初没有将它们标记为伪造。

在德国，一个极右翼政党最近分发了愤怒移民的人工智能生成图像，但没有告知观众这些并非真实照片。这一事件也在Twitter上被标记，但这一事件显示了这项技术如何迅速被用于政治信息传递以及固有的风险，德国政治传播公司Cosmonauts & Kings的总经理尤里·施内勒说。

“人工智能可以拯救或摧毁民主。就像一场刀光剑影，对吧？你可以杀死某人，也可以做出最好的晚餐，”施内勒说。

混入俄罗斯和中国的虚假信息工厂，专家表示，担忧变得更加严重。这些国家的网络喷子和黑客已经在本国和世界各国制造宣传和谎言。

总部位于美国的虚假信息追踪公司Graphika在二月份发现了一个亲华影响力行动，传播人工智能生成的视频素材，展示假新闻主播宣传中国共产党的利益。

美国国家安全局网络安全主管Rob Joyce表示，国家行为者和网络犯罪分子已经开始尝试类似ChatGPT的文本生成技术来欺骗网民。

“那个母语不是英语的俄罗斯黑客不再会给你的员工写一封糟糕的邮件，” Joyce在今年早些时候表示。“它将是母语英语，它会讲得通，它会通过嗅探测试。”

三月份，一位匿名的Twitter用户发布了一个经过篡改的视频，声称拜登口头攻击跨性别人士。另一个视频被一位右翼美国评论员广泛传播，似乎显示拜登下令对俄罗斯发动核攻击并派遣军队到乌克兰。

佛罗里达州州长罗恩·德桑蒂斯的总统竞选团队发布的在线广告展示了人工智能生成的图像，显示唐纳德·特朗普总统拥抱并亲吻安东尼·福奇，上面叠加了文字。来源：德桑蒂斯战室Twitter### 落后

华盛顿在跟上新兴技术方面做得很糟糕，更不用说对其进行监管了。尽管广泛认为大型科技公司过于强大，但两党多年来一直无法通过任何全面立法来约束该行业。在2021年和2022年之间，国会就科技问题举行了150多场听证会，但收效甚微。

六月份，参议院举行了一场名为“什么是人工智能？”的简报。

美国没有联邦隐私法，也没有更新反垄断法来应对科技行业日益集中的情况。立法者们一直无法就是否以及如何监管在线言论达成一致。

上个月，联邦选举委员会在AI生成的政治广告规则请求上陷入了3-3的僵局。该委员会的共和党人表示，该机构没有明确的法规权限。

其他国家正在加紧监管，受ChatGPT狂潮的推动。欧洲议会于6月14日投票限制了这项新兴技术最令人担忧的用途，如生物识别监视——即可以从人脸或身体识别人的AI。这项法律仍在讨论中，也可能要求公司披露更多关于用于训练聊天机器人的数据集的信息。

欧洲官员另外正在敦促包括Alphabet Inc.的Google和Meta Platforms Inc.在内的公司标记由人工智能生成的内容和图像，以帮助打击俄罗斯等对手的虚假信息。

中国监管机构正在积极对科技公司实施新规定，以确保共产党对该国可用的人工智能和相关信息的控制。根据国际和平卡内基基金会本周的一份报告，每个人工智能模型在投放市场之前必须提交给政府审查，合成生成的内容必须携带“显著标签”。文章。

德国极右翼AfD党的一名代表最近分发了愤怒移民的人工智能生成图像。来源：Norbert Kleinwächter Instagram### 更便宜的竞选活动

在最好的情况下，人工智能可以使美国政治竞选“便宜很多”，Sterling Data Company首席执行官Martin Kurucz表示，该公司与民主党合作。

据说这项技术已经被用来帮助撰写演讲和评论的初稿，制作广告，起草游说活动等，据说游说者、竞选和国会工作人员以及政治顾问都在使用。像Midjourney这样的艺术生成器是一种人工智能程序，根据文本提示生成超逼真的图像，有可能提高生产力，甚至取代成本高达数千美元的创意团队的工作。

尽管共和党全国委员会已经利用生成式人工智能制作了攻击广告，但民主党全国委员会仍在试验这项技术。一位发言人表示，该委员会已经发送了人工智能自动化筹款邮件，并正在考虑如何在未来扩大其对人工智能的使用。

在国会山，众议院首席行政官数字服务办公室在四月份发放了40个ChatGPT Plus许可证，众议院办公室利用这些许可证来帮助撰写电子邮件、研究简报，甚至起草立法。对于生成式人工智能来说，撰写完整法案仍然是一项过于复杂的任务。上个月，众议院制定了新规定，限制了ChatGPT在国会的使用，明确规定工作人员不能将机密信息输入聊天机器人。

有迹象表明，立法者对人工智能的威胁比之前可能颠覆政治的技术更加认真。

例如，当社交媒体明显将在政治中发挥重要作用时，立法者让十年时间过去，然后才召集马克·扎克伯格出席听证会。

OpenAI首席执行官山姆·奥特曼在五月份在国会作证，ChatGPT向公众开放不到一年。他告诉立法者，他所在的行业迫切需要监管，他担心人工智能的恶意用途。

共和党全国委员会的一则视频广告包含了虚构社会动荡的AI生成图像。来源：共和党全国委员会（RNC）YouTube频道### ‘不会知道真相’

OpenAI注意到ChatGPT在政治目的上的使用有所增加，一位OpenAI发言人表示，他们已经开始关注可能会利用他们产品欺骗选民的担忧。

该公司在三月份发布了新的指导方针，禁止使用ChatGPT进行“政治竞选或游说” — 包括生成针对特定人群的竞选材料或制作“大量”材料。OpenAI的信任和安全团队正在努力识别违反公司政策的聊天机器人的政治用途，发言人表示。

美国政治顾问协会上个月谴责了在政治广告中使用欺骗性生成式人工智能，称其为“对民主的威胁”。该组织表示计划谴责并可能制裁开发“深度伪造”广告的成员。

但在一个AI工具普遍且成本低廉的社会，最糟糕的行为者不太可能是专业协会的成员。资深共和党策略家弗兰克·伦茨表示，他担心AI技术将在2024年美国总统竞选中引发选民混乱。

“在政治中，真相已经供不应求，”他说。“由于AI，即使关心真相的人也无法知道真相。”