人工智能破坏选举的能力可能更难检测 - 彭博社

人工智能可能正在扰乱选举，而我们却不知道。

摄影师：Al Drago/Getty Images 北美（2020年）

目前保守党拥有的最好的首相。

摄影师：Ian Forsyth/Getty Images 欧洲今年承诺将是一个对选举政府而言的重头戏，全球数十亿人口 — 或超过全球人口的40% — 将有机会参与选举。但是，2024年已经过去将近五个月，一些政府官员悄悄地想知道为什么人工智能的潜在风险似乎没有发生。尽管印度尼西亚和巴基斯坦的选民已经投票，但根据最近一篇文章，他们几乎没有看到病毒式深度伪造影响选举结果的证据，该文章援引了“国家安全官员、科技公司高管和外部监督组织”。他们表示，人工智能并没有产生他们预期的“大规模影响”。这是一个非常短视的观点。原因是什么？人工智能可能正在扰乱选举，而我们却不知道。

Bloomberg观点在华尔街上躲避灾难的随机漫步不要让加沙帮助伊朗掩盖自己的镇压里什·苏纳克继续担任托利党最好的领导人‘炽热的火炉’将越南变成另一个中国省份问题在于官员们正在寻找一个类似于巴伦西亚加教皇的马基雅维利版本。还记得去年流行的穿羽绒服的弗朗西斯教皇的AI生成图像吗？许多人现在期待的就是这样的生成式AI工具 — 能够大规模生成类似人类的文本、图像和视频，使其变得与之前支持唐纳德·特朗普的说服活动或从马其顿传播分裂政治内容的推特和脸书上的俄罗斯支持的活动一样容易被发现。所谓的人造草根运动在一大堆机器人重复数千次说同样的话时很容易被识别。

然而，要抓住有人以稍微不同的方式数千次说同样的话就难得多了。简而言之，这就是使得基于人工智能的虚假信息难以检测的原因，也是为什么科技公司需要将注意力从“病毒传播”转向“多样性”，正如曾担任Meta Platforms Inc.选举风险负责人，现在作为阿斯彭研究所（一个智库）主任为社交媒体公司提供建议的乔什·劳森所说。

他说，不要忘记文字的微妙力量。关于人工智能的公共话语大部分都是关于图像和深度伪造，“当我们看到大部分说服活动可能基于文本时。这就是你可以真正扩大一个行动而不被抓住的方式。”

Meta的WhatsApp之所以能够实现这一点，要归功于其“频道”功能，可以向成千上万人广播。例如，您可以使用开源语言模型为密歇根州的阿拉伯语使用者生成并发送大量不同的文本帖子，或者向人们发送消息，告知他们所在学校的投票站被淹没，投票将需要六个小时，劳森补充道。“现在，像阿拉伯语操作这样的事情对于低技术水平的自豪男孩来说也是可以实现的，”他说。

另一个问题是，AI工具现在被广泛使用，超过一半的美国人和四分之一的英国人尝试过使用它们。这意味着普通人 — 无论有意还是无意 — 也可以创造和分享虚假信息。例如，今年三月，唐纳德·特朗普的粉丝们发布了AI生成的假照片，展示他被黑人支持者包围，试图将他描绘成黑人社区的英雄。

“这是普通人在创作粉丝内容，”斯坦福互联网观察研究员雷妮·迪雷斯塔说道。“他们是否有意欺骗？谁知道呢？”重要的是，随着分发成本已经降至零，创作成本也已经降低，对每个人而言。1Meta的工作之所以特别具有挑战性，是因为要解决这个问题，它不能仅仅试图限制某些图片获得大量点击和点赞。AI垃圾邮件不需要互动就能发挥作用。它只需要淹没整个区域。

Meta 正试图解决这个问题，通过应用“由 AI 制作”标签，本月，在 Facebook 和 Instagram 上的视频、图片和音频上 — 这种方法如果人们开始假设没有标签的一切都是真实的话，可能会适得其反。

另一种方法是 Meta 关注一个文本占主导地位的平台：WhatsApp。早在 2018 年，巴西的一波虚假信息通过这个消息平台传播，针对的是工人党的费尔南多·阿达德。赢得总统大选的雅伊尔·博尔索纳罗的支持者据称资助了这次大规模的针对活动。

如果 Meta 将 WhatsApp 的政策与 Instagram 和 Facebook 的政策保持一致，特别是禁止干扰投票行为的内容，那么它就可以更好地防范类似事件的再次发生 — 这是 AI 会加剧的 — WhatsApp 的规则只模糊地禁止“故意欺骗”的内容和“非法活动”。

Meta 的一位发言人表示，这意味着公司“将执行对选民或选举的压制。”

但更明确的内容政策将赋予 Meta 更多权威来应对 WhatsApp 渠道上的 AI 垃圾信息。你需要那个“用于积极执行”，Lawson 说。如果公司不认为这是必要的，它就不会有更具体的政策来防止 Facebook 和 Instagram 上的选民干扰。

AI工具很少有明显的Smoking guns，这要归功于它们更为分散和微妙的影响。随着合成内容涌入互联网，我们应该为更多噪音而不是信号做好准备。这意味着科技公司和官员不应对AI在选举中缺乏“大规模影响”感到自满。恰恰相反。

更多来自彭博观点：

• AI无法拒绝你的糟糕主意，非常糟糕的主意：Parmy Olson
• 印度的AI监管者需要手术刀，而不是锤子：Mihir Sharma
• 需求是错误信息，而不是供应，才是问题：Tyler Cowe

想要更多彭博观点吗？OPIN <GO>。或订阅我们的每日新闻简报**。**

当温斯顿·丘吉尔的继任者安东尼·伊丁未能在国家上树立权威时，他的副手R.A.巴特勒曾含糊地为他辩护。巴特勒在一次报纸采访中狡黠地说：“他是我们最好的首相。”“我们必须在他的所有困难中帮助他。”在周四举行的一轮灾难性的地方选举中，尽管有一次备受关注的胜利，保守党议员们决定接受里希·苏纳克作为他们最好的首相。然而，党内的反对派不会在苏纳克的所有困难中帮助他。

关于首相的内部政党政变的传言似乎暂时搁置。苏纳克最为激烈的右翼批评者、前内政大臣苏埃拉·布拉弗曼在周日早上开始了激烈抨击，但在她在《星期日电讯报》上的猛烈抨击之前，她用赤裸裸的话语说“更换领导人不会奏效”，她不忠地补充说“填平我们的坑是首相的责任，是时候让他开始铲土了。”布拉弗曼的派系现在希望首相为即将到来的大选失败承担责任。