达沃斯担心人工智能和2024年选举，但假新闻通过社交媒体传播 - 彭博社

Parmy Olson

燃料。

摄影师：Buda Mendes/Getty Images South America全球领导人本周齐聚达沃斯，许多人担心世界经济论坛2024年的顶级风险：由人工智能生成的错误信息。

OpenAI“非常专注”于阻止像ChatGPT这样的工具被政治滥用，其首席执行官山姆·阿尔特曼在周二的彭博活动上表示。他的公司预告了新工具，以阻止在美国大选年中的错误信息。这种努力是值得赞扬的，但在瑞士的这个谈判会上，领导人们必须记住，传统社交媒体在干扰选举和民主本身方面仍然发挥着重要作用。

无论乔·拜登的假照片有多逼真，还是英国政客的假音频有多令人信服，人工智能的真正影响将取决于Deepfake在Facebook、Twitter和TikTok等平台上的传播程度。而这种传播将比2016年和2020年的美国大选期间更难追踪。这一次，不会走红的东西也可能成为问题。

例如，在Facebook上，12月大部分时间里有100条视频广告通过数万人的观看，展示了英国首相里希·苏纳克支持股市欺诈的Deepfake视频。视频以BBC新闻主播声称苏纳克从与埃隆·马斯克合作的项目中赚取“巨额资金”开始，然后切换到首相在讲台上，认真地表示他可以“保证这个投资平台的可靠性”。

当然，这都是骗局。受害者点击链接进入一个名为“量子人工智能”的网站，并注册，然后接到一个呼叫中心操作员的电话，鼓励他们用比特币汇款，根据曾在英国政府担任传讯官的顾问马库斯·比尔德的研究，这些骗子几周后会再次打电话给受害者，告诉他们的投资增长了，并鼓励他们再投入更多资金。然后他们就消失了。

Facebook表示，比尔德发现的大部分深度伪造广告都已被停用。问题在于它们不断出现。星期三早上在Facebook的广告库中简单搜索“Sunak”发现了一些新的有效广告，其中包括一则Sunak说他的50亿美元量子人工智能平台“交易股票并且做得很好”的广告。几个小时后，它们被标记为无效。（你可以自己在广告库中搜索， 这里。）

比尔德说：“这些广告只有1,000到5,000次曝光。”他认为，去年12月有多达40万人看到了假Sunak广告。“但是把这些加起来，规模就很快变大了。”他还说，最近这样的广告才开始出现英国首相。

人们很容易认为，推动虚假信息的是邪恶的政治行为者和意识形态者，但往往只是一些试图赚钱的人。然而，他们仍然可以塑造选民对Sunak这样的人的看法，或许加深了对他不可信任的现有怀疑。在2016年美国大选之前，马其顿的一群青少年通过发布关于克林顿和唐纳德·特朗普的假文章赚了数千美元的广告收入，其中包括他们的最大热门作品之一，“方济各教皇震惊世界，支持唐纳德·特朗普竞选总统”。支持特朗普的假新闻在2016年大选前三个月内被分享了3000万次，几乎是支持希拉里·克林顿的四倍，根据斯坦福大学的一项 研究。其中许多文章在Facebook上迅速走红。

今天，Facebook正在降低新闻故事的排名。这意味着，以前你叔叔发布的一篇福克斯新闻文章，下面还有一长串激烈评论的帖子可能会出现在你的动态消息顶部，但现在Facebook用户更倾向于在Reels上看到一些来自他们不认识的人的随机有趣视频，Reels是Facebook的TikTok克隆产品。

这些短视频是误导信息传播的地方，几乎不可能追踪。Beard说：“我们担心这些[Deepfake]会被TikTok的影响者们采用。” TikTok和Reels上的影响者通常通过赞助帖子赚钱，这可能促使他们发布引人注目的内容来扩大自己的受众。接下来发生的事情就是Beard所说的“内容洗白”，即Deepfake从一个社交网络跳到另一个社交网络。

举个例子：去年十一月，一位TikTok影响者发布了一个视频，视频中他们摇头示意伦敦市长的（看似他们并不知情的）假音频剪辑，TikTok将其删除了 — 但这个视频在Twitter和Facebook上找到了出路，并且一直保留了下来。（Facebook不会删除政客的欺骗性音频，而是在上面贴上警告标签，错误地认为这是打击错误信息的更好方式。）

与此同时，现在被称为X的Twitter在执行自己的政策时速度较慢。它禁止政治错误信息，但选择不删除一段由AI生成的剪辑，内容是英国工党领袖Keir Starmer的声音，因为它想要“证据”证明音频是假的，这是根据知情人士的说法。这段Starmer的音频已经被英国两大政党和独立事实核查组织Full Fact证实是假的。这段剪辑仍然在X上保留着。

尽管围绕爱荷华党内初选有很多讨论，但对于民主来说，这是一个关键的一年，才刚刚开始升温。随着更多选举的展开，政党、影响者、新闻机构和网络骗子将争相吸引注意力。Facebook做出了一个值得赞赏的决定，使其广告库具有透明性，Twitter和TikTok也应该做同样的事情。但马克·扎克伯格的公司也需要更新其关于欺骗性音频的政策，并更好地监管利用政客的深度伪造广告。

我们现在看到的深度伪造内容很快就会变成一场风暴。控制这一切的责任不会落在OpenAI的阿尔特曼身上，而是落在扎克伯格、马斯克和其他监督充斥着虚假信息的社交平台的人身上。

更多来自彭博观点：

想要更多彭博观点吗？ OPIN <GO>****。或者您可以订阅 我们的每日新闻简报**。**