调查人员是如何解决拜登深度伪造电话诈骗的谜团的 - 彭博社

Katrina Manson

2024-02-08

一名写信给乔·拜登的竞选者站在美国新罕布什尔州康科德的布尔牧场的谷仓外，这是新罕布什尔州初选的日期，即1月23日。

摄影师：Mel Musto/Bloomberg当新罕布什尔州当局着手追踪一通声称来自乔·拜登总统的虚假的AI电话的起源时，他们求助于一家长期预测音频深度伪造崛起的公司。

Nomorobo，纽约电话科学公司的一部分，是一项自动屏蔽电话推销和无用短信的服务。它监视35万个移动电话号码以捕捉电话推销，此外还监视着超过一百万个常规电话号码，这些号码是他们商业合同中要监视的，以防范诈骗，创始人Aaron Foss表示。该公司受聘提供此类保护。

它记录了41个虚假拜登电话的样本，并据此推断出大约有5,000至25,000个虚假的拜登电话被拨打。

这类调查的下一个线索是弄清楚打电话的发起者从哪里找到了要拨打的号码库，Foss说。大多数电话似乎是针对注册的民主党人，他们被敦促不要参加该州1月23日初选。这个拜登的深度伪造甚至包括他的一个标志性短语：“真是一派胡言。”

Foss表示，并非所有伪造的拜登电话信息都发给了新罕布仁尔州的选民。根据Nomorobo的数据，一通杂乱的电话似乎打到了德克萨斯州，还有几个打到了马萨诸塞州和其他地方。

这意味着这些州的检察长也可以进行法律调查，可能会面临刑事和民事处罚，类似于新罕布什尔州检察长约翰·福梅拉本周早些时候更新的调查。

追踪呼叫的起源很重要，因为日志和录音可能会被删除，Foss说。

当局能够追踪呼叫的起源到一家名为Life Corporation的德克萨斯公司，得到了行业追踪组织的帮助，该组织致力于查找非法自动拨号的起源。该公司的所有者沃尔特·蒙克还拥有专门从事自动拨号和电话民意调查的公司。蒙克没有回复寻求评论的消息。

我的同事玛吉·墨菲报道称，这条消息是使用人工智能初创公司ElevenLabs的技术制作的，该公司已经暂停了创作者。新罕布什尔州官员表示他们仍在调查中。ElevenLabs拒绝置评。

拜登被冒名拨打电话并不是第一次。Foss说，之前有一次冒充拜登的电话被用来引导呼叫者参加一个欺诈活动，并最终追踪到牙买加。然而，拜登致新罕布什尔选民的电话是他遇到的第一个利用人工智能语音克隆来追求政治目的的电话，这种技术已经在11月的总统选举前使官员和竞选人员感到恐慌。

Foss预计这种情况不会有所缓解：克隆人工智能语音电话制作起来既简单又便宜。而且它们已经出现了。

香港警方在一家跨国公司的员工被骗转账相当于2500万美元给罪犯后，进行了一系列逮捕，罪犯使用了深度伪造技术作为公司抢劫的一部分，据《南华早报》报道。

骗子在一月份针对这名职员使用了一个钓鱼链接，声称来自该公司的首席财务官，该公司未透露名称。然后，员工被加入到一个与首席财务官的群视频通话中，并被告知进行转账。据香港警方称，该员工在不知情的情况下与一个使用人工智能生成的财务主管的视频形象进行了交谈。

《商业周刊》在八月份预测了下一波骗局将是雇主进行深度伪造视频通话。该报道详细介绍了信息安全公司CyberArk的主席乌迪·莫卡迪（Udi Mokady）在一次实时视频会议中面对了自己的深度伪造形象，这是由一名员工创建的。幸运的是，对于莫卡迪来说，这个深度伪造是他的一名员工、一名漏洞研究经理的测试。

员工加尔·兹罗（Gal Zror）使用现成的生成式人工智能工具花了几周时间创建这个视频。然而，对于职业罪犯来说，几周的工作换取数千万美元可能非常诱人。— Margi Murphy

**有新闻线索吗？**您可以联系杰夫·斯通，邮箱：[email protected]。您也可以使用我们的SecureDrop安全、匿名地发送文件给我们。

获取科技日报以及更多彭博科技周刊，直接发送到您的收件箱：