Deepfake视频电话可能是一种危险的人工智能骗局 - 彭博社

Udi Mokady，CyberArk Software主席，被一名员工制作的深度伪造。

摄影师：彭博商业周刊的Philip Keith网络犯罪分子不断寻找欺骗人们的新方法。最近增加到他们的武器库中的一个是语音模拟软件。2019年，一家英国能源供应商的首席执行官在接到一个听起来像该单位德国母公司负责人的电话后，向一个匈牙利供应商汇款了22万欧元（249,000美元）。欺诈专家、该能源公司的保险商Euler Hermes的Rüdiger Kirsch表示，这个声音是使用人工智能生成的。（保险商拒绝透露客户身份，但表示已支付索赔。）

一些网络安全专家长期以来一直担心黑客可能会 利用AI在视频中做什么——比如制作一个令人信服的公司高管，他真的想知道你的密码。现在AI软件实际上能够在几乎实时的情况下做到这一点，这意味着黑客可以在Zoom通话中假装是你的老板。

8月17日，谷歌旗下网络安全公司Mandiant的研究人员记录了首次已知的专为网络钓鱼诈骗设计和销售的深度伪造视频技术实例。在黑客论坛和Telegram频道上的广告以英语和俄语吹嘘该软件能够复制一个人的肖像，使企图进行勒索、欺诈或社会工程活动“看起来更具个人性质”。价格为每分钟仅20美元，完整视频250美元或培训课程200美元。

研究人员无法确认他们在黑客论坛上发现的服务是否合法，以及是否在任何欺诈中使用了深度伪造技术，但Mandiant的首席分析师Luke McNamara表示，深度伪造社交工程的威胁是真实的。

信息安全公司CyberArk Software Ltd.的董事长Udi Mokady最近发现了这些攻击类型有多么强大。在7月20日的一条Microsoft Teams视频消息中，Mokady发现自己盯着一个深度伪造的自己。“我很震惊，”他说。“我看到自己弯腰穿着连帽衫，背景是我的办公室。”

Mokady的深度伪造截图，由Gal Zror创建。来源：CyberArk Labs这个把戏是Mokady自己的一名员工创造的。CyberArk的漏洞研究经理Gal Zror使用免费生成式人工智能工具重新创建了Mokady的形象。Zror最初的目标是看看可能发生什么，但很快演变成对他的老板们的警告。

Zror为他的课外项目的第一站是一个受欢迎的深度伪造色情制作者的在线论坛。在那里，他收集了关于实时深度伪造工具的技巧。他了解到，一台配备强大图形处理器的计算机，比如由Nvidia Corp.制造的那种，是必不可少的。他还需要大量数据来训练深度伪造工具，这些数据以CyberArk董事长的录音电话、视频演示和照片的形式提供。

Mokady摄影师：彭博商业周刊的菲利普·基思一旦他有了他的Mokady深度伪造，Zror测试了它的局限性。伪装成Mokady，Zror发现，如果他使用带有长元音的词语，听起来有点怪异。尽管如此，他认为这不是什么大问题。“因为我们都习惯了虚拟通话中糟糕的音频和视频质量，”Zror说，“它仍然足够好以进行危险的社会工程攻击。”他说，这个项目花了几天时间完成，一个非技术人员只要有一些良好的计算能力，可能在几周内就能做到。

Zror在拉斯维加斯的Def Con黑客大会上于8月11日展示了他的作品。当他在屏幕上将自己变成了会议组织者、著名黑客杰夫·莫斯时，观众报以掌声。

Zror从未试图用深度伪造欺骗他的同事。Mokady认为，CyberArk的每个人，大约有2800名员工，都非常精通技术，并且可以接触到他，以至于他们能够识别出一个伪造品。“如果我们像IBM或沃尔玛或几乎任何一家财富500强公司那样庞大，”他说，那就会有合理的担忧。“也许第30,005号员工会被欺骗。”阅读更多：• 谷歌和微软正在加速AI深度伪造色情• 深度伪造冒名骗局正推动新一波欺诈