一起价值2.5亿港元的Zoom深度伪造诈骗案显示了新的人工智能风险 - 彭博社
Parmy Olson
Deepfakes are everywhere.
摄影师：OLIVIER DOULIERY/AFP
面部识别最近才开始流行。
摄影师：Qilai Shen/Bloomberg给你下达命令的老板是真实的还是只是看起来真实的？现在深度伪造技术已经让Zoom视频通话变得更加尴尬，让我们质疑我们的同事是否真实。香港的一名金融工作者在一次视频会议中被冒充成其首席财务官和其他同事后，向骗子转账了超过2500万美元，这或许是迄今为止利用深度伪造技术进行的最大规模的公司欺诈案。这名工作者对一封要求进行秘密交易的电子邮件感到怀疑，但骗子在通话中看起来和听起来如此令人信服，以至于他汇出了这笔钱。
企业IT经理们花了十多年的时间，常常徒劳无功地试图训练办公室工作人员识别钓鱼邮件，并抵制点击可疑附件的冲动。通常情况下，黑客和欺诈者只需要在数百人中找到一个人无意中下载所需的恶意软件，就能侵入企业网络。借助AI驱动的视频工具，他们正在进入我们认为安全的领域，突显出深度伪造技术在过去一年内的迅速发展。虽然听起来像是科幻小说，但这类精心策划的欺诈案现在相对容易设置，让我们进入了一个新的怀疑时代。
在香港的欺诈案几乎肯定使用了实时深度伪造技术，这意味着在会议期间，虚假的高管会像骗子一样实时模仿他们的听觉、说话和点头动作。根据乔治亚州立大学犯罪学教授大卫·迈蒙的说法，自去年以来，网络诈骗分子一直在视频通话中使用实时深度伪造技术进行规模较小的欺诈，包括浪漫诈骗。
迈蒙在LinkedIn上发布了下面的视频，展示了开发人员向潜在的欺诈者出售深度伪造视频工具的演示。在视频中，你可以看到左边是一个男人的真实形象，右边是他的虚假人物，中间是一个美丽的年轻女子在欺骗男性受害者：
对于我们大多数人来说，这是未知的领域，但以下是香港受害者本可以用来发现深度伪造的方法，以及我们在未来进行敏感视频通话时都需要做的事情：
- 使用视觉线索来验证你正在交谈的对象。深度伪造仍然无法在实时中进行复杂的动作，所以如果有疑问，可以要求你的视频会议对方在一张纸上写下一个单词或短语，并在摄像头前展示出来。你可以要求他们拿起附近的一本书或进行一个独特的手势，比如触摸耳朵或挥手，所有这些对深度伪造来说在实时中都很难逼真地复制。
- 观察嘴巴。留意唇同步的不一致或奇怪的面部表情，超出了典型的连接故障。
- 使用多因素认证。对于敏感会议，考虑通过电子邮件、短信或认证器应用进行第二次对话，以确保参与者的身份与其声称的一致。
- 使用其他安全通道。对于将涉及敏感信息或金融交易的关键会议，你和其他会议参与者可以通过加密消息应用如Signal验证你们的身份，或通过同样的通道确认决策，比如金融交易。
- 更新你的软件。确保你使用的视频会议软件是最新版本，以防它包含了用于检测深度伪造的安全功能。（Zoom Video Communications没有回答是否计划向用户提供此类检测技术。）
- 避免使用未知的视频会议平台。特别是对于敏感会议，使用像Zoom或Google Meet这样具有相对强大安全措施的知名平台。
- **留意可疑的行为和活动。**一些策略经得起时间的考验。对于紧急要求付款、涉及重大决定的临时会议，或者语气、语言或说话风格的变化要警惕。骗子经常使用压力战术，所以要小心任何急于迅速做出决定的尝试。
一些这些技巧可能会随着时间而过时，特别是视觉线索。就在去年，你可以通过要求说话者侧身来辨别深度伪造视频。现在一些深度伪造视频可以逼真地左右摇头。
多年来，欺诈者一直在侵入富人的计算机，收集他们的个人信息，以帮助他们通过银行的安全检查。但至少在银行业，管理人员可以制定新流程，迫使下属加强安全措施。企业世界则更加混乱，各种不同的安全方法让欺诈者可以轻易地扩大他们的网络，找到漏洞。
越来越多的人意识到可能存在欺诈的可能性，骗子们的机会就越小。我们只能付出代价，因为视频会议的不适感变得越来越痛苦，而有关同事静音的Zoom老梗也变成了要求他们挠挠鼻子。
更多来自Bloomberg Opinion的Parmy Olson：
想要更多彭博观点吗？ OPIN <GO>****。或者您可以订阅 我们的每日新闻简报**。**
在过去的十年中，中国引入先进的监控技术，使得中国共产党比历史上任何政权都更有能力监视公民。西方政府担心这种技术威权主义模式可能会随着中国向全球发展中国的设备而传播。美国已经对中国公司实施了一系列限制，部分原因是为了减缓这些技术的发展和出口。
虽然警惕是必要的，但对中国式“老大哥”主导世界的末日警告是夸大其词的。中国的监控国家之所以如此强大，并不是因为技术，而是因为共产党无与伦比的组织存在和复杂性。这种独特的体系不像摄像头、传感器和软件那样容易出口。