为什么泰勒·斯威夫特的AI生成的深度伪造图像引发了更广泛的担忧 - 彭博社

Taylor Swift 

摄影师：Matt Winkelmeyer/Getty Images世界上充斥着深度伪造视频、音频或图像，让人们看起来好像做了或说了他们没有做或说的事情，或者出现在他们没有出现过的地方。许多深度伪造旨在赋予虚假言论可信度，并损害政客和其他公众人物的声誉。但大多数深度伪造是将名人的面部映射到其他人的身体上制作的显性视频和图片。这就是一月底发生的事情，当时流行歌手泰勒·斯威夫特的假显性图片在社交媒体上大量传播。现在，由于人工智能让几乎任何人都能在键盘上轻点几下就制造逼真的图像和声音，很难分辨你在网上看到和听到的是否真实。

1. 泰勒·斯威夫特发生了什么事？

斯威夫特的假图片在社交媒体上被广泛分享，引起了她众多粉丝的愤怒。据《纽约时报》报道，一张在X网站（前身为Twitter）上分享的图片在账号被暂停前被观看了4700万次。斯威夫特也是声音和图像被篡改以看起来在背书商业产品的名人之一——在斯威夫特的情况下是一种热门厨具品牌。

2. 深度伪造还在哪些地方成为新闻？

一月初，漫威系列中的17岁女演员索奇特尔·戈麦斯在社交媒体上发现了带有她面孔的深度伪造色情内容，并未成功将这些内容撤下，据NBC新闻报道。深度伪造也出现在2024年美国总统选举中。新罕布什尔州的居民在该州总统初选前收到了一条伪造的罗博电话，声音听起来像总统乔·拜登，敦促他们留在家里，“为11月的选举保留你的选票”。这个声音甚至说出了拜登的一个标志性短语：“真是一派胡言。”

3. 深度伪造视频是如何制作的？

它们通常是使用训练有素的人工智能算法制作的，该算法经过训练，能够识别特定人物真实视频录音中的模式，这个过程被称为深度学习。然后可以将一个视频的元素，比如一个人的脸，替换到另一段内容中，而不会看起来像是一个粗糙的蒙太奇。当与语音克隆技术一起使用时，这种操纵最具误导性，该技术将某人说话的音频剪辑成半音节块，然后重新组合成新的单词，看起来好像是由原始录音中的人说出来的。

4. 深度伪造技术是如何兴起的？

这项技术最初是学术界和研究人员的领域。然而，Vice出版的Motherboard在2017年报道称，一个名为“deepfakes”的Reddit用户使用开源代码设计了制作虚假视频的算法。Reddit封禁了这个用户，但这种做法却蔓延开来。最初，深度伪造需要已经存在的视频和真实的声音表演，以及熟练的编辑技能。如今的生成式人工智能系统允许用户从简单的书面提示中产生令人信服的图像和视频。让计算机创建一个视频，让某人张嘴说话，它就会出现。随着人工智能公司将这些新工具应用于网络上的大量素材，从YouTube到库存图像和视频库，数字伪造变得更难以发现。

Midjourney AI生成的教皇弗朗西斯的虚假图像（左）和真实的教皇弗朗西斯的照片。来源：Midjourney；AFP/Getty Images### 5. 还有哪些深度伪造的例子？

中国网络喷子传播了操纵过的图片，声称夏威夷茂伊岛上的8月山火是由美国秘密测试的“天气武器”引起的。2023年5月，一张网上流传的图片似乎显示五角大楼着火，导致美国股票短暂下跌。专家表示，这张假图片具有人工智能生成的特征。那年2月，一段制造出来的音频剪辑出现了，听起来像尼日利亚总统候选人阿提库·阿布巴卡在策划操纵当月的选举。2021年，社交媒体上发布了一段长达一分钟的视频，似乎显示乌克兰总统沃洛迪米尔·泽连斯基告诉他的士兵放下武器向俄罗斯投降。

6. 这里有什么危险？

人们担心深度伪造最终会变得如此逼真，以至于不可能区分真实和伪造的内容。想象一下，欺诈者通过制作伪造的视频，显示公司高管发布企业更新，从而操纵股价，或者制造出士兵犯下战争罪行的伪造视频。政治家、商业领袖和名人尤其面临风险，因为有很多他们的录音可供使用。这项技术使所谓的复仇色情成为可能，即使实际上并没有裸照或视频存在，通常是针对女性。一旦视频在互联网上走红，几乎不可能控制。另一个担忧是，深度伪造的意识传播将使那些真的被拍到做或说令人反感或违法的事情的人更容易声称针对他们的证据是伪造的。一些人已经在法庭上使用深度伪造辩护。

7. 有关此事有没有采取任何行动？

产生深度伪造的机器学习类型不容易逆转以检测它们。但荷兰的Sensity AI和爱沙尼亚的Sentinel等少数初创公司正在开发检测技术，许多美国大型科技公司也在进行同样的工作。英特尔公司于2022年11月推出了FakeCatcher产品，声称可以通过观察受试者皮肤因血液流动而引起的微妙颜色变化，以96%的准确率检测伪造视频。包括微软公司在内的公司承诺在使用其人工智能工具创建的图像中嵌入数字水印，以区分它们是否为伪造。美国各州的立法机构比国会更快地采取行动来应对人工智能的直接危害。一些州已经颁布了规范深度伪造的法律，主要是在色情和选举方面。欧盟提出的人工智能法案要求平台将深度伪造标记为此类。

参考书目

• 有关生成式人工智能和人工智能监管的相关快速了解。
• 谷歌和微软如何加速人工智能深度伪造色情。
• 彭博法律称美国监管机构正在努力阻止深度伪造影响2024年总统选举。
• 关于Lyrebird的彭博视频，这是一家可以替你说话的人工智能公司。
• 来自伦敦大学学院的研究表明，人类无法检测超过四分之一的深度伪造音频录音。