什么是深度伪造技术，它与泰勒·斯威夫特有什么关系？- 彭博社
Nate Lanxon
来源：法新社/盖蒂图片社世界上充斥着deepfakes——视频、音频或图像，使人们看起来好像做了或说了他们没有做的事情，或者在一个他们并不在的地方。许多deepfakes旨在赋予虚假言论可信度，并损害政治人物和名人在公众面前的声誉。但大多数deepfakes是将一位名人的脸部叠加到另一个人的身上而创建的视频和图像。这就是一月底发生的事情，当时在社交媒体上出现了流传的泰勒·斯威夫特（Taylor Swift）的虚假和露骨图像。现在，随着人工智能让几乎任何人都能在键盘上轻轻一敲召唤出逼真的图像和声音，要弄清楚在线上看到和听到的是否真实变得越来越困难。
1. 泰勒·斯威夫特发生了什么事？
斯威夫特的虚假图像在社交媒体上被广泛传播，引发了她无数粉丝的愤怒。据《纽约时报》报道，一张在X网站（之前被称为Twitter）上分享的图片在账号被暂停之前被观看了4700万次。X表示正在努力删除“所有已识别的图像”，并将对发布者采取“适当的措施”。斯威夫特也是那些声音和图像被篡改以使其看起来在背书商业产品的名人之一，在斯威夫特的情况下，是一种知名厨具品牌。
以信息丰富的方式开始你的一天，订阅 #CincoCosas 每日简报在这里。
2. 深度伪造视频在哪些地方出现？
一月初，漫威电影宇宙的17岁女演员Xóchitl Gómez 发表声明 称在社交媒体上发现了一系列以她的面孔制作的性暗示深度伪造视频，并未能将这些内容删除，NBC新闻报道。深度伪造视频也出现在今年美国总统选举中。在州初选之前，新罕布什尔州的居民收到一通 自动电话，里面传来一段声音，声称是总统乔·拜登，敦促他们呆在家里，“为11月的选举保留你们的选票”。这段声音甚至说出了拜登的一个特有短语：“真是一派胡言。”
3. 深度伪造视频是如何制作的？
通常是通过一个经过训练的人工智能算法来创建，该算法能够识别特定人物在真实视频录影中的模式，这个过程被称为 深度学习。因此，这些信息可以在其他内容中交换视频元素，比如人物的面孔，而不会显得很粗糙。当与声音克隆技术一起使用时，操纵更加具有欺骗性，声音克隆技术可以将某人说话的音频剪辑分解成半音节片段，然后重新组合成新的单词，看起来就像是原始录音中的人说出来的。
4. 如何出现了deepfake技术？
该技术最初是学者和研究人员的领域。然而，Vice旗下的Motherboard在2017年报道，Reddit用户“deepfakes”已经设计出一种利用开源代码创建虚假视频的算法。Reddit禁止了该用户，但这种做法却蔓延开来。最初，deepfakes需要现有的视频和真实的语音解释，以及智能编辑技能。当前的生成式人工智能系统允许用户仅凭简单的书面指示就能制作出引人注目的图像和视频。只需让计算机创建一个视频，让某人的嘴巴说出特定的话，几秒钟之内就能出现。随着人工智能公司将新工具应用于网络上大量可用的材料，从YouTube到图像和视频库，数字伪造变得更难以检测。
5. 还有哪些其他deepfake的例子？
中国的网络喷子散布了操纵过的图片，声称夏威夷毛伊岛8月的森林大火是由美国试验的“天气武器”引起的。2023年5月，一张看似五角大楼起火的图片在互联网上传播后，美国股市短暂下跌。专家声称这张虚假图片很可能是由人工智能生成的。今年2月，出现了一段篡制的音频片段，声称尼日利亚总统候选人阿提库·阿布巴卡参与了该月选举的操纵。2021年，社交媒体上发布的一分钟视频似乎显示乌克兰总统沃洛迪米尔·泽连斯基告诉他的士兵放下武器向俄罗斯投降。
6. 什么是危险？
人们担心deepfake技术变得如此逼真，以至于无法区分现实和虚构。想象一下，欺诈者通过制作虚假视频来操纵股票报价，比如制作虚假的公司高管发布更新的视频，或者制作虚假的士兵犯下战争罪行的视频。政治家、企业家和名人面临特别风险，因为他们的声音和形象的录音录像件数众多。技术使得所谓的“复仇色情”成为可能，即使没有真正的裸照或视频，目标通常是女性。一旦这类视频在互联网上走红，几乎无法控制。另一个令人担忧的原因是，deepfake的传播可能会使真正被录制做出或说出不当或违法行为的人声称反对他们的证据是假的变得更容易。一些人已经在法庭上使用deepfake辩护。
7. 是否有人在采取行动？
制造deepfake的机器学习类型不容易逆转以便检测。但一些新公司，如总部位于荷兰的Sensity AI和爱沙尼亚的Sentinel，以及许多美国科技巨头，都在开发检测技术。2022年11月，英特尔公司推出了一款名为FakeCatcher的产品，声称可以通过观察受试者皮肤微妙的血液流动引起的颜色变化，以96%的准确率检测到虚假视频。公司，包括微软公司在内，已承诺在使用其人工智能工具创建的图像中嵌入数字水印，以将其与伪造的图像区分开来。美国各州的立法机构比国会更快地采取行动来应对人工智能的直接损害。几个州已经通过了针对deepfake的法律，主要是在色情和选举背景下。欧盟的一项人工智能法案提议要求平台将deepfake标记为虚假。
由Paola Torre翻译。