打击深度伪造：正在做些什么？拜登通过机器人电话向泰勒·斯威夫特的AI图像-Bloomberg

世界充斥着深度伪造视频、音频或图片，其中人们似乎在做或说他们没有做或说的事情，或者在他们本不在的地方。大多数深度伪造是将名人的脸部映射到其他人的身体上制作的明显视频和图片。有些用于欺骗消费者，或者损害政客和其他公众人物的声誉。人工智能的进步意味着只需在键盘上轻敲几下就能制造出这些深度伪造。担忧的政府正在寻找对抗的方法。

1. 有什么在进行对抗深度伪造的工作？

2月8日，美国联邦通信委员会宣布，公司使用人工智能生成的语音进行电话自动拨号是违法的。这项禁令是在FCC对一家公司发布停止和解令之后的两天发布的，该公司制作了一段总统乔·拜登的音频深度伪造。新罕布什尔州的居民在该州总统初选前收到了一段电话自动拨号，听起来像是拜登敦促他们留在家里，“把你的选票留到11月的选举中使用。”这个声音甚至说出了拜登的一个标志性短语：“真是一派胡言。”目前美国联邦法律中没有禁止深度伪造的法律。一些州已经实施了关于深度伪造色情内容的法律，但它们的适用在全国范围内不一致，这使得受害者难以追究制作者的责任。欧盟提出的人工智能法案要求平台将深度伪造标记为此类内容。

2. 深度伪造技术还在哪些新闻中出现过？

流行歌手泰勒·斯威夫特的深度伪造裸照在社交媒体上广泛传播，引起了她众多粉丝的愤怒。这一事件引起了白宫的关注。在那个月早些时候，漫威系列中的17岁女演员索奇特·戈麦斯在社交媒体上发现了带有她脸部的深度伪造色情图片，并未成功将这些材料撤下，据NBC新闻报道。发表了声明。

3. 深度伪造视频是如何制作的？

通常是使用经过训练的人工智能算法来制作，该算法能够识别特定人物的真实视频录像中的模式，这个过程被称为深度学习。然后可以将一个视频的元素，比如人的脸，替换到另一个内容中，而不会看起来像是一个粗糙的蒙太奇。当与语音克隆技术一起使用时，这种操纵最具误导性，后者将某人说话的音频剪辑分解成半音节块，然后重新组合成新的单词，看起来好像是由原始录音中的人说出来的。

4. 深度伪造技术是如何兴起的？

这项技术最初是学术界和研究人员的领域。然而，Vice旗下的Motherboard在2017年报道，一个名为“deepfakes”的Reddit用户利用开源代码设计了一个制作假视频的算法。Reddit封禁了这个用户，但这种做法却蔓延开来。最初，深度伪造需要已经存在的视频和真实的声音表演，以及熟练的编辑技能。如今的生成式人工智能系统允许用户从简单的书面提示中制作出令人信服的图像和视频。只需让计算机创建一个视频，让某人张嘴说话，它就会出现。随着人工智能公司将这些新工具应用到网络上的大量素材中，从YouTube到库存图像和视频库，这些数字伪造变得更难以察觉。

5. 有哪些其他深度伪造的例子？

中国网络喷子传播了操纵过的图片，声称夏威夷茂伊岛上的八月野火是由美国秘密测试的“天气武器”引起的。2023年5月，一张网上流传的图片显示五角大楼起火，导致美国股市短暂下跌。专家表示，这张假图片具有人工智能生成的特征。那年2月，出现了一段制造出来的音频剪辑，听起来像尼日利亚总统候选人阿提库·阿布巴卡在策划操纵当月选举的声音。2021年，社交媒体上发布了一段长达一分钟的视频，似乎显示乌克兰总统沃洛迪米尔·泽连斯基告诉他的士兵放下武器向俄罗斯投降。

6. 这里有什么危险？

人们担心深度伪造最终会变得如此逼真，以至于不可能区分真实和伪造的内容。想象一下，欺诈者通过制作伪造的视频，显示公司高管发布企业更新，或者制造出士兵犯下战争罪行的视频，从而操纵股价。政客、商业领袖和名人尤其面临风险，因为有很多他们的录音可供使用。这项技术使所谓的复仇色情成为可能，即使实际上并没有裸照或视频存在，通常是针对女性。一旦视频在互联网上走红，几乎不可能控制。另一个担忧是，关于深度伪造的意识传播会让那些真的被拍到做或说令人反感或违法的事情的人更容易声称针对他们的证据是伪造的。一些人已经在法庭上使用深度伪造辩护。

7. 还有什么其他方法可以抑制深度伪造技术？

产生深度伪造的机器学习技术不容易被逆转以检测它们。但荷兰的Sensity AI和爱沙尼亚的Sentinel等少数初创公司正在开发检测技术，许多美国大型科技公司也在进行同样的工作。英特尔公司于2022年11月推出了FakeCatcher产品，声称可以通过观察由血液流动引起的主体皮肤的微妙颜色变化，以96%的准确率检测伪造视频。包括微软公司在内的公司承诺在使用其人工智能工具创建的图像中嵌入数字水印，以区分它们是否为伪造。

参考书架

• 调查人员是如何解决拜登深度伪造问题的。
• 谷歌和微软如何加速人工智能深度伪造色情内容。
• Swift事件已经引发了对人工智能领域长期关注的解决方案的新紧迫性。
• 相关快速了解生成式人工智能和人工智能监管。
• 彭博视频介绍了Lyrebird，这家人工智能公司可以替你说话。
• 来自伦敦大学学院的研究表明，人类无法检测出超过四分之一的深度伪造音频录音。

Tesla公司员工正为潜在的裁员做好准备，因为经理们被要求确认每个员工的职位是否关键。

据知情人士透露，最近几天美国经理们不得不对他们的副手的角色进行二元评估，这些人要求匿名，因为这些信息是私密的。一些人表示，特斯拉在取消了一些员工的每年两次的绩效评估后，为每个工作岗位发送了单行查询。