泰勒·斯威夫特深度伪造视频促使科技公司和立法者寻找解决方案 - 彭博社

Shirin Ghaffary

2024-02-02

Taylor Swift

摄影师：Matt Winkelmeyer/Getty Images世界上最大的流行音乐巨星之一的大量淫秽深度伪造作品引起了人们对人工智能领域长期关注的前所未有的关注。有什么办法可以解决这个问题吗？但首先…

三件事情要知道：

• OpenAI表示GPT-4 几乎没有风险会帮助制造生物武器• 微软和谷歌母公司Alphabet的高管正在巡回印度吸引人工智能程序员• 人形机器人初创公司Figure AI正在与微软和OpenAI进行融资谈判

寻找迅速解决方案

多年来，研究人员、倡导团体和人工智能专家一直在警告深度伪造色情内容如何毁了女性的生活。今年五月，民主党众议员乔·莫雷尔试图采取行动。他在众议院提出了一项法案，将未经某人同意分享性暗示的人工智能生成材料定为犯罪。尽管一开始引起了一些媒体关注，但最终没有取得任何进展。

然而，上周在网上传播的泰勒·斯威夫特的淫秽深度伪造图像之后，华盛顿的态势发生了变化。莫雷尔在接受彭博社采访时表示，过去一周同意共同赞助他的法案的国会成员人数“大幅增加”。他还表示，他已就此问题与白宫取得联系。“我不想暗示这里有什么好处，”称斯威夫特的深度伪造作品“可怕”和“不可接受”的莫雷尔说。“然而，我认为它已经引起了人们对这种危险性的关注。很难想象我们如何能够比这种事情发生在斯威夫特身上更引起更多关注。”目前，美国没有联邦法律来保护深度伪造色情内容的受害者。在斯威夫特深度伪造事件之后，美国立法者正在抓住机会推动监管。与此同时，一些科技公司表示他们正在加强对人工智能生成的非自愿性深度伪造色情图像的执法。但他们正在赶上一个多年来一直在增长的问题。一项 2019年的研究发现，互联网上96%的深度伪造作品都涉及未经同意的性暗示图像，而这是在一批新的生成式人工智能工具使制作虚假视觉内容变得更加容易之前。

参议员迪克·德宾、乔什·霍利、林赛·格雷厄姆和艾米·克洛布彻本周早些时候提出了一项禁止深度伪造视频的法案。他们的法案并不会将制作深度伪造视频定为刑事犯罪，但将赋予受害者起诉该内容的制作者的权利。“尽管图像可能是虚假的，但从传播深度伪造的性暴力图像中受害者遭受的伤害是非常真实的，”德宾在一份声明中说道，声明中提到了斯威夫特。即使在这个政治上极化的氛围中，由于两党对这个问题非常令人不安的共识，关于深度伪造视频的法案仍有一些希望。白宫也呼吁国会采取行动。尽管如此，自上世纪90年代以来，国会并未通过重大的互联网监管法案。

在没有任何即将出台的立法的情况下，一些科技公司正在采取一系列政策和承诺。在有报道称一些深度伪造的斯威夫特图像来自微软的Designer AI图像生成软件后，该公司表示已加强了执法。

“我们致力于为每个人提供安全和尊重的体验，”微软发言人在一份声明中对彭博社表示。“我们正在继续调查这些图像，并加强我们现有的安全系统，以进一步防止我们的服务被滥用来生成类似的图像。”在斯威夫特深度伪造视频传播开来几天后，微软首席执行官萨蒂亚·纳德拉在接受NBC的采访中称这些图像“令人震惊”和“可怕”。纳德拉表示，需要在人工智能方面达成“全球社会共识”。

Swift deepfakes在X上获得了最多的关注，这导致周日暂时封锁了所有关于“Taylor Swift”的搜索。但其他平台也被用来传播这些内容。当我在Facebook上搜索“Taylor Swift AI”时，我自己相对容易地找到了一些病毒式的deepfakes。在我把这些例子发送给Facebook母公司Meta之后，该公司将它们下架了。Meta有针对性内容和可能误导人们的操纵媒体的政策。“Meta的社区标准适用于所有内容，无论是由AI还是人创建的，我们将继续采取行动打击违反这些政策的内容，”Meta发言人在一份声明中对彭博社表示。“由于这是一个行业范围的问题，我们正在与其他公司和新闻媒体合作，通过AI伙伴关系来解决这个问题。”AI伙伴关系是一个非营利性行业联盟，Meta、亚马逊、OpenAI和其他几家领先的科技公司参与其中，制定了围绕负责任的AI使用的准则。

尽管科技公司正在事后清理Swift的混乱局面，但AI专家们认为他们本应该能够更好地预见到这个问题。“我想不出为什么在这之前这些问题没有得到很好的解决。这并不是什么新信息，”AI初创公司Hugging Face的首席伦理科学家、前Google道德AI团队领导Margaret Mitchell说。

例如，Mitchell说，众所周知，试图生成不当AI内容的人可以通过在本来会被屏蔽的提示中添加拼写错误、句号或空格来规避限制，比如一个名人的名字和“裸体”这样的词，这似乎就是Swift事件的情况。为了防止这些问题，科技公司应该听取他们自己的伦理和负责任的AI团队的意见，这些团队在“合理地预见危害方面做了一些工作”，Mitchell说。然而，近年来，Meta、Microsoft和Google在更广泛的削减成本的努力中裁减或重组了这样的团队。除非科技公司开始更加认真地对待这些问题，Mitchell说她担心我们将只会看到短期的公关措施。“我不认为这是任何范式的根本性转变，”Mitchell说。“我只把它看作是伦理和AI的繁荣与衰退周期的一部分。”

**有关人工智能的问题？**给我发电子邮件，Shirin Ghaffary，我会尽量在未来的新闻简报中回答您的问题。

本周人类引用

“我最担心的是，随着人工智能的新能力……将会有比2020年更好的深度伪造。但我认为人们比我们认为的更复杂，人们已经学会了不相信每张图片。”

— Sam Altman

这位OpenAI首席执行官在本周出席Common Sense Media活动时发表了这番言论，回答了有关公司如何处理选举虚假信息，包括深度伪造的问题。

招聘中：OpenAI硬件职位

OpenAI正在寻找硬件专家，根据公司网站上的三个活跃职位列表，包括一个专门负责“硬件优化和协同设计”的“创始工程师”。在另一份招聘信息中，OpenAI表示正在寻找“技术项目经理”，该人可以帮助“实现我们的硬件路线图”。为什么一个人工智能初创公司需要硬件人员？这些职位出现的时机正值Altman一直在寻求扩展芯片业务的时候，正如Bloomberg之前报道的。但这些职位不一定意味着OpenAI将开展独立的硬件项目。相反，它们可能有助于增加OpenAI与外部公司的软硬件合作伙伴关系的效率，比如它从第三方购买的芯片如何优化以实现最大的计算效率。至少，这提醒我们：在一个每一点计算能力都很重要的时代，对于一个软件公司来说，拥有更多的硬件专家从业者永远不会有坏处。

值得关注

AMD首席执行官苏姿丰表示，公司预计今年将从上个月推出的所谓的AI加速器产品线中获得超过35亿美元的收入。Bloomberg### 深度学习

微软、谷歌母公司和AMD在人工智能领域难以满足投资者的预期
生成式人工智能对银行和科技行业的最大影响将会是根据一份新报告
人工智能正在加速实验以发现新药物，但目前尚不清楚这些药物是否会比人类发明的药物更有效
现实生活中的羊驼已成为人工智能世界中时髦的派对宾客

寻找迅速解决方案

本周人类引用

招聘中：OpenAI硬件职位

值得关注

更多来自彭博社