谷歌、微软工具推动深度伪造色情AI的激增 - 彭博社

摄影师：731的拼贴，盖蒂(2) 当Kaitlyn Siragusa的粉丝们，一个知名的29岁网络名人，被称为Amouranth，想要观看她玩视频游戏时，他们会每月支付5美元订阅她在 亚马逊公司的Twitch频道。当他们想观看她表演成人内容时，他们会每月支付15美元，以获取她明确的OnlyFans页面的访问权限。

当他们想观看她做她从未做过的事情时，免费的时候，他们会在谷歌上搜索所谓的“deepfakes” —— 使用人工智能制作的视频，制造出一个真实女性面部的逼真模拟性行为。

Siragusa，经常成为deepfake制作者的目标，说每当她的工作人员在搜索引擎上发现新东西时，他们就会向谷歌提交投诉，并填写一个表格请求删除特定链接，这是一个耗时耗力的过程。“问题在于，这是一场持续的战斗。”

在最近的 AI繁荣期间，非自愿色情deepfakes的制作激增，根据独立分析师Genevieve Oh的研究，自2019年以来，视频数量增加了9倍。根据Oh的分析，2023年5月，在30个网站上出现了近15万个视频，总共获得了38亿次观看。一些网站提供深度伪造编程的库，以名人如艾玛·沃特森或泰勒·斯威夫特的面孔嫁接到色情表演者的身体上。 其他网站为付费客户提供了“裸体化”认识的女性的机会，例如同学或同事。

技术界一些最大的名字，包括Alphabet Inc.的Google、亚马逊、X和微软公司，拥有促进最近深度伪造色情潮流的工具和平台。例如，Google是广泛使用的深度伪造网站的主要流量驱动器，而X的用户，以前被称为Twitter，经常传播深度伪造内容。亚马逊、Cloudflare和微软的GitHub为这些网站提供了关键的托管服务。

对于希望追究深度伪造色情的目标的经济或情感损害责任的人来说，没有简单的解决方案。目前，美国没有任何联邦法律将非自愿深度伪造色情的创作或分享定为刑事犯罪。近年来，有13个州通过了针对此类内容的立法，导致了一系列难以执行的民事和刑事法规，根据Matthew Ferraro，WilmerHale LLP的律师的说法。迄今为止，根据Ferraro的研究，美国还没有人因制作AI生成的非自愿性内容而被起诉。因此，像Siragusa这样的受害者大多被迫自力更生。

“人们总是在发布新视频，”Siragusa说。“看到自己出现在未经同意的色情内容中，在情感上感觉恶心。”

然而，最近，一群越来越多的科技政策律师、学者和反对制作深度伪造色情的受害者开始探索一种新的方法来解决这个问题。为了吸引用户、赚钱并保持运营，深度伪造网站依赖于由大型上市公司提供的广泛的技术产品和服务网络。尽管这类交易性在线服务在美国法律上往往受到很好的保护，但深度伪造产业的反对者认为其依赖这些来自备受舆论关注的科技巨头的服务可能是一个潜在的弱点。他们越来越多地直接向科技公司提出诉求，并公开施压他们，要求撤销和下架有害的AI生成内容。

“行业必须带头进行一些自我管理，”CITRIS政策实验室的创始主任Brandie Nonnecke说道，她专门研究技术政策。与其他研究深度伪造技术的人一样，Nonnecke认为应该对个人是否批准使用他们的面部，或者授予他们姓名和肖像权进行审查。

她说，受害者获得正义的最大希望是科技公司“培养良知”。

活动人士的其他目标包括希望搜索引擎和社交媒体网络采取更多措施来遏制深度伪造技术的传播。目前，任何在Google搜索中输入一个知名女性的名字并附上“deepfake”一词的互联网用户可能会看到数十个深度伪造网站的链接。根据网络分析公司的数据，在2020年7月至2023年7月期间，前20个深度伪造网站的月访问量增加了285%，其中Google是访问量最大的来源。在7月，搜索引擎每天向最受欢迎的网站Mrdeepfakes.com发送了248,000次访问， Similarweb估计，总共有2520万次访问，其中Google搜索占全球搜索流量的79%。

2023年7月对Mrdeepfakes.com的访问量中约44%来自Google

2023年7月对mrdeepfakes.com的桌面流量

来源：SimilarWeb

Nonnecke表示，Google应该做更多“尽职调查，创造一个环境，在这个环境中，如果有人搜索一些可怕的东西，可怕的结果不会立即出现在反馈中。”至于Siragusa，她表示Google应该“完全禁止深度伪造技术的搜索结果。”

作为回应，谷歌表示，像任何搜索引擎一样，它索引存在于网络上的内容。“但我们积极设计我们的排名系统，以避免向人们展示他们不想看到的意外有害或明确的内容，”发言人Ned Adriance说。该公司表示，他们已经开发了保护措施，以帮助受到非自愿虚假色情影响的人，包括人们可以请求删除包含这些内容的页面。

“随着这一领域的发展，我们正在积极努力增加更多的保障措施来保护人们，”Adriance说。

活动人士也希望社交媒体网络做更多。X已经制定了政策，禁止合成和篡改媒体。即便如此，这类内容仍在其用户中定期传播。根据监控社交媒体以获取突发新闻的公司Dataminr的数据，每天有数十次关于深度伪造视频和图像的标签被推文。根据数据，2023年第一季度和第二季度之间，与这些内容相关的八个标签的推文数量增加了25%，达到31,400条推文。

X未回复评论请求。

深度伪造网站还依赖大型科技公司为它们提供基本的网络基础设施。根据彭博社的一项审查，排名前20的深度伪造网站中有13个目前正在使用Cloudflare Inc.提供的网络托管服务以保持在线。亚马逊公司为几个列在多个网站上的热门深度伪造工具提供网络托管服务，包括Deepswap.ai。过去的公共压力运动成功地说服了网络服务公司，包括Cloudflare，停止与具有争议性的网站合作，从8Chan到Kiwi Farms。倡导者希望对托管深度伪造色情网站和工具的公司加大压力可能会取得类似的结果。

Cloudflare未回应评论请求。亚马逊网络服务发言人提到了公司的服务条款，禁止非法或有害内容，并要求看到此类材料的人向公司举报。

最近，用于制作深度伪造的工具变得更加强大和更易获取。使用Stability AI等工具，可以按需生成逼真的换脸图像。Stability AI是Stable Diffusion模型的制造商。由于该模型是开源的，任何开发者都可以下载并调整代码以用于各种目的，包括创建逼真的成人色情内容。专门为深度伪造色情内容创作者提供服务的网络论坛上，充斥着人们交流如何使用Stability AI早期版本模型创建此类图像的技巧。

Stability AI的首席执行官Emad Mostaque称这种滥用行为为“令人深感遗憾”，并将这些论坛称为“可憎的”。他表示，Stability已经设定了一些限制措施，包括禁止色情内容用于AI模型的训练数据。

Mostaque通过电子邮件表示：“任何开源代码的恶意行为无法控制，但是可以采取更多措施来识别和定罪这种行为。”“AI开发者社区以及支持这一行业的基础设施合作伙伴需要尽责，减少AI被滥用和造成伤害的风险。”

加州大学伯克利分校的教授Hany Farid表示，技术工具和服务的制造商应明确禁止在其服务条款中使用深度伪造材料。

“我们必须开始以不同的方式思考技术人员在开发工具方面的责任，”法里德说。

虽然许多用于创建深度伪造色情网站的创作者和用户推荐的应用程序是基于Web的，但有些在由苹果公司和谷歌的Alphabet Inc.运营的移动应用商店中readily可用。其中四款移动应用在Google Play商店中获得了100万次下载之间的下载量。其中一款名为FaceMagic的应用程序在色情网站上展示了广告，根据VICE的一份报告。

深度伪造研究员亨利·阿杰尔表示，经常用于在线针对女性的应用程序通常被市场化为用于AI照片动画或照片增强的工具。“这是一个广泛的趋势，你可以在手机上获得的易于使用的工具直接与更多私人个体、日常妇女的被针对有关，”他说。

深度伪造网站访问量增长

2020年7月至2023年7月间前20个深度伪造网站的访问量

来源：SimilarWeb

FaceMagic未回应评论请求。苹果表示，它试图确保用户的信任和安全，根据其指南，主要用于消费或分发色情内容的服务在其应用商店中是严格禁止的。谷歌表示，企图威胁或以性方式剥削人们的应用程序在其开发者政策下是不允许的。

Mrdeepfakes.com用户推荐一款由人工智能驱动的工具DeepFaceLab，用于制作非自愿色情内容，该网站由微软公司的GitHub托管。这家基于云的软件开发平台目前还提供了几款经常在deepfake网站和论坛上被推荐的其他工具，其中一款工具直到8月中旬仍然展示了一个从胸部以上裸露的女性，其脸被换成了另一个女性的脸。该应用在GitHub上获得了近2万个“星标”。开发人员删除了视频，并在彭博社联系他们置评后于本月停止了该项目。

GitHub发言人表示公司谴责“使用GitHub发布性淫秽内容”，该公司的政策禁止用户进行此类活动。发言人补充说，公司对此类内容进行“一些积极的筛查，此外还积极调查滥用举报”，GitHub会对“违反我们条款的内容”采取行动。

彭博社分析了与deepfake制作者相关的数百个加密钱包，这些制作者显然通过出售视频库的访问权限、通过捐赠或向客户收费定制内容来赚钱。赚钱。这些钱包定期收到数百美元的交易，可能来自付费客户。创建deepfakes的论坛用户推荐接受通过主流处理器进行支付的基于网络的工具，包括PayPal Holdings Inc.、Mastercard Inc.和Visa Inc. ——这也是活动人士寻求遏制deepfakes流传的另一个潜在压力点。

万事达卡发言人塞思·艾森表示，公司的标准不允许非自愿活动，包括这种深度伪造内容。来自贝宝和Visa的发言人没有提供评论。

直到八月中旬，会员平台Patreon支持其中一个最大的裸体化工具的付款，该工具每月从Patreon订阅者那里获得超过12500美元。在彭博社要求评论后，Patreon暂停了该账户。

Patreon发言人劳伦特·克伦肖表示，公司对展示非自愿亲密图像的页面“零容忍”，也对鼓励他人创建非自愿亲密图像的页面“零容忍”。克伦肖补充说，随着人工智能继续扰乱创作者经济的许多领域，公司正在审查其政策。

卡里·戈德堡是一位专门处理涉及非自愿分享性材料的案件的律师，她表示，最终决定深度伪造色情作品对受害者的影响的是科技平台。

“随着技术渗透到我们生活的方方面面，我们同时使得当同样的技术伤害我们时，更难追究任何人的责任，”戈德堡说。