泰勒·斯威夫特AI图像：深度伪造色情要求公正 - 彭博社

Parmy Olson

Swifties不接受。

摄影师：Patrick Smith/Getty Images 北美新技术的反复故事是意外后果。拿AI驱动的图像生成器来说。它们的创造者声称它们正在增强人类的想象力并使每个人都成为艺术家，但他们往往没有提到它们在帮助创造非法的深度伪造色情作品方面做了多少。大量的。上周末，X不得不关闭对“泰勒·斯威夫特”进行搜索，因为这个曾经被称为Twitter的网站被大量伪造的歌手色情图片淹没，无法将它们全部清除。一张图片单独被查看了4500多万次，然后被删除。斯威夫特的丑闻指向了一个更广泛的问题：网络上大约96%的深度伪造是色情的。但这也可能是在一些真正的解决方案出现之前的最后的转折点。

仅仅在1月份发生了足够多的事情，表明在没有适当监管的情况下，生成式AI的危害开始超过好处。这项技术被用于更多的欺诈行为和银行诈骗，它使谷歌搜索结果变得更糟，并且通过虚假的自动拨号电话欺骗选民，声称是乔·拜登总统。但斯威夫特的袭击显示了生成式AI的毒性影响最隐蔽的地方，它在未经授权的性化图像市场中创造了全新的受害者和施虐者群体。它们指向了生成式AI正在以更安静但同样破坏性的方式破坏妇女的尊严，例如，生成出默认性化的图像，对于有色人种的妇女来说情况更糟。

Deepfakes体现了这个问题，直到Swift出现之前，它一直潜伏在人们的视线之下：过去一年里，一些高中学生使用她们女同学的真实照片制作深度伪造色情作品。在西班牙的一个小镇上，一群男孩使用人工智能工具“脱掉”了20多名年龄在11至17岁之间的女孩在社交媒体上的照片，并在WhatsApp和Telegram上传播。虚假色情作品多年来一直可以通过诸如Photoshop之类的软件制作，但现在任何人都可以迅速轻松地制作，因为有了不同的应用程序，比如可以将一个人的脸换到另一个身体上。

但是，现在更多的人和当局注意到了最新的受害者是《时代》杂志评选的年度人物Swift，她帮助美国国内生产总值增加了0.5个百分点，与苹果公司等流媒体服务公司开战并获胜，并提高了足球比赛的女性收视率。白宫新闻秘书Karine Jean-Pierre周五表示：“我们对虚假图像的传播报告感到震惊。我们将尽力解决这个问题。”

立法者们义愤填膺，而斯威夫特的粉丝们让短语“保护泰勒·斯威夫特”在X上成为热门话题，其中一些人甚至采取了私刑，找出了据称制作了许多非法图片的Twitter用户。据《每日邮报》报道，斯威夫特据说正在考虑对发布了其中一些图片的深度伪造色情网站采取法律行动。《每日邮报》报道。

斯威夫特不会半途而废，所以我们可能会看到不仅仅是一场诉讼。也许她会支持国会已经在推进的一些法案，这些法案着手解决未经授权的深度伪造。一项法案将制作和分享这样的图片定为非法，而另一项提议对肇事者判处五年监禁，并为受害者提供法律救济。

很容易耸耸肩并辩称事情已经无法挽回。这些工具已经泛滥成灾；有些是开源的，而且随着社交媒体网络如Twitter削减了其信任和安全团队，这些图片很可能会迅速传播。当微软首席执行官萨蒂亚·纳德拉最近被问及斯威夫特的深度伪造图片时，他直接陷入了“护栏”的陈词滥调，而没有提出任何具体的政策建议，这可能是因为他的公司正处于当今蓬勃发展的生成式人工智能业务的核心。根据404 Media的报道，至少有一些斯威夫特的相似图片也是在微软的图像生成器上创建的。

有希望找到解决方案。国会正在通过的一些措施是一个开端，尽管长期规则仍在制定中，但当局可以通过对一些最坏的行为者进行惩处来控制目前的局势。威慑是有效的，即使是那些认为自己可以隐藏在网络匿名背后的人也是如此。一个典型的例子是在线黑客组织匿名者，大约十年前，该组织最知名的几名黑客被逮捕并公开，其活动几乎立即停止了。一位Twitter用户已经承认发布了一些最初迅速传播的图片，他在账户设为私密之前说：“哥们，我干了什么……他们可能会因为我发布的泰勒·斯威夫特的帖子而通过新法律”，据《新闻周刊》报道。被逮捕并公开。《新闻周刊》。

在斯威夫特成为受害者之前，许多没有同样影响力的年轻女性正在经历被针对的心理困扰。在看到自己的声誉在网络上被羞辱性地玷污并遭受长期后果之后，她们不得不重新振作。未经授权的深度伪造色情不是笑话——它是一种数字性暴力，威胁着助长更广泛的网络厌女和虐待文化。也许比地球上任何其他女性都更有影响力，斯威夫特有能力帮助制止这种现象。希望她能充分利用这个机会。

更多来自彭博观点：

想要更多彭博观点吗？ OPIN <GO>****。或者您可以订阅我们的每日新闻简报。