Lensa AI头像面临来自妇女和有色人种的抨击-华尔街日报

克里斯塔尔·拉斯特（Christal Luster）受到Lensa应用程序收到的一些人工智能肖像的启发，对其他肖像感到不安。照片： 左至右：克里斯塔尔·拉斯特（Christal Luster）提供，照片由詹·斯坦科（Jen Stanko）拍摄上周，在社交媒体上到处都是艺术肖像后，芝加哥的女演员克里斯塔尔·拉斯特（Christal Luster）注册了一个名为Lensa的照片编辑应用程序的免费试用账户。她上传了10张自己的头像，并支付了5.99美元，以获取基于她输入的信息生成的100张新图像，这是由一款人工智能工具在不到一个小时内生成的。

拉斯特女士表示，这些图像让她看到了自己可以扮演的角色类型。“其中有一张让我觉得，‘哦，我完全可以看到自己出演《布里奇顿庄园》。我可以学着说英国口音。我可以出演历史片，”她说。她还表示，其他图像让她看起来像一个超级英雄：“我可以出演下一部《黑豹》。”她在TikTok上的视频中分享了一些肖像，她在那里有超过48万名关注者。

当她提交了另外15张照片，这次包括全身照时，应用程序返回的几张图像让她感到不安。它们展示了畸形的肢体和手部；幼稚的特征（她说“有点恶心”）；她脸部的瘦削版本；以及更浅的皮肤和眼睛颜色。

“我大部分时间都在努力接受自己棕色眼睛的美丽，生活在一个美化蓝色和绿色眼睛的社会中，”拉斯特女士说。

尽管Lensa是一款四年历史的应用程序，但由于其所谓的魔法头像功能在本月引起了互联网的轰动，它迅速登上了App Store的榜首。根据其母公司Prisma Labs Inc.的说法，自11月推出新功能以来，已有超过1700万人下载了Lensa。

Lensa的AI工具依赖于神经网络，这是一系列模仿人类大脑的算法。它经过训练，使用了大量从互联网上抓取的图像和文本数据库，因此对模式敏感，可以模仿创意风格。当用户向应用程序提供他们的照片和性别时，它会基于这些输入创建艺术作品。这些艺术品包括“仙女公主”、“半机械人”、“动漫”和“宇航员”等标签。

虽然许多人将照片交换为可爱的自拍照和有趣的表情包，但也有人指出这些图像的缺点。用户们谈到他们收到的肖像展示了夸张的身体特征，通常沿着性别线，宣扬了不切实际的美丽标准。

太平洋西北地区的科技高管Sarah White表示，她支付了三批图像并共收到350张。每次，她提交了不同的照片——有些是全身照，一批只显示她的脸部——她试图弄清楚为什么会收到高度性感化的图片。

“有很多是完全赤裸的，”她说，尽管她只上传了自己完全穿着衣服的照片。她说，大多数照片夸大了特征，比如放大胸部或收紧腰部——其他女性在网上提出的抱怨。“可能有一百张这样的照片我会很喜欢——如果我从肩膀以下看起来合适的话，”她补充说。

总部位于加利福尼亚州圣尼维尔，总部位于塞浦路斯的Prisma Labs的发言人拒绝就特定用户的经历发表评论。“如果有人在应用程序上的个人体验与预期不符，我们深表歉意，”发言人说。“毫无疑问，最终结果高度取决于输入的质量。”该公司表示，他们正在采取措施解决有关明确内容的担忧。

Aylin Caliskan，华盛顿大学助理教授，研究人工智能、偏见和伦理，使用代词they和she，表示他们对人们收到这样的图片并不感到惊讶。Caliskan博士表示，研究发现在线图像数据库、语言和视觉模型中存在与性别和种族有关的偏见，这些模型正在推动这些工具。

“性别化在视觉领域是一个特殊问题，因为它与任何不是白人男性或男性的人有关，”他们说，并补充说，如果人工智能是基于这些图像进行训练的，那么它可能会“持续表现通常占主导地位的群体的默认表征。”

在最近几周提出的问题和关注的FAQ中，Prisma Labs表示其工具的基础模型是“基于未经过滤的互联网内容进行训练的。”“因此，它反映了人类在生成图像时融入其中的偏见。创作者承认了社会偏见的可能性。我们也是如此，”Prisma Labs表示，指出该功能不适用于未成年人。Prisma Labs的联合创始人兼首席执行官Andrey Usoltsev上周告诉《华尔街日报》，该公司或其人工智能模型Stability AI的创作者“无法有意地应用任何表征偏见。”

安娜·霍恩（Anna Horn）表示，该应用的结果并不总是与她的肤色匹配。左侧的头像更像她本人。照片： 安娜·霍恩提供安娜·霍恩是英格兰的一名博士生，她认为在肖像中捕捉到她的黑人身份很重要。“当我看到这些图片时，我想，‘真的吗？我为这个付费了吗？’”她说。

“很多图片看起来像是白人女性，”霍恩女士说。“我唯一能看出来可能是从我的图片中捕捉到的是白人女性有非常丰满的嘴唇…但是在很多图片中肤色完全不对。”

Lensa允许人们自我识别为“男性”、“女性”或“其他”。尽管许多人批评这些头像如何强调性别规范，但也有人为它们增强了自我感觉而欢呼。

伦敦艺术家杰克·埃尔韦斯（Jake Elwes）表示：“实际上，这让一些跨性别男性和跨性别女性感到一种跨性别的喜悦。”他的作品探讨了通过人工智能探索变装表演和性别不符的性别认同，并使用他们和他的代词。“这让他们更男性化或更女性化，因为他们把性别认同放在了第一位。”

“当然，同时，所有这些技术都存在问题。我认为最大的问题是它是一个试图涵盖一切的标准化模型，”他们补充道。

澳大利亚皇家墨尔本理工大学新闻学讲师蒂托·安比奥（Tito Ambyo）表示，他对这个工具的结果并不是很满意。

“与我看到其他人发布的内容相比，它并不像我想象的那么好，”他说，指出在描绘手臂和手部方面与人脸相比存在困难。

凯文·贝瑟恩（Kevin Bethune）是加州雷东多海滩一家战略和工业设计智库的首席创意官，他对这个工具的“可怕”能力感到惊叹，能够“捕捉一些定义我的异常”。

依赖AI生成内容的工具，如Lensa和Dall-E，让人着迷，同时引发了关于隐私、伦理、版权和公平使用的讨论。

Lensa工具背后的系统因未对帮助训练它的艺术家进行补偿而受到批评。批评了这一点。Prisma Labs表示，其工具创建的图像“不是任何特定艺术家作品的复制品”。

“将这些工具融入我们对整体艺术创作的理解中可能需要一段时间，这种讨论将随着技术的发展而不断演变，”哈佛法学院讲师、伯克曼-克莱因互联网与社会中心网络法诊所助理主任杰西卡·菲尔德（Jessica Fjeld）说。

请写信给萨拉·阿什利·奥布莱恩，邮箱：[email protected]