Midjourney CEO David Holz能否在2024年阻止大量虚假选举图片的风暴？- 彭博社

Midjourney创始人David Holz在2016年在Leap Motion总部。

摄影师：GLENN CHAPMAN/AFP在互联网上到处都是一大堆特朗普的愚蠢图片。这里是他是一个超级英雄，那里是一个 卡通战士，还有这里是和年轻的迈克尔·乔丹打篮球。这种光泽的外观透露出这些是由人工智能生成的，但不可否认的是潜在的信息：特朗普仍然保持着一种在线文化力量，并且仍然受到奇怪的喜爱。

传递这一信息的是Midjourney，这是一家总部位于旧金山的人工智能初创公司，在其17个月的存在期间没有进行任何营销，没有从风险投资者那里筹集到一分钱，但年收入达2亿美元，并已成为生成非常真实的AI“照片”的最强大工具之一。特朗普被捕和教皇方济各穿着白色羽绒服的假照片让互联网用户感到困惑，并在今年早些时候走红，这些照片是由Midjourney生成的。该公司现在发布了一个可以更加逼真地完成这项工作的新版本。

此前曾坚称不喜欢假照片的Midjourney创始人David Holz发现自己正在引导一种为艺术家创建的工具，同时也被宣传者所利用。这是一种经典人工智能创新者的轨迹，他们无法抵抗让自己的系统更加强大的诱惑，而这是以自己的标准为代价的。（Midjourney没有回应多次要求评论或采访Holz的请求。）

Holz在佛罗里达长大，在那里他童年时期进行了一些先进的科学实验 — 比如在自制的风洞中以160英里/小时的速度发射纸飞机 — 然后在高等教育中兼顾设计和数学的兴趣。他于2008年共同创立了Leap Motion，一家制造了一个类似iPod大小的USB设备，可以用手势控制计算机程序。Holz的想法比他的时代提前了十多年，而他坚持了下来却损害了自己。在2013年拒绝了苹果公司数亿美元的收购要约后，Leap Motion的价值下降了。Holz 最终在2019年以3000万美元的价格将其出售 给了一家英国公司。

不屈不挠，他于2021年创立了Midjourney，最终将其打造成一个独立的研究实验室，旨在“拓展人类的想象力。” 在2022年接受 Forbes 和 The Register 的采访中，Holz描述了Midjourney是一个让人们“创造美好事物”的空间。他基于OpenAI的算法构建了这个工具1，在2022年春夏之际，比OpenAI以DALL-E 2惊艳世界之前几个月，Holz发布了自己的Midjourney早期版本，这是一个可以根据文本提示产生数字艺术的工具。他的客户每月支付大约10-60美元来使用这个工具，在应用程序Discord的公共聊天室中使用它。

它本可以在那里结束，但是霍尔兹拥有了硅谷企业家渴望的金粉：人脉。他招揽了几位著名顾问，包括编程网站Github的CEO Nat Friedman，他今年为初创公司购买了数千个AI芯片。这些被称为GPU的芯片对于在人工智能领域保持领先地位至关重要。在他的人际网络的帮助下，霍尔兹积累了大量的GPU，多达1万个，大约是用来训练ChatGPT的估计数量。这些GPU使Midjourney的模型变得更加智能和更快。

所有这些计算能力转化为了2023年3月发布的Midjourney 5版本中令人瞠目结舌的改进。当用户要求生成逼真的人物图像时，从皮肤纹理到面部特征，一切都更加逼真，同时反射、阴影和光线也更加真实。

12月20日发布的第6版生成的人脸细节更加惊人，皮肤毛孔和纹理使它们几乎无法与真实照片区分开来。Midjourney的用户一直在使用新软件玩耍，通过生成好莱坞演员在虚构的电影剧照中的形象，比如这张列昂纳多·迪卡普里奥扮演列宁的照片：

这张列宁的假照片是在最新版本的Midjourney上生成的，发布在Twitter.com上。来源：Twitter.com霍尔兹似乎自去年采访以来就保持沉默。当时，这位企业家对人们使用Midjourney创建假照片表示深深的不安。他说那是“极其危险的”，“我真的不想成为世界上假照片的来源。”

然而，通过使Midjourney的软件更加强大，霍尔兹为假图像的大量传播奠定了基础。现在可以在几秒钟内生成超逼真的名人和历史人物的“照片”，有些甚至已经登上了谷歌搜索结果的榜首。许多Midjourney用户仍在创作艺术作品，但还有很多人正在创作像下面这张以色列总统本雅明·内塔尼亚胡穿沙特服装的逼真肖像一样的照片，这张照片是由一个Midjourney用户于2023年12月4日创建的。（创作内塔尼亚胡形象的Midjourney用户未回应置评请求。）

2023年12月初在Midjourney上生成的本雅明·内塔尼亚胡的AI生成图像的截图。来源：Midjourney许多人担心AI照片会加剧错误信息，但实际上，很难想象内塔尼亚胡和特朗普的假照片会欺骗大多数人。AI照片看起来仍然有点不真实，而对“深度伪造”的媒体关注已经使每个人更加警惕。

他们的真正影响将更加微妙和难以察觉：大量推广某些观念的假图片将更像是影响观点而不是愚弄人的广告活动。将特朗普置于关键历史时刻的假照片 —— 推倒柏林墙或在越南战争中战斗 —— 这些照片最初是作为X上的一个笑话制作的，但已经出现在MAGA论坛上，在那里人们将其视为灵感。

AI图片也可以成为政治以外的宣传工具。根据非营利组织数字仇恨打击中心8月的一项研究，鼓励饮食失调的在线论坛一直在使用Midjourney和其他类似软件发布超瘦人的图片，以“激励”他们的成员。

Midjourney使用自己的AI软件来阻止潜在有害内容，并且据彭博新闻最近的报道，该公司有大约70名员工监控其输出。但是这些限制相对容易规避。例如，虽然Midjourney不会让你生成比尔和希拉里·克林顿手上沾满鲜血的图片，但它会让你在他们身上放上血红色的草莓糖浆。

Holz似乎意识到了这个问题。早在三月份，他结束了Midjourney的免费试用计划，并提到了“滥用”。但是宣传的影响，就像广告一样，很难追踪。随着越来越多的人使用他的服务 —— 据报道，约有900万用户在他的Midjourney的Discord服务器上 —— 为了支持特朗普、鼓励饮食失调或任何其他文化价值而生成的所有新内容将变得更加难以监管。

Midjourney发布版本6花了八个月的时间，与之前版本发布的速度相比明显较长，之前的版本相隔两到四个月发布一次。Holz可能在努力获取他所需的AI芯片，或者他可能在应对在总统选举前几个月将这样一个有影响力的工具开放给公众所带来的责任。让我们希望是后者。

更多来自Bloomberg Opinion的文章：

• 谷歌无法捕捉所有的AI图像。 你能吗？
• 埃隆·马斯克的AI梦想 正在打转
• OpenAI的Q*之所以令人担忧 是因为另一个原因

想要更多Bloomberg Opinion吗？ OPIN <GO>****。或者你可以订阅 我们的每日新闻简报**。**