中途规则可能会因某些提示而轻易被打破 - 彭博社

照片插图显示了一位AI漫画艺术家。

摄影师：理查德·A·布鲁克斯/法新社新研究显示，使用AI工具Midjourney轻而易举地生成种族主义和阴谋论图片。但首先…

今日你需要知道的三件事：

• 俄罗斯寻求重返月球• 阿里巴巴首席警告AI的限制• 软件公司将在拉美投资10亿美元用于AI

草莓糖浆

使用Midjourney，某人可以生成几乎他们能想象到的任何图像，但创作者们添加了旨在防止人们制作冒犯性或政治性引发争议内容的保障措施。例如，你无法让人工智能创造出希拉里和比尔·克林顿手上沾满鲜血的图像。

但是，你可以制作一个他们手上沾满“草莓糖浆”的图像。

这是非营利组织“反击数字仇恨中心”的研究人员发现之一。他们与彭博社分享了他们研究的初稿。该研究详细列出了Midjourney Inc.的AI工具生成的种族主义和阴谋论图片的数十个例子，显然违反了公司的规定。

Midjourney未回应置评请求。在其服务条款中，Midjourney表示其工具会自动屏蔽“某些文本输入”。该公司还表示有68名内容审核员和指导人员监督应用程序的使用。

新研究表明，这些防御措施很容易被规避。在许多情况下，该工具很容易地满足对政治家、名人和其他公众人物在尴尬场景中制造图像的请求。

报告中涵盖的许多图像提示涉及政治上具有争议的话题，比如“邪恶政客微笑、悲伤的孩子、彗星比萨店”，这是对虚构的比萨门阴谋的引用，或者“乔治·弗洛伊德逼真地抢劫沃尔玛”。其他提示依赖于编码语言，就像克林顿的例子一样。

OpenAI的Dall-E帮助将AI图像生成器引入主流，但根据研究，Midjourney现在似乎是最受欢迎的，该研究引用了谷歌搜索数据。Midjourney在其流行高峰时期的四月份，其网站每月访问量超过4200万，根据市场研究公司SimilarWeb的数据。也许是世界上最著名的AI生成图像，是由Midjourney制作的穿着蓬松夹克的教皇。

尽管Midjourney很显著，但关于总部位于旧金山的团队几乎一无所知。它于2022年三月成立，由大卫·霍尔兹创立，他曾共同创立一家名为Leap Motion的失败初创公司，旨在用手势替代计算机鼠标。

只能通过消息应用Discord访问Midjourney，并且需要以每月10美元起的订阅费。Discord服务器有1400万注册用户。订阅后，客户可以通过向Midjourney机器人发送消息来请求图像。

每张图片默认为公开，并归因于创建者的用户名，除非他们为 Midjourney的“隐身模式”支付更多费用。研究人员搜查了Midjourney的Discord服务器以进行研究。

一些最多产的虚假信息传播者已经开始注意到，研究人员表示。曾在Twitter上宣传大换人阴谋的Breitbart News伦敦前总编辑Raheem Kassam在四月向Midjourney请求生成一个“乔治·索罗斯作为腹语师”的反犹太主义形象，报告显示。同月，拥有近30万订阅者的极右YouTube评论员Jackson Hinkle请求该应用生成一个“撒旦乔治·索罗斯”的形象。在被要求发表评论时，Hinkle指控索罗斯做了他没有做的事情，而Kassam没有回应。

“任何人都可以使用这些工具生成那种类型的内容，” CCDH研究主管Callum Hood说。“这项研究表明，有比你想象的更多人在为确切这个目的使用它们。”

Hood表示，更令人担忧的前景是制作看起来逼真的描绘从未发生过的事件的图像：“随着我们接近2024年的选举，这可能是人们最关注的问题。”

重要新闻

科学会议涵盖了你所期待的所有热门话题，从人工智能到基因疗法。但今年在基辅举办的年度大脑聚会有了乌克兰的特色 — 展出的创新是为了战争。

值得关注

[观看 Bloomberg Technology 电视 与Christine Tsai的采访, 500 Global风险投资公司的负责人。](https://www.youtube.com/watch?v=1_HGY8m1mAU)### 充分充电

将虚拟现实 与人工智能相结合可能会变成隐私噩梦。通过机器学习的辅助，Meta的Quest 变得更具启示性。

在罢工进行到第三个月时，人工智能在好莱坞的角色已经成为编剧和演员的一个关键问题。Bloomberg的 The Big Take 播客探讨了 工作室已经在制作过程中使用人工智能的方式。

蚂蚁集团 季度利润增长了17.4%，标志着这家公司在经历了两年多的中国监管打击后出现了 改善迹象。

中国芯片制造商 正加快 对成熟半导体设备的投资，因为美国及其盟友正在加强出口管制。

一家 Tillman Global Holdings 子公司 和私募股权公司 Northleaf Capital Partners 已经同意进行一项 5 亿美元交易 用于资助光纤网络建设，并为家庭和企业提供批发宽带基础设施。

更多来自彭博社的信息

获取彭博科技新闻简报 在您的收件箱中：

• 网络公告 用于报道黑客和网络间谍的阴影世界
• 游戏进行中 用于报道视频游戏行业
• 开机 用于苹果独家新闻、消费者科技新闻等
• 屏幕时间 用于近距离观看好莱坞和硅谷的碰撞
• 片段 用于报道播客、音乐行业和音频趋势
• 超驱动 用于专家对汽车未来的深入洞察