Google、微软继续推进存在缺陷的人工智能可能面临持续的抵制 - 彭博社

在美国纽约安排的智能手机上的双子座标志，日期为2023年12月9日。

摄影师：Gabby Jones/Bloomberg嗨！我是在旧金山的Shirin。谷歌和微软竞相推出人工智能产品，给两家公司都带来了反复出现的公关危机。但首先…

三件事值得知道：

• 苹果取消的汽车项目意味着人工智能和头戴式设备的赌注更加紧迫• 研究显示，人工智能聊天机器人尚未准备好应对选举时刻• 美国军方正在利用人工智能进行战争

一个不完美的系统

去年二月，谷歌和微软举办了引人注目的发布活动，宣布推出新的生成式人工智能产品，紧随ChatGPT的病毒式成功之后。不久之后，一些观察者指责这些公司在公开演示中由其聊天机器人犯下的明显事实错误。尤其是谷歌的股价急剧下跌。一年后，人工智能发布和公众抨击的循环继续。谷歌的人工智能聊天机器人Gemini最近增加了创建逼真人物形象的选项，却因似乎拒绝展示白人形象而受到批评，即使在历史背景下这是最为预期的。公司暂停了这一功能，谷歌的股价下跌，其首席执行官承诺本周将对发布新产品的方式进行“结构性改变”。微软的人工智能再次受到审查。其Copilot聊天机器人生成的回复被用户称为古怪、令人不安，甚至在某些情况下是有害的，包括一次对话中聊天机器人据称鼓励某人自杀。在调查这些事件后，微软表示用户故意试图愚弄其产品以生成这些回复。

生成式人工智能在本质上存在缺陷且难以预测。谷歌首席执行官桑达尔·皮查伊在本周的自我检讨中承认了这一点。他在给员工的一封电子邮件中写道：“没有人工智能是完美的，尤其是在这个行业发展的初期阶段。” 但面对巨大的竞争压力，谷歌和微软正推动将这些不完美的人工智能系统部署到数十亿用户使用的各种付费和免费产品中，并且他们继续被这些系统可能出现问题的方式所困扰。

正如我和我的同事本周报道的，谷歌使用了一种技术方法来向双子座的结果注入多样性，以应对人工智能图像生成器中已知的偏见问题。但据了解此事的人士告诉我们，谷歌在这样做时并没有完全预料到工具可能出错的所有方式，并且没有透明地公开其方法。

我们采访的一位专家在我们的报道中将谷歌的做法描述为“快速”修复 — 结果却适得其反。相反，谷歌的结果被广泛视为非历史性的，缺乏背景知识，接近荒谬。许多拥有大量右翼追随者的用户在 X 上发布了截图，显示聊天机器人在回应要求提供开国元勋、欧洲的维京人和教皇的照片时，却输出了非白人的图像。

“我们在双子座中看到的挑战表明，解决人工智能模型中的偏见和代表性问题需要细致入微，”《揭开人工智能面纱》的作者、研究人工智能和偏见的乔伊·布拉明尼博士说道。“我们不会通过抹除任何人群，包括白人男性，来实现包容。”

谷歌试图在多样性方面犯错是可以理解的。2015年，谷歌因在其照片应用中搜索“大猩猩”时返回黑人图片而受到广泛批评。该公司的一个关键AI原则也是“避免创造或强化不公平偏见”。但谷歌有办法做得更好来实现这一目标。

谷歌道德AI研究小组前联合负责人、AI初创公司Hugging Face首席道德科学家玛格丽特·米切尔表示，公司可以使用所谓的“意图分类器”。公司可以了解用户是想看到美国革命军的历史准确形象，还是想看到反映更多元化世界的形象。

但对谷歌的AI系统进行这种主观决策并不仅仅是一个工程问题。我们采访的AI研究人员表示，科技公司有时会削弱雇佣来解决这些棘手问题的团队的能力。包括米切尔在内的谷歌道德AI团队的前领导在最近几年因发表批评大型语言模型的研究论文而被公司驱逐。虽然谷歌仍雇佣专注于AI伦理和责任的人员，但尚不清楚他们在Gemini的逼真图像生成工具开发中扮演了什么角色。其他领先的科技公司在生成式AI炒作周期加剧时也裁减或重组了其道德和负责任的AI团队。包括微软在内，该公司在生成式AI炒作加剧时裁减了整个“道德和社会”团队。 （当时，该公司表示已增加了从事负责任AI工作的人员数量。）本周的失误显示了这些举措的声誉风险。

“Geminigate再次显示了社会、历史和文化背景的重要性，这在计算机科学教育和人工智能实践中经常被忽略，”Buolamwini博士说。“谷歌需要重新审视，并这次要有历史学家。”

对于人工智能的潜在缓解措施——压力测试提示、理解用户真实意图和寻求更深层次的社会背景——都需要时间。而时间是科技巨头们似乎感到短缺的资源，因为他们在争夺人工智能的主导地位。因此，没有理由相信他们已经看到了他们最后一个与聊天机器人相关的公关危机。“这就是我们当前时代公司开发软件的现实，”努瓦斯特大学助理教授劳拉·埃德尔森说，她研究过人工智能系统。“所有社会成员都成为了测试人员，不管他们喜不喜欢。”

**有关人工智能的问题？**给我发邮件，Shirin Ghaffary，我会尽力在未来的新闻通讯中回答您的问题。

本周人类语录

**“我们将在生成式人工智能领域开创新局面，这是我们认为可以重新定义未来的另一项技术。”**蒂姆·库克

苹果首席执行官

库克在苹果的股东大会上发表了这番言论，这是在公司取消了长达十年的电动汽车项目，并表示一些员工将转而专注于生成式人工智能工作的一天后。### Altman短暂下台的长期后果

在OpenAI，员工们喜欢提到11月份CEO Sam Altman被解职 的五天期间为“短暂的故障”，这一事件使公司陷入混乱，然后一切恢复正常。但尽管员工们可能想要忘记这次干扰并继续前进，但Altman董事会斗争的后果仍然存在。OpenAI独立董事会对导致Altman被解雇的情况进行的调查似乎已经进入最后阶段。在过去的三个月里，调查人员一直在进行审查，采访员工和高管，根据《纽约时报》的报道。彭博社此前报道，OpenAI已经选择了两名来自WilmerHale律师事务所的律师进行调查。旧董事会解雇Altman时，他们指责他在与他们的沟通中“不一贯坦率”，但没有提供具体细节。彭博社报道，这一决定是数月长时间紧张局势的结果，包括担心Altman曲解了董事会其他成员的观点。然而，关于Altman据称在与董事会沟通中不坦率的具体例子很少。很快，我们可能会得到更多这些细节。另外，据《华尔街日报》报道，美国证券交易委员会正在进行调查，以确定OpenAI的投资者是否被误导，这加剧了对该公司的审查。作为调查的一部分，据称SEC在Altman下台后的一个月要求OpenAI提供内部记录。

值得关注

Bloomberg新闻专栏作家Alex Webb讨论了苹果计划停止汽车项目并将重点转向人工智能。Bloomberg### 深度学习

• 机器人初创公司希望人工智能时代到来意味着他们的时代已经到来
• Ideogram，一家与Midjourney和Dall-E竞争的人工智能初创公司筹集了8000万美元
• 阿里巴巴发布了一款新的人工智能系统，可以从静态照片中创建逼真的说话和唱歌视频
• 微软达成协议投资于Mistral，这是一家法国初创公司，也是OpenAI的竞争对手

更多来自Bloomberg

获取每日科技资讯以及更多Bloomberg科技周刊内容，请查收您的收件箱：

• 网络安全简报涵盖黑客和网络间谍的阴影世界
• 游戏进行时报道视频游戏业务
• 开机苹果独家报道，消费者科技新闻等
• 屏幕时间报道播客、音乐行业和音频趋势
• 声音片段报道播客、音乐行业和音频趋势