Ilya Sutskever:告诉Sam Altman他被解雇的OpenAI天才-华尔街日报
Robert McMillan
上周五,Ilya Sutskever给他的老板兼董事会成员Sam Altman发了一条短信,问他能否在太平洋时间中午进行视频聊天?
在通话中的是OpenAI董事会的其他成员,但是公司的首席科学家兼联合创始人Sutskever传达了这个消息。Altman被解雇,“新闻很快就会发布。”
这次会议引发了一周末的动荡,OpenAI的员工发起了反抗,最终Sutskever道歉。周一,他在X(前身为Twitter)上写道:“我对参与董事会行动深感遗憾。”
对Sutskever来说,这是激动人心的72小时,也是一个漫长的15年之旅的高潮,他从一个年轻的研究生摸索着鲜为人知的算法,发展成为颠覆了董事会的政变,罢黜了硅谷最杰出人物之一。
OpenAI首席科学家Ilya Sutskever是人工智能领域备受尊敬的技术远见者。图片: jack guezGetty ImagesSutskever 是人工智能领域中备受推崇的技术先驱。在以色列开放大学工作一段时间后,他转到了多伦多大学。起初,他的工作似乎非常实验性。《多伦多大学杂志》2010年的一篇介绍描述了 Sutskever 的软件创建了类似维基百科的荒谬条目,比如“阿克马的阿尔西亚小行星(包括)夏威夷州卡西奥的国家仪式”。 多伦多大学杂志 描述了 Sutskever 的软件创建了类似维基百科的荒谬条目,比如“阿克马的阿尔西亚小行星(包括)夏威夷州卡西奥的国家仪式”。
但是在2012年,他通过与多伦多大学的研究人员合作撰写了一篇论文,展示了“深度学习”算法的非凡能力。这篇论文与 Geoffrey Hinton 和 Alex Krizhevsky 合作撰写,展示了深度学习可以用于解决以前似乎不可想象的模式识别问题。这掀起了一场寻找深度学习新用途的竞赛,一年后,这三位研究人员都加入了谷歌公司。
在那里,Sutskever 参与了公司的最先进人工智能系统 TensorFlow 的工作。
到2016年,Sutskever 成为 OpenAI 的首席科学家,他开始专注于两个想法。首先,人工智能系统可以实现人类水平的思维,也被称为人工通用智能或 AGI。其次,如果这些系统不能以某种方式与人类价值观“对齐”,它们将是危险的。
“他非常聪明,但他最大的成就是在 OpenAI 的工作,希望他没有搞砸,”华盛顿大学的退休教授 Oren Etzioni 研究人工智能。
Sam Altman,OpenAI的被解雇CEO,穿着浅色裤子,公司首席科学家Ilya Sutskever穿着深蓝西装,据熟悉董事会想法的消息人士称,两人在安全性问题上发生了冲突。照片: Jack Guez/AFP/Getty Images现任和前任员工描述了方下巴和专注的Sutskever对待人工智能问题的近乎宗教般的热情。“如果你醒来和入睡时都感受不到通用人工智能,你就不应该在这家公司工作,”他在去年年底的一次全体员工大会上告诉员工。熟悉此事的人士称,Sutskever告诉员工,他担心最终通用人工智能系统会像人类目前对待动物一样对待人类。
在今年早些时候的播客采访中,目前在OpenAI负责安全工作的德克萨斯大学奥斯汀分校的计算机科学家Scott Aaronson描述了他与Sutskever每周的通话。“我会告诉他我的进展……他会说,‘那很棒,Scott,你应该继续努力。但我们真正想知道的是如何形式化AI对人类的爱意是什么?’”
近年来,Sutskever对人工智能安全性越来越担忧。在OpenAI,他领导了公司的超对齐团队,该团队利用公司20%的计算能力来确保其构建的人工智能系统不会对人类造成伤害。
尽管Altman被撤职的确切原因尚不清楚,熟悉董事会想法的消息人士表示,Sutskever和Altman在安全性问题上发生了冲突。周日晚上,OpenAI的剩下的四名董事会成员在一份备忘录中表示,这并不是Altman被解雇的原因。他们写道:“Sam的行为和在与董事会互动时缺乏透明度,削弱了董事会有效监督公司的能力。”
Sutskever和其他董事会成员选择接替Altman的人,Emmett Shear在九月份表示,他赞成为了安全起见放慢人工智能发展的步伐。“如果我们现在的速度是10,那么暂停就是降到0。我认为我们应该将速度降到1-2,”Shear在X上写道。
周一早上,Sutskever发送了一条X消息撤销了他的行为。“我从未打算伤害OpenAI,”他说。“我热爱我们共同建立的一切,我将尽一切努力团结公司。”
Altman迅速回应了Sutskever的X消息,将其转发给他的两百万粉丝,并附上三个红心。
Deepa Seetharaman为本文做出了贡献。
请写信给Robert McMillan,邮箱为[email protected]
本文发表于2023年11月22日的印刷版上,标题为“告诉Altman他被解雇的OpenAI天才”。