《华尔街日报》：AI十字军ChatGPT背后的Sam Altman的矛盾
Berber Jin and Keach Hagey | Photographs by Clara Mokri for The Wall Street Journal
山姆·奥特曼，这位领先于人工智能热潮的37岁初创公司大师，长久以来一直梦想着未来计算机能像人类一样交谈和学习。
他最清晰的童年记忆之一是坐在他在圣路易斯郊区的卧室里，玩着他八岁生日时得到的麦金塔LC II，突然意识到：“总有一天，计算机会学会思考，”他说。
最近几个月，奥特曼先生比任何其他人都更多地推动了这个未来的到来，并将其商业化。他领导的公司OpenAI在11月发布了ChatGPT，这款聊天机器人具有一种惊人的能力，可以生成类似人类的写作，已成为技术史上最具传播力的产品之一。在这个过程中，OpenAI迅速从一个小型非营利组织发展成为一家数十亿美元的公司，在很大程度上得益于推出了一个营利性部门，使其能够从微软公司筹集了130亿美元，根据投资者文件。
这一成功是在进行一场微妙的平衡行动的一部分。奥特曼先生表示，他担心如果人工智能被鲁莽地推向社会会发生什么。八年前，他与人共同创立了OpenAI作为一个研究性非营利组织，认为以利润为主要驱动力开发强大的人工智能模型是独特危险的。
他对利润作为人工智能发展的激励因素非常谨慎，他说，在他建立的企业中没有直接的财务利益，这在硅谷是不同寻常的，成功创业者通常会通过股权致富。
“和大多数人一样，当涉及到财务收益时，我喜欢看分数上升，”他说。“而我只是喜欢根本不让这成为任何因素。”（该公司表示他的薪水“适度”，但拒绝透露具体数额。）Altman先生说，他在一家投资于OpenAI的风险基金中持有一小部分股份，但这“微不足道”。
Altman先生说，他在职业生涯早期通过投资年轻创业公司赚了“比我需要的钱还多”。他拥有三栋房产，包括旧金山俄罗斯山的一座豪宅和纳帕谷的一个周末住宅，雇佣了几十人来管理这些房产以及他的家族投资和非营利机构。
在他最后一次探望去年去世的祖母时，他给她买了杂货，然后承认他已经四五年没有去过杂货店了，她说。
他说，他的目标是建立一个新的世界秩序，让机器释放人们追求更有创造力的工作。在他的愿景中，普遍基本收入——给每个人一笔现金补贴的概念——有助于弥补被人工智能取代的工作。Altman先生甚至认为，人类会如此喜爱人工智能，以至于一个先进的聊天机器人可以代表“你的意志的延伸”。
支持者表示，他的社会主义资本主义使他成为领导OpenAI的理想人选。其他人，包括一些曾为他工作过的人，表示他过于商业化，并且沉浸在硅谷思维中，无法领导已经在重塑商业和社会生活的技术革命。
公司在一月份与微软签署了一项价值100亿美元的协议，允许这家科技巨头拥有该公司营利实体的49%，投资者文件显示。公司的合作伙伴关系，以及Altman先生更积极地商业化其技术的努力，让OpenAI的一些早期领导者感到幻灭，他们认为这些决定违背了最初发展人工智能在股东影响之外的承诺。
OpenAI的批评者之一是埃隆·马斯克，他于2015年共同创立了这家非营利组织，但在2018年因对其控制和方向的争执而分道扬镳。这位特斯拉公司首席执行官在二月份发推文称OpenAI成立为一个开源非营利组织，旨在作为对谷歌的制衡，但现在它已经成为一个闭源、追求最大利润的公司，实际上受微软控制。这不是我当初的意图。”
当被问及他的联合创始人的批评时，Altman先生停顿了一下。“我喜欢埃隆，”他最终回答道。“我会关注他说的话。”
Altman先生表示，他不一定需要成为第一个开发出人工通用智能的人，这是研究人员和科幻作家长期以来想象的一个世界，在那里软件不仅擅长于生成文本或图像等特定任务，而且能够像人类一样理解和学习，甚至更好。他反而表示，OpenAI的最终使命是安全地构建所谓的AGI。
OpenAI为投资者设定了利润上限，超过一定水平的回报（根据投资时间的不同，从投资额的七倍到一百倍不等）将流向非营利性母公司，根据投资者文件。OpenAI和微软还创建了一个联合安全委员会，其中包括Altman先生和微软首席技术官凯文·斯科特，该委员会有权撤销微软和OpenAI产品发布，如果它们被认为太危险。
人工通用智能的可能性使奥尔特曼先生开始考虑一个类似的技术创造了我们的宇宙，这是亿万富翁风险投资家彼得·蒂尔的说法，他是奥尔特曼先生的亲密朋友，也是这家非营利组织的早期捐赠者。他长期以来一直主张人类和机器终将融合。
ChatGPT的发布引发了一系列竞争性人工智能公告。
“他们争相发布新闻稿，”奥尔特曼先生谈到了他的竞争对手。“显然，他们现在落后了。”谷歌宣布正在测试自己的聊天机器人Bard，于二月份向公众开放，并于三月份正式发布。
在其创立宪章中，OpenAI承诺如果另一个项目在它之前接近构建人工通用智能，它将放弃研究努力。该公司表示，目标是避免通过竞争推动危险人工智能系统的建设竞赛，而是优先考虑人类的安全。
OpenAI的总部位于旧金山的米申区，更像是一个富裕的新时代乌托邦，而不是一个试图拯救世界的非营利组织。石质喷泉被嵌入几乎所有阳光普照的房间中的多肉植物和蕨类植物之间。
奥尔特曼先生对他构思的蜿蜒中央楼梯赞不绝口，这样公司的所有400名员工每天都有机会相遇，或者至少在他们被要求亲自工作的周一至周三。办公室包括一个大学风格的自助餐厅，一个自助酒吧和一个图书馆，模仿了他最喜欢的巴黎书店和斯坦福大学最大图书馆顶层的安静学习空间——本德尔室的结合。
奥尔特曼先生在圣路易斯的一个郊区长大，是康妮·吉布斯廷（一名皮肤科医生）和杰瑞·奥尔特曼（曾从事律师等多种工作，五年前去世）的四个孩子中的长子。奥尔特曼先生的家人表示，他的父亲真正的职业是经营廉价住房非营利组织，他花了多年时间试图振兴圣路易斯市中心。
奥尔特曼先生说，他父亲教给他的一课是“你总是要帮助别人——即使你认为自己没有时间，也要想办法。”
吉布斯廷博士说，她的儿子两岁时就会操作家里的录像机，13岁时自己重新安排了从夏令营回家的飞机票。她说，他上三年级时就开始帮助当地公立学校的老师解决电脑问题。在中学时，他转学到了私立约翰·伯勒斯学校。
“老师们喜欢他，因为他非常聪明、勤奋，而且很善于交际，”当时是校长的安迪·艾伯特说道。“他很风趣，性格很大。”
奥尔特曼先生进入斯坦福大学，在一个人工智能实验室进行研究。到了大二，他与人共同创办了Loopt，一个基于地理位置的社交网络服务。它成为Y Combinator的第一批项目之一，这是一个孵化公司如Airbnb公司、Stripe公司和Dropbox公司等的初创企业加速器，奥尔特曼先生因此辍学。
Loopt在2012年以4340万美元的价格出售，或接近包括Sequoia Capital在内的投资者投入的金额。
然后，Altman先生开始了一家风险基金，并结识了强大的盟友，包括Thiel先生和Paul Graham，他们共同创立了Y Combinator，并最终邀请了Altman先生加入。在那里，他帮助公司成为硅谷的权力经纪人。他最初投资了几十家成功公司，包括云软件公司Asana Inc.和留言板网站Reddit Inc.。
在经营Y Combinator期间，Altman先生开始担心像DeepMind这样的大型研究实验室（2014年被Google收购）正在秘密地创造潜在危险的人工智能技术。Musk先生也表达了类似的担忧，担心一个由强大的人工智能机器控制的反乌托邦世界。
Altman先生和Musk先生决定是时候开始他们自己的实验室了。他们都是承诺向非营利组织OpenAI Inc.捐赠10亿美元的团体的一部分。
Musk先生没有回应置评请求。
这家非营利组织在早期经历了曲折，尝试了一些项目，比如教会机器人如何执行诸如解决魔方之类的任务。OpenAI在2017年裁员了一部分小型员工。
OpenAI的研究人员很快得出结论，实现人工通用智能的最有前途的途径在于大型语言模型，或者模仿人类阅读和写作方式的计算机程序。根据Altman先生的说法，这些模型是在大量文本的基础上训练的，需要大量的计算能力，而OpenAI作为一个非营利组织无法提供这样的资金支持。
“我们当时并没有直观地意识到这个项目会有多昂贵，”他说。“现在我们仍然没有。”
那一年，阿尔特曼先生说，他研究了为OpenAI筹集更多资金的选项，比如获得联邦资助和推出一种新的加密货币。“没有人愿意以任何方式资助这个项目，”他说。“那是一个非常艰难的时期。”
OpenAI高管最终重新提出了一个在公司历史上早就有过的不寻常的想法：创建一个营利性部门OpenAI LP，该部门将向非营利性母公司汇报。
领英的联合创始人雷德·霍夫曼当时为OpenAI提供建议，后来担任董事会成员，他表示，这个想法是吸引那些渴望从一些OpenAI技术的商业发布中赚钱的投资者，加快OpenAI的进展。
“你想第一个到达那里，你想制定规范，”他说。“这也是速度在这里是一种道德和伦理的原因。”
熟悉此事的人士表示，这一决定进一步疏远了马斯克先生。他于2018年2月与OpenAI分道扬镳。
曾参加会议的前员工表示，马斯克先生在一次公司全员大会上宣布了他的离职。他们说，马斯克解释说，他认为通过特斯拉有更大的资源可以更有可能创造人工智能。
不久之后，一位OpenAI高管为这位年轻研究员委托制作了一个“混蛋”奖杯，后来在一个枕头上送给了他。“你必须要有点乐趣，”阿尔特曼先生说。“这就是文化的构建材料。”
马斯克的离开标志着一个转折点。同年晚些时候，OpenAI领导告诉员工，阿尔特曼先生将领导公司。他正式成为首席执行官，并帮助在2019年初完成了营利子公司的创建。
OpenAI表示，他们从最初的10亿美元承诺中收到了约1.3亿美元的捐款，但在营利子公司创建后不再需要进一步捐款。马斯克在推特上表示，他向OpenAI捐赠了大约1亿美元。
与此同时，阿尔特曼先生开始寻找投资者。他的机会出现在2018年夏天艾伦公司在爱达荷州太阳谷举办的年度会议上，他在楼梯间偶遇了微软首席执行官萨提亚·纳德拉，并向他推销OpenAI。纳德拉先生表示他很感兴趣。那个冬天的谈话继续进行。
“我记得回到团队后，我说，这是唯一的合作伙伴，”阿尔特曼先生说。“他们了解安全问题，了解人工通用智能。他们有资本，有能力运行计算。”
阿尔特曼先生在谈判过程中与员工分享了合同，举行了全员大会和办公室时间，以消除合作引起的担忧，前员工们说。
一些员工仍然将这笔交易视为一笔浮士德式的交易。
OpenAI的首席安全研究员达里奥·阿莫代和他的副手们担心这笔交易将使微软在充分进行安全测试之前就能够使用强大的OpenAI技术来销售产品，前员工们说。他们认为OpenAI的技术远未准备好进行大规模发布——更不用说与世界上最大的软件公司之一合作了——担心它可能出现故障或被滥用，以一种他们无法预测的方式造成伤害。
阿莫代先生还担心这笔交易将把OpenAI的船只系在一个公司上——微软——这将使OpenAI更难忠于其创始宪章对协助其他项目的承诺，如果它首先达到AGI，前员工们说。
微软最初向OpenAI投资了10亿美元。尽管这笔交易为OpenAI提供了所需的资金，但它带来了一个问题：独家性。OpenAI同意只使用微软的巨型计算机服务器，通过其Azure云服务来训练其人工智能模型，并且将技术巨头赋予独家权利，以授权OpenAI的技术用于未来产品。
“你必须有点跳下悬崖的勇气，希望你能着陆，”纳德拉先生在最近的一次采访中说。“这就是平台转变发生的方式。”
“这笔交易完全背弃了他们获得非营利性地位时所坚守的原则，”纽约大学心理学和神经科学名誉教授、一家机器学习公司的联合创始人加里·马库斯说。
现金加速了OpenAI的进展，使研究人员能够获得改进大型语言模型所需的计算能力，这些模型是在数十亿页公开可用文本上训练的。OpenAI很快开发出了一个更强大的语言模型，称为GPT-3，然后于2020年6月通过称为应用程序接口或API的打包代码向开发人员提供了技术访问权限。
前员工表示，阿尔特曼先生和阿莫代再次就API的发布发生冲突。前员工表示，阿莫代希望更有限、分阶段地发布产品，以帮助减少宣传并让安全团队对更小规模的用户进行更多测试。
Amodei先生几个月后离开了公司，与其他几人一起创立了一个名为Anthropic的竞争对手AI实验室。“他们对如何最好地实现安全的通用人工智能有不同的看法，“Altman先生说。
Anthropic今年从谷歌获得了超过3亿美元的投资，并于三月发布了自己的AI聊天机器人Claude，开发者也可以通过API获得。
在最近的一份投资说明书中，Anthropic表示“致力于大规模商业化”，以实现安全通用人工智能的创建，并且“完全致力于”在九月采取商业化的方式。该公司成立时是一家AI安全和研究公司，并表示可能会从其产品中创造商业价值。
根据投资者文件显示，在最初的交易之后的三年里，微软总共向OpenAI投资了30亿美元。
ChatGPT在11月发布后的五天内就有超过一百万用户注册，这一速度甚至让Altman先生感到惊讶。这是在公司推出 DALL-E 2之后，DALL-E 2可以根据文本提示生成复杂的图像。
到了二月，根据瑞银的分析师，ChatGPT的用户数量已经达到了1亿，这是历史上消费者应用程序达到这一数字的最快速度。
阿尔特曼先生的亲近伙伴赞扬他在平衡OpenAI的优先事项方面的能力。没有人比梯尔先生更擅长在“误入理想主义的斯库拉”和“目光短浅野心的卡吕布迪斯”之间航行。
阿尔特曼先生表示，他推迟了最新版本的模型GPT-4的发布时间，从去年推迟到了三月份，以进行额外的安全测试。用户报告了一些与该模型有关的令人不安的经历，该模型集成到了必应中，软件产生了幻觉——也就是说，它编造了对它不知道的问题的答案。它发出了不祥的警告并进行了威胁。
“做正确的事情是让人们与之互动，探索这些系统，研究它们，学习如何使它们安全，”阿尔特曼先生说。
根据文件显示，微软的最初投资回报后，将获得OpenAI利润的49%，直到利润上限，这一比例高于之前的安排下的21%。非营利性母公司OpenAI Inc.将获得其余部分。
阿尔特曼先生的其他项目包括他共同创立的Worldcoin，该公司旨在向地球上的每个人提供加密货币。
近年来，他几乎将所有的流动资产投入了两家公司。他向Helion Energy投入了3.75亿美元，该公司正在寻求从核聚变中创造无碳能源，并且即将在真正的演示中创造“合法的净增益能源”，阿尔特曼先生说。
他还向Retro投入了1.8亿美元，该公司旨在通过“细胞重编程、受等离子体启发的治疗和自噬”（即重复使用旧的和受损的细胞部分）将人类寿命延长10年。
他指出，从道德上讲，这些问题比人工智能要容易得多。他说：“如果你在做核聚变，一切都是好的。这只会带来好处。”“如果你在做人工智能，它可能非常好，也可能非常可怕。”
Deepa Seetharaman 和 Miles Kruppa 对本文有贡献。
请写信给 Berber Jin，邮箱为 [email protected]，以及 Keach Hagey，邮箱为 [email protected]
本文发表于 2023 年 4 月 1 日的印刷版上，标题为“Sam Altman Builds Our AI Future”。