有效利他主义在OpenAI混乱中的作用，解释 - 彭博社

山姆·奥特曼

摄影师：乔尔·萨杰特/法新社/盖蒂图片社山姆·奥特曼被驱逐然后迅速恢复为他共同创立的人工智能初创公司OpenAI的领导者，这是一场长期积聚的世界观冲突的结果，而这一冲突被公司惊人的成功所掩盖。一方面是奥特曼和OpenAI的主要合作伙伴微软公司的商业野心。另一方面是董事会成员们担心人工智能有一天可能会灭绝人类。这种担忧是有效利他主义运动的推动力之一，该运动已成为硅谷和人工智能行业内的一个有影响力的力量。

1. 什么是有效利他主义？

这是一个旨在利用研究和推理解决全球最紧迫问题，造福最多人的运动。它反映了普林斯顿大学的道德哲学家、生物伦理学教授彼得·辛格的观点，他认为人们应该花费资源挽救尽可能多的生命，特别是在一个生命可以以相对较低的成本被挽救的世界某些地区。有效利他主义与功利主义的概念相关，后者强调在世界上最大化净利益的伦理理论。到了2010年代初，有效利他主义已经激发了几家非营利组织，这些组织将捐赠者引向购买非洲撒哈拉以南的疟疾蚊帐、向垂危者捐赠肾脏以及在欠发达国家分发医疗用品等事业。

2. 人工智能是如何参与其中的？

在过去的十年中，有效利他主义已经将其使命扩大到预防未来可能导致人类灭绝的情景，例如核战争和大流行病。还有一个在名单上：人工智能启示录。自21世纪初以来，一些人工智能理论家提出，强大的人工智能的出现可能给人类带来危险甚至末日。这一观念催生了人工智能安全领域，旨在防止建立人工智能的工作产生灾难性后果。人工智能安全被硅谷的知名人物视为重要事业，其中包括信仰有效利他主义的彼得·蒂尔、埃隆·马斯克和加密交易所FTX创始人山姆·班克曼-弗里德，他于11月初被判犯有一起大规模欺诈案。

3. 人工智能引发了什么担忧？

有效利他主义者担心，人工通用智能的力量有一天将超越理性的人类，并导致技术反对人类。他们相信，企业家和开发者今天所做的决定将不可逆地塑造人类的命运，因此该行业必须认识到此刻的重要性并做出明智的选择。这些遥远的原因属于有效利他主义的一个分支，称为“长期主义”，这种信念强调未来人的道德价值以及本代人保护他们利益的义务。“近期主义”描述了影响当今人的事业，例如预防疾病的传播。

4. 这对OpenAI发生了什么影响？

OpenAI成立的使命是“确保人工智能造福全人类”，本应是科技巨头实验室内以利润为驱动力的努力的对抗力量，比如Alphabet Inc.旗下的Google。OpenAI的董事会成员过去和现在都与有效利他主义运动有联系。这家初创公司最初是一个非营利组织，但后来增加了一个营利性子公司，以便筹集所需的大量资金来运营ChatGPT和DALL-E等技术。OpenAI吸引了来自微软的数十亿美元投资，并且截至十月，将其价值定为860亿美元。这导致了OpenAI商业雄心（由Altman和微软推动）与一些董事会成员对推动人工智能发展过快的担忧之间的紧张关系。

参考书架

• 有效利他主义中心解释了这一哲学。
• 《心理学前沿》上的一篇研究论文，有效利他主义与企业家精神的阴暗面。
• 更多关于OpenAI不寻常结构的信息。