AI末日现在？只存在于我们狂热的梦想中 - 彭博社

卢克·杰拉姆（Luke Jerram）的雕塑《火星：战争与和平》于2023年在圣约翰洗者教堂展出。

摄影师：Anadolu/Anadolu“我的意思是，有时你会感受到这种晚期文明的氛围，” 特斯拉首席执行官埃隆·马斯克（Elon Musk）在最近的一次活动中说道，他的作品《塞伯坦卡车》是一件荒诞主义汽车艺术品。“启示可能随时降临。而在特斯拉，我们拥有最先进的启示技术。”

现在有很多关于世界末日的讨论。甚至在新冠疫情爆发之前，就有关于硅谷亿万富翁在新西兰购买掩体的报道。但今年我听到和看到的这类讨论越来越多，尤其是与人工智能联系在一起。

我觉得这更多的是令人着迷，而不是令人不安，因为我把末世论的痴迷视为社会现象，而不是对我们前进方向的理性分析。但是，当这种思维被政治机会主义者利用时，这种想法可能是危险的。至少，这是对我们面临的问题的一种浪费性的分散注意力。我们真正应该关心的问题是，为什么世界末日的预言家有时会吸引大量追随者。了解这一点可以帮助我们避免他们可能引领我们走向的道路。

今年的大末日主题是来自快速发展的人工智能技术的 存在风险。2023年，似乎每个人都在尝试使用ChatGPT和其他复杂的大型语言模型，这不仅引发了人们对这些工具可能摧毁工作岗位的担忧，还引发了人们对人工智能如何逐渐趋向自我意识，并有朝一日可能会杀死我们所有人的担忧。

许多风险投资家和工程师都是这项技术的拥趸，他们信奉有效利他主义运动和其他关注人类未来的哲学。他们并非都倾向于世界末日，但其中许多人确实如此：一位著名的有效利他主义者、FTX创始人山姆·班克曼-弗里德曾计划购买密克罗尼西亚的瑙鲁岛，在那里建造一个足够大的掩体，以确保大部分人的生存。这是在加密货币交易公司倒闭和他被判欺诈之前。

AI安全性的争论是导致OpenAI公司首席执行官山姆·奥尔特曼在11月被混乱地撤职和复职的原因。深入挖掘，你会发现一个令人惊讶的派系之争，而在OpenAI的情况下，这归结为两个派别之间的分歧，“加速主义者”和“长期主义者”，根据前EA成员、派系编年史作者埃米尔·托雷斯所说。 派系编年史作者。

加速主义者不认同存在主义威胁。风险投资公司安德森·霍洛维茨的联合创始人、自称加速主义者的马克·安德里森在十月份发表了一篇长篇 科技乐观主义宣言，表示他不相信乌托邦或世界末日。相反，加速主义者将技术视为人类的救世主，安德里森预计我们的后代将居住在星际之间。

长期主义者更担心人工智能可能反过来对付我们。作为以数学驱动的有效利他主义者，他们主要关注的是尽可能积极地影响尽可能多的生命，他们讨厌因为未来数以万计的潜在生命无法实现而导致人类毁灭的想法，因为这将损失巨大的价值。（然而，他们思考中非常奇怪的一个元素是，即使这些未来生命只是由人工智能产生的数字化化身，它们也会有价值。）

而且不仅仅是技术专家受到了末日思想的影响；近年来，我们听到了大量政治修辞倾向于使用末日的语言。唐纳德·特朗普的演讲中充斥着黑暗、邪恶行为者的形象，以及他能够拯救善良人民免受屠杀，并带领他们走向一个新的伟大美国的想法 —— 在实施正义报复之后。在今年的退伍军人纪念日演讲中，他说：“我们向您保证，我们将清除在我们国家的范围内像害虫一样生活的共产主义者、马克思主义者、法西斯主义者和激进左派暴徒。”

这样的愿景具有一种类神学的特质，而且并不新鲜。事实上，这些想法已经存在了数百甚至数千年。

历史学家诺曼·科恩于1957年的开创性著作*《千禧年的追求》*追溯了这些想法的起源到《但以理书》和《启示录》这两本圣经书，并记录了它们在中世纪欧洲的蓬勃发展。在他的著作中，你会看到由弥赛亚隐士领导的强盗团体逐渐演变成社会革命者。它在1530年代达到了顶峰，当时德国明斯特的洗礼派由约翰·雷登领导，他们相信教会是邪恶的，试图创立自己的洗礼仪式，废除私有财产，杀死任何拒绝改信的人 —— 然后等待在末日中得救。

科恩涵盖了许多令人惊奇的团体，其中许多确实非常偏执1。当然，疯狂的想法一直都在出现和消失。问题在于为什么有些想法能走出边缘并吸引更多的追随者，科恩对此进行了深入分析。

从11世纪末开始，贫困人群中的革命运动频繁发生，这是一个动荡的时期，见证了封建农民阶层的解体和早期纺织业和铜业的工业化。城市扩张并吸引了农村民众，他们成为了低技能的城市工人，受经济周期的影响，并脱离了他们历史上的家庭和佃农社区的支持。人口增长和更多的远程商业贸易。贫困人口中出现了迷失和贫困。

农民和工匠进行了各种各样的抗议和起义，其中许多旨在改善人们的生活。但也有一些激进团体希望推翻现存秩序，特别是已建立的教会。屠杀神职人员是相当普遍的做法。一种极端的信条是恢复伊甸园，一个平等的自然状态。这是对一个神话般过去的怀旧。你可以称之为对英国脱离欧洲或美国再次伟大的非常早期的前兆。

我不禁看到我们自己时代的一些相似之处。战后20世纪工业时代的安定生活已经被全球化和技术进步所取代，进入了今天的数字时代。许多人相信曾经可靠的就业和福利，比如国家或企业的福利，已经变得不稳定。许多人也在努力适应文化变革的陌生感。有很多“坏气氛”。

科恩还描述了一场巨大的信息爆炸，削弱了教会的权威，这是中世纪欧洲最大、最重要的机构。圣经和宗教小册子被翻译成口语，使普通人直接接触到解释统治他们生活的真理。流浪传教士和商人帮助传播这些信息，最终印刷术的发明使其迅速传播。

像许多新技术一样，这引发了巨大的进步，同时也传播了各种疯狂的理论、骗局、骗局和黑暗的精神宣传。现代的联系就像警报器一样尖叫。

在《公众的反叛》中，2014年首次出版，但四年后进行了更新并重新发行，如今又重新引起关注，前中央情报局分析师马丁·古里描述了Facebook、Twitter和其他平台如何改变了政治，从而促进了现代民粹主义的崛起。数字技术使信息民主化，并帮助抗议者聚集，甚至在埃及推翻政府，但它也迅速侵蚀了工业时代的机构权威。互联网和社交媒体使每个人都能够实时事实核查、批评和挑战政府和主流媒体的叙事。它还允许奇怪的新哲学、可疑的教派领袖和极端的政治或文化运动被看到、听到和放大。

在经济不确定性和信息过载的困扰下，不难理解为什么有些人会转向关于世界、道德或机制的简化故事，这些故事试图解释他们的生活。或者为什么有些人可能容易受到通过消灭其他群体和想象中的邪恶力量来拯救的神奇承诺的诱惑。或者为什么有些人会被迫于即将到来的厄运之景所吸引。

这些是危险的思维热潮，粗心或冷酷的机会主义者可以将其激化成自我膨胀的邪教或极端的左翼或右翼政治。这种思维也导致我们浪费时间和资源在幻想的问题上。我对有效利他主义或者对类似于天网的人工智能的存在威胁过分关注的问题最大的异议在于，这些成为了不去解决眼前的困难的借口：错误信息、偏见和隐私问题；能源使用和二氧化碳排放的扩大；缺乏基础设施和工作岗位的社区。

在2024年，我们应该鼓励彼此专注于这些即时且可解决的问题。现在没有时间陷入狂热。

现在末日？只有我们自己制造。

更多来自彭博观点专栏作家的文章：

• 为什么你的奖金今年不会匹配你的表现：Paul J. Davies
• 私人信贷不会引发下一场金融危机：Paul J. Davies
• 我们很快就会看到新的联邦防线是否能抵御货币混乱：Paul J. Davies

想要更多彭博观点？ OPIN <GO>****。或者你可以订阅 我们的每日新闻简报**。**