AI的最大危险？使用它的人类-彭博社

Tyler Cowen

它将变得更加庞大。

摄影师：SeongJoon Cho/Bloomberg

当涉及人工智能时，我是一个乐观主义者。公平地说，这可能有点轻描淡写：在过去的一年半里，我一直在辩称人工智能将改善教育，提高生产率，丰富互联网，使市场更稳定，使土地更有价值，加快科学进步的步伐，增加社会信任。

我仍然保持乐观。尽管如此，我对人工智能有一些担忧——或者更准确地说，我担心我们将如何应对它。如果我可以再次放纵一下我对轻描淡写的倾向，有一件大事：人工智能将颠覆现有的世界秩序，而我们对此准备得并不是很充分。

人工智能将是一个非常动态的变革因素，因为人类将比以往更多地接触到（机器）智能。这种变化反过来将叠加在一些影响数十亿人生活的非常静态的制度上。至少在一段时间内，人工智能将在地球上几乎每一种关系中引入一种混乱和不确定性的因素，从医生和患者之间的关系到国家之间的关系。

随着人工智能变得更加普及，对它的担忧也在增加

去年，美国人开始更担心人工智能在他们日常生活中的增加使用

来源：皮尤研究中心

举个近在咫尺的例子：大学的课程设置相对固定，很大程度上由教职员控制。按目前的情况，教职员没有强烈的动力将人工智能融入他们的课程中，无论是线下还是线上。这需要大量工作，但收益并不多。

因此，高等教育可能会落后。亚利桑那州立大学与Open AI最近宣布的联盟是令人鼓舞的，但它是例外，却证明了规律。ASU以其充满活力的领导和愿意接受变革而闻名，其他学校不太可能很快效仿。

人工智能不一定会使高等教育变得更糟。但在未来的十年里，高等教育可能会因为跟不上人工智能的步伐而失去地位。一些优秀的学生将会辍学或完全绕过大学。许多教职员将被要求将人工智能方法纳入他们的日常工作中，但他们将不知道如何做。学生和教职员的士气将下降，与此同时，那些无法保持领先地位的大学可能会发现筹集资金更加困难。总之，许多最优秀的人才将决定离开美国的高等教育体系。

这种趋势几乎不是世界末日的。然而，它显示了许多良好的机构可能变得更糟而不是更好，而且时间很长。

或者考虑美国的医疗保健系统。患者可能越来越多地寻求人工智能进行诊断，就像他们现在使用谷歌一样，但结果更好。他们会遵循人工智能的方案，还是医生的建议？当然，最终，医生和医院将使用人工智能模型，因此人类和技术因素将同步。但会有一个中间时期的混乱，许多医生不明白他们的许多患者在做什么。很多人可能决定彻底远离他们的医生，无论是好是坏。

在工作场所，特别是官僚化的工作场所，工人将越来越多地“自由职业”并使用人工智能来替他们完成工作。这不一定是坏事——事实上，随着时间的推移，它将提高生产率——但在短期内会造成混乱，因为许多经理不知道他们得到了什么或者它来自何处。许多公司将调整为更有组织的工作流程，更多地使用人工智能，但许多其他公司则不会。1

更大的主题正在变得明显：人工智能将在社会中彻底颠覆权力关系。

例如，人工智能可能严重限制所谓的“wordcel”类的地位和收入。它将取代许多处理文字和符号的工作，或者使它们的收入较少，或者只是使持有这些工作的人影响力较小。五年后，写作技能不会像现在这样有价值，因为人工智能可以提高几乎任何文本的质量。会说两种语言（或三种或四种语言）也将变得不那么有用，这也一直是高度受教育地位的标志。即使人工智能无法比人类作者写得更好的书，读者可能更愿意花时间与人工智能交谈而不是阅读。

值得停下来注意的是，这种发展将是多么深远和前所未有。几个世纪以来，西方世界一直更看重我所说的“思想人才”——那些擅长开发、表达和实践新思维方式的人。科学革命和工业革命极大地增加了思想人才的影响力和影响范围。

人工智能可能会扭转这一趋势。不难想象，在不到20年的时间里，一个技艺娴熟的木工可能会被视为比口齿伶俐的律师有更好的前景，无论是职业上还是其他方面。

很难预测思想人才将如何应对这种地位下降，但这种下降可能并不美好，尤其是在 wordcel 社区中，他们已经倾向于怀恨在心。他们会不会发起一个现代版的卢德运动，试图限制人工智能的运作，无论是通过破坏还是法律的力量？

在一个分散的世界中，有许多国家存在，这样的努力注定会失败，因为人工智能总是可以从某个地方获取。但它们可能会延缓人工智能的必然胜利，使 wordcel 的衰落变得更加艰难。当衰落来临时，他们中的许多人可能会对他们的精英产生更大的幻灭感，从而产生相应的政治后果。

这说明了另一个需要牢记的一般原则：即使对社会的某些部分或整个社会都产生了净积极影响的变化，也很可能会带来重大成本和难以应对的次生后果。人工智能也不例外。

对人工智能的一个更好的类比是印刷术。约翰内斯·古腾堡于15世纪中期在德国发明了印刷术，但它对欧洲的影响最大的是在16世纪和17世纪，当时纸张和出版变得更加廉价。印刷术帮助诞生了英格兰的科学革命，后来又帮助诞生了工业革命。它使民主和几乎普遍的识字成为可能。它让每个人有机会阅读世界上的伟大著作。

与此同时，印刷术改变了许多地位关系。例如，随着更多的人阅读圣经，新教徒的数量增加，而天主教徒的数量减少。这导致了社会不稳定和有时暴力冲突，正如反映在持续数个世纪的欧洲宗教战争中的情况。

现在问问自己：如果你可以回到过去，按下印刷术的“暂停”按钮，就像一些人现在建议我们对人工智能做的那样，你会吗？至少对我来说，答案很容易：不会。

600年后仍然强大。摄影师：Horacio Villalobos/Corbis News然而，战争历史引发了我对人工智能的最大恐惧：它可能成为新的军备竞赛的对象。美国及其盟友目前在人工智能的发展和使用方面处于领先地位，包括其军事用途。无论你可能认为存在的问题是什么AI带来的，真正的选择是你想要美国还是中国（或俄罗斯？）的系统制造这些问题。

人工智能已经在军事行动中发挥着关键作用，无论是无人机战争还是乌克兰利用人工智能在战场上摧毁俄罗斯军事装备。它的重要性将会不断增加，随着时间的推移，它将在网络攻击（进攻和防御）、追踪敌人武器、识别来袭攻击、导弹防御以及一系列其他功能中扮演更重要的角色，包括设计新的武器系统。

这样的军备竞赛令人恐惧。但更大、更令人悲哀的事实是，历史就是一系列这样的军备竞赛，从马的使用开始。这就是现实，就像将军备竞赛归咎于人工智能一样毫无意义。无论好坏，至少在世界政府出现之前，重要的新技术都将成为竞争的对象。

这是一个有意义的问题，即新的人工智能军备竞赛是否会比以往的军备竞赛（如核军备竞赛）产生更好或更糟糕的结果。公平的答案是我们不知道。然而，可以说的是，美国拥有最先进的技术，这些技术正在被一些最优秀的公司部署，这些公司拥有一些最优秀的人才。更一般地说，能够吸引优质移民的国家似乎在人工智能发展方面具有很大优势。

美国需要从台湾和韩国等地获得许多必要的高质量芯片并不理想，这两个地方都离中国和朝鲜很近。这是对即将到来的人工智能驱动世界的一个大担忧，尽管令人振奋的是，美国两党的政策制定者都非常意识到这一风险。

如果我让人工智能总结我对人工智能的担忧——我相信它会做得很好，但要明确的是这都是我自己的工作！——它可能会听起来像这样：当动态技术与静态制度相互作用时，冲突是不可避免的，人工智能会对世界阶层造成社会动荡，更有可能引发一场更高风险的军备竞赛。

最后这个问题是最大的问题，但也是基于国家体系的世界秩序不可避免的结果。这是西方民主国家及其盟友必须管理和赢得的竞赛。这一点不论涉及的是什么新技术：今天是人工智能，但未来的军备竞赛可能涉及太阳能动力太空武器、更快的导弹和核武器，或者一些尚未被发明的在地球及其以外造成灾难的方式。是的，美国可能会在其中一些竞赛中失败，这使得它更加重要地赢得这场竞赛，以便利用人工智能技术来抵消其在其他方面的不足。

当你把所有这些因素加在一起时，我非常确定我担心是正确的。但担心本来就是游戏的名字。人工智能的承诺在于它潜在的能够减轻我们许多的担忧。

我是印刷术的忠实粉丝。尽管如此，我意识到我们的祖先本可以更好地处理它的后果。人工智能的崛起给了我们另一个机会来做对。我们对任何新技术的反应和任何新技术所做的事情一样重要。如果这让我听起来像一个乐观主义者，那么——罪有应得。

在彭博观点的其他地方：

想要更多彭博观点吗？ 订阅 我们的新闻简报。