不要害怕战争中的人工智能，害怕自主武器-彭博社

真正的家伙们不可爱。

摄影师：Oli Scarff/Getty Images

毫无疑问，人工智能将改变战争，以及几乎所有其他事物。但这种变化是末日式的还是进化式的？为了人类的利益，让我们希望是后者。

技术创新一直在改变战争。自战车、马镫、火药、核武器以及如今的无人机出现以来，情况一直如此，正如乌克兰人和俄罗斯人每天展示的那样。

我最喜欢的例子（因为它很简单）是19世纪的科尼格格拉茨之战，普鲁士人击败了奥地利人，从而确保德国从柏林而不是维也纳统一。普鲁士人主要获胜是因为他们有后装式枪，可以在地面上快速装填，而奥地利人有前装式步枪，他们在站立时装填得更慢。

Bloomberg观点哦，加拿大，你的经济比你想象的要好富人开始比穷人再次生更多的孩子抖音需要在能够获得最高价格时出售英伟达对思科 —— 无论用哪种指标看，都是一个泡沫如果人工智能类似于那种技术，美国或中国，争夺该领域的领导地位，可能希望在短暂的时刻获得军事优势。然而，作为一种军事技术，人工智能看起来不太像后装式枪，更像是电报、互联网甚至是电力。也就是说，它不是一种武器，而是一种将逐渐改变一切，包括战斗的基础设施。

它已经在做那个。美国的卫星和侦察无人机现在捕获了如此多的信息，以至于没有人类的军队能够快速分析所有这些信息，以便及时为乌克兰人提供有关俄罗斯军队行动的有用提示。因此，人工智能承担了这项工作。在这方面，士兵就像使用人工智能指导他们浏览大量X射线数据的医生。

下一步是将人工智能应用于各种机器人中，例如，作为战斗机飞行员的自动僚机。人类仍然会驾驶喷气式飞机，但她将被一群使用传感器和人工智能来发现并——在飞行员的许可下——消灭敌方防空或地面部队的无人机包围。如果它们的命运是如此，这些机器人甚至不会在这个过程中在乎自己是否会毁灭。通过这种方式，人工智能可以拯救生命，节约成本，并让人类集中精力处理任务的更大背景。

关键细节是这些机器人在杀死之前仍然必须寻求人类授权。我认为我们永远不应该相信算法具有足够的背景意识来判断，比如说，穿便衣的人很可能是平民还是战斗人员——即使人类在区分这两者方面也是臭名昭著的糟糕。我们也不应该让人工智能评估执行任务所需的人员伤亡是否与战略目标相称。

因此，存在的问题实际上并不是关于人工智能本身。关于这个问题的作者保罗·夏尔在新美国安全中心提出，作者认为，这主要是关于我们人类授予机器的自主程度。算法会帮助士兵、军官和指挥官，还是取代他们？

这也不是一个全新的问题。在人工智能出现之前，冷战期间，莫斯科建立了“死亡之手”系统，其中包括一个名为“周界”的系统。这是一个完全自动化的程序，用于在克里姆林宫的人类领导人在袭击中死亡后发动核打击。其目的显然是说服敌人，即使成功的第一次打击也会导致相互确保毁灭。但人们不禁想知道，如果“周界”出现故障并错误发射会发生什么。

因此，问题在于机器自主决策的程度。在核武器的情况下，赌注显然是生死攸关的。但对于所有其他“致命自主武器系统”（LAWS），即官方称之为杀人机器人的系统，赌注仍然非常高。

也许算法会做出正确的决定并最大程度地减少死亡；这就是为什么一些防空系统已经使用人工智能——它比人类更快、更好。但代码也可能失败，或者更加恶毒地被编程为最大化痛苦。你是否希望俄罗斯总统普京或哈马斯部署杀人机器人呢？

作为技术上最先进的国家，美国在某些方面以良好的榜样带头，但在某些方面则没有。在其2022年核态势评估中，美国表示将始终在制定发射决策时“保持人类‘在回路中’”。俄罗斯和中国都没有做出类似的声明。去年，美国还发布了“关于人工智能和自主权负责军事使用的政治宣言”。得到52个国家的支持，呼吁对LAWS进行各种“保障”。

然而，不是因为他们的禁令。这就是美国在国际法中经常扮演的角色，可以发挥更具建设性的作用。试图全面禁止自主杀手机器人的《关于某些常规武器的公约》，旨在限制诸如地雷之类的有害杀伤技术。但美国是那些反对禁令的国家之一。它应该支持禁令，并让中国以及其他国家也这样做。

当然，即使全世界对LAWS说不，人工智能仍会带来新的风险。它将加速军事决策，以至于人类可能没有时间评估情况，在极端压力下要么犯下致命错误，要么屈服于算法。这被称为自动化偏见，当人们让他们的汽车GPS把他们引导到池塘或悬崖边时，这种心理就会起作用。

但是，自从智人在矛上绑上石尖以来，军事创新的风险也在增加。到目前为止，我们大多学会了如何管理新的危险。只要我们人类，而不是我们的机器人，继续做出最终和最重要的决策，我们仍然有希望与人工智能一起进化，而不是与之一起灭亡。

更多来自彭博观点：

• 世界濒临崩溃吗？请问青铜时代的人们：安德烈亚斯·克卢斯
• 如果你认为第三次世界大战是不可想象的，请阅读这篇文章：奈尔·弗格森
• 如果美国停止资助乌克兰会发生什么？：哈尔·布兰兹

想要更多彭博观点吗？OPIN<GO>。或者您可以订阅我们的每日新闻简报**。**