美国间谍希望利用人工智能作为对抗中国的工具，如果技术可以信任-彭博社

美国情报机构正在面临一个艰巨的新挑战：确保人工智能对美国间谍安全。

国家情报总监办公室的一个部门正在与公司和学院合作，帮助利用快速发展的人工智能技术，这可能为美国提供对抗中国等全球竞争对手的优势。挑战在于确保它不会打开通往国家最高机密的后门，或生成虚假数据。

“情报界希望利用现有的大型语言模型，但有很多未知因素，”管理国家情报总监办公室项目之一（名为孟加拉）的数据科学家蒂姆·麦金农说。“最终目标是能够信任地使用模型。”

可靠性和安全性的关注是美国更广泛的 军事 和情报活动的一部分，旨在利用人工智能的力量并与中国竞争，中国计划在2030年成为该领域的全球领导者。这也推动了华盛顿地区 与人工智能相关的招聘 的激增，因为政府及其承包商正在接受这一新兴技术。

最紧迫的担忧集中在大型语言模型上，它们使用大规模数据集来驱动工具，例如 OpenAI公司的 ChatGPT，以提供对用户提示和问题的详细回应。

阅读更多： 大型语言模型的工作原理，使聊天机器人清晰

“情报界对人工智能持健康的怀疑态度和各种热情，”战略与国际问题研究中心情报、国家安全和技术项目主任艾米莉·哈丁（Emily Harding）说道，她举例说分析人员能够处理大量信息的能力，但对当前模型的可靠性表示怀疑。

“这是一个处于早期有用性阶段的工具，”她说。

中央情报局首席技术官南德·穆尔钱达尼（Nand Mulchandani）认为，人工智能有可能通过消化大量内容并发现人类难以辨别的模式来提高生产力。他还将其视为一种应对中国在情报人员配备方面的数量优势的方式。

南德·穆尔钱达尼摄影师：亚历克斯·王/盖蒂图片社“人类很棒，但难以扩展，”穆尔钱达尼在一次采访中说道。“利用科技来扩展人类是明智的商业举措。”

阅读更多关于美国国家安全和人工智能的内容：
* 美国海军将测试人工智能系统以追踪太平洋中的中国潜艇 * 中情局利用人工智能工具与中国展开竞争 * 拜登的国家安全局提名人警告人工智能带来的安全威胁正在增长 * 五角大楼敦促人工智能公司更多地分享其技术信息

美国间谍机构已经开始尝试他们自己的人工智能程序。据彭博新闻报道，中央情报局正在准备推出类似于ChatGPT的功能，这将使分析人员更好地访问开源情报。

美国情报部门对人工智能的吸引力部分源于其潜力，即在每天收集的海量数据中区分信号和噪音，以及开发创造性的问题解决方式，一位情报分析人员在谈论内部事务时表示。然而，该分析人员表示，存在影响和干扰人工智能模型的方法，这带来了新的风险。

威胁，干预

麦金农表示，人工智能容易受到内部威胁和外部干预的影响。这些威胁可能是人类试图欺骗系统透露机密信息 —— 试图“越狱”模型。或者相反：一个受损的系统“试图引诱人类透露不应该透露的信息，”他说。

麦金农的孟加拉计划 —— 缩写为偏见效应和显著生成式人工智能限制 —— 由情报高级研究项目局负责，这是一个鲜为人知的机构，隶属于国家情报总监办公室。孟加拉计划已经从包括亚马逊公司的一个部门在内的公司那里获得了输入，但麦金农拒绝透露是否正在与任何特定公司合作。

该程序旨在通过开发处理潜在偏见或有毒输出的方式来减轻人工智能的一些风险，比如“幻觉”，即程序捏造信息或提供不正确的结果，这并不罕见。

“现在只有少数几个模型是公开可用的，但它们将变得更普遍，它们的训练方式可能存在偏见，”麦金农说。“如果有一个受损的模型，我们希望能够对抗它。”