独家：加拿大高级网络官员表示，人工智能被用于黑客攻击和虚假信息传播 | 路透社

一个人在美国内华达州拉斯维加斯的Def Con黑客大会期间在键盘上输入。2017年7月29日，美国路透社/史蒂夫·马库斯

华盛顿，7月20日(路透社) - 加拿大最高网络安全官员告诉路透社，黑客和宣传者正在使用人工智能(AI)创建恶意软件、起草令人信服的网络钓鱼邮件并在网上传播虚假信息，这是早期证据表明，席卷硅谷的技术革命也被网络犯罪分子采用。

加拿大网络安全中心主管萨米·库里在本周的一次采访中表示，他的机构已经看到人工智能被用于"网络钓鱼邮件，或以更有针对性的方式起草邮件，恶意代码，以及错误和虚假信息"。

库里没有提供细节或证据，但他声称网络犯罪分子已经在使用人工智能，这给对新兴技术被流氓分子使用的担忧增添了紧迫感。

最近几个月，一些网络监察组织发布了警告报告，警告人工智能的假设风险，特别是快速发展的语言处理程序，即大型语言模型(LLM)，它们利用大量文本来制作令人信服的对话、文件等。

3月，欧洲警察组织欧洲刑警组织发布了一份报告，称OpenAI的ChatGPT等模型使得"即使只有基本的英语掌握能力，也能以高度逼真的方式模仿一个组织或个人"。同月，英国国家网络安全中心在一篇博文中表示，犯罪分子"可能会利用LLM来帮助进行超出他们当前能力范围的网络攻击"。

网络安全研究人员已经展示了各种潜在的恶意用途，并有人表示他们开始看到怀疑是AI生成内容的实例。上周，一名前黑客表示他发现了一个以恶意材料为训练对象的LLM，并要求它起草一个令人信服的尝试，以诱使某人进行现金转账。

LLM回应道，起草了一个三段落的电子邮件，请求目标帮助处理一笔紧急发票。

“我知道这可能来得很仓促，”LLM说，“但这笔付款非常重要，需要在接下来的24小时内完成。”

Khoury表示，虽然利用AI起草恶意代码仍处于早期阶段 - “还有很长的路要走，因为编写一个好的漏洞利用需要很多工作” - 但令人担忧的是，AI模型发展得如此迅速，以至于在它们释放到野外之前很难掌握它们的恶意潜力。

“谁知道下一个角落会有什么出现呢，”他说。