英国央行行长将在全球峰会前警告人工智能带来的风险 - 彭博社

里什·苏纳克

摄影师：克里斯·J·拉特克利夫/彭博社英国首相里什·苏纳克表示，世界各国领导人在充分了解快速发展的人工智能技术之前，应该克制对其进行监管，尽管他概述了该技术带来的一系列风险。

在周四的一次演讲中概述了人工智能带来的威胁后，苏纳克表示，如果开发人员在使用这项技术时“出错”，可能会使恐怖分子能够“传播恐惧和破坏”，使化学和生物武器更容易制造，促进网络攻击、欺诈和儿童性虐待，甚至对人类本身构成风险。尽管如此，他在管理该技术发展时呼吁克制。

里什·苏纳克在伦敦发表人工智能演讲。摄影师：托尔加·阿克曼/欧洲新闻社/彭博社“我们不应急于进行监管，”首相在伦敦发表演讲后告诉记者。“如果你不完全了解它，很难对其进行监管。”

相反，苏纳克宣布英国将建立他所描述的“世界首个人工智能安全研究所”，旨在测试这项技术的新形式以了解其能力。但由于英国“无法独自完成这项工作”，他表示将利用下周在伦敦附近举办的全球人工智能峰会提议成立一个国际小组，发布一份“人工智能科学现状报告”。

“每一波新的浪潮都将变得更加先进，训练更好，芯片更好，计算能力更强，” Sunak谈到了人工智能。“因此，我们需要确保随着风险的演变，我们的共同理解也在不断发展。”

首相正试图将英国定位在这项有潜力改变全球经济的技术的前沿，并且他还概述了他说这项技术可能带来的潜在好处，比如诊断医疗状况和提高公共服务部门的生产力。

Sunak正准备在伦敦北部的布莱切利公园邀请全球领导人和商界高管，开始建立保护免受人工智能侵害的防护栏。在周四的讲话之前，他的政府发布了三份文件，阐明了这项技术的风险和好处，更多的关注点放在了它可能带来的危险上。

阅读更多关于人工智能的故事
* Sunak的人工智能嘉宾名单可能不足，领导人持观望态度 * 英国推动将人工智能标记为“具有灾难性危害能力” * 人工智能的强烈反对可能带来英国社会动荡，Infosys合作伙伴表示 * Sunak将于11月1日至2日在英国解码场所举办人工智能峰会

尽管他表示不想“危言耸听”，Sunak警告说，“在最不可能但极端的情况下，甚至有可能人类会完全失去对人工智能的控制”，这是通过所谓的“超级智能”实现的。

“减轻人工智能灭绝风险应该是全球重要议题，与其他社会规模风险如大流行病和核战争并列，”他说道，接着补充道：“这不是人们现在需要为之担忧而失眠的风险。”

英国政府的一份报告之一，将作为峰会的讨论文件，详细阐述了人工智能可能通过控制武器或金融系统而构成的“存在威胁”。由科学、创新和技术部门发布的文件还阐明了人工智能对劳动力和金融市场的影响“可能引发社会和地缘政治不稳定”。

在不久的将来，生成式人工智能可能会增强欺诈、冒充和虐待儿童的风险 — 根据文件显示，这些趋势最有可能在2025年之前显现并产生最大影响。

文件显示，这项技术还对政治体系和民主机构的风险，以及在宣传、激进化、招募、资金筹集、武器开发和袭击计划方面增强了恐怖分子的能力。这些文件已经由包括人工智能奠基人之一Yoshua Bengio在内的外部专家小组审查过。

报告还警告称，大多数或所有用户都可以访问的开源人工智能模型增加了技术被不良行为者滥用的风险。

预计Sunak将在下周的峰会上与一大批高管一起出席，包括前英国副首相、现任Meta Platforms Inc.全球事务总裁尼克·克莱格，以及来自Alphabet Inc.的谷歌和DeepMind Technologies Ltd.的詹姆斯·曼尼卡和Demis Hassabis。意大利总理乔尔贾·梅洛尼是迄今为止唯一一位将出席的七国集团领导人，美国副总统卡玛拉·哈里斯和商务部长吉娜·雷蒙多也将加入。预计将有来自28个国家的约100人出席。