AI安全峰会:中国、美国和欧盟同意共同合作
Paul Sandle,Martin Coulter
英格兰,布莱切利公园,11月1日(路透社) - 中国同意与美国、欧盟和其他国家合作,共同管理人工智能带来的风险,这是本周三在英国举行的一次旨在为这一快速发展的技术制定安全前进道路的峰会。
一些科技高管和政治领袖警告称,如果不加以控制,人工智能的快速发展对世界构成了一种存在威胁,引发了各国政府和国际机构之间的竞赛,他们要设计保障措施和监管。
在西方努力管理其安全发展的首次尝试中,一位中国副部长与美国和欧盟领导人以及特斯拉的埃隆·马斯克和ChatGPT的山姆·阿尔特曼等科技大佬一起出席了布莱切利公园,这是英国二战时期的密码破译者的家园。
超过25个国家参加了会议,包括美国和中国以及欧盟,签署了一份“布莱切利宣言”,表示各国需要共同努力并建立监督的共同方法。
该宣言制定了一个双重议程,重点是确定共同关注的风险并建立对其的科学理解,同时制定跨国政策来减轻这些风险。
吴兆辉,中国科技部副部长,在为期两天的峰会开幕式上表示,北京已准备好加强人工智能安全合作,以帮助建立国际“治理框架”。
他说:“无论国家的规模大小,都有平等的权利来发展和使用人工智能。”
去年11月,微软支持的OpenAI公司推出了ChatGPT,引发了人们对人工智能可能对经济和社会产生影响的担忧。(MSFT.O)利用自然语言处理工具创建类似人类对话,这引发了一些人工智能先驱者的担忧,他们担心机器最终可能实现比人类更高的智能,导致无限的、意想不到的后果。
各国政府和官员现在正试图与担心技术未能充分发挥潜力之前就被监管拖累的人工智能公司一起制定前进道路。
“我不知道公平规则是什么,但你必须先有洞察力,然后再进行监督,”亿万富翁马斯克告诉记者,并补充说可以使用“第三方裁判”在风险出现时发出警报。
虽然欧盟将人工智能监督重点放在数据隐私和监视以及它们对人权的潜在影响上,但英国峰会正在研究所谓的“前沿人工智能”对“存在风险”的关注。
美国商务部长吉娜·雷蒙多和英国科学、创新和技术国务大臣米歇尔·多兰兰在英国布莱切利公园参加人工智能安全峰会第一天,听取中国科技部副部长吴兆辉的讲话,时间为2023年11月1日… 阅读更多
穆斯塔法·苏莱曼,Google Deepmind的联合创始人,告诉记者,他认为当前的人工智能前沿模型并没有造成任何“重大灾难性危害”,但他表示,随着行业不断训练更大的模型,提前规划是有意义的。
破译者场地
这次峰会是英国首相里希·苏纳克的创意,他希望为英国在美国、中国和欧盟经济集团之间扮演中介角色,开辟脱欧后的角色。
英国数字大臣米歇尔·多内兰表示,能够让这么多关键参与者聚在一起已经是一个成就。她宣布了另外两个人工智能安全峰会,一个将在六个月后在韩国举行,另一个将在六个月后在法国举行。
“我们现在首次有国家同意,我们需要不仅独立地,而且集体地关注围绕人工智能前沿的风险,”多内兰告诉记者。
正如科技公司在人工智能领域竞争主导地位一样,各国政府也在争相领导监管工作。
中国是本次峰会的重要参与方,考虑到该国在人工智能发展中的角色。但一些英国议员对此提出了质疑,因为在涉及中国参与技术方面,北京、华盛顿和许多欧洲首都之间的信任水平较低。
在峰会前夕,美国明确表示,对北京的邀请主要来自英国,美国驻伦敦大使简·哈特利告诉路透社:“这是英国的邀请,不是美国的。”
美国副总统卡玛拉·哈里斯决定于周三在伦敦就她政府对人工智能的应对发表讲话,并与与会者举行一些会议,这意味着他们可能不得不提前离开,这也引起了一些关注。
Sachin Dev Duggal,伦敦人工智能公司Builder.ai的创始人表示,这可能会削弱活动的核心重点,而一些来自Sunak保守党的议员则暗示华盛顿试图掩盖他的峰会。
英国官员否认了这一点,称他们希望尽可能多地听到不同声音。
就在美国总统乔·拜登签署了一项关于人工智能的行政命令几天后,他的政府利用英国峰会宣布将成立美国人工智能安全研究所。
哈里斯将于周三晚些时候与Sunak会面,包括共进晚餐,并参加周四的峰会第二天。