英国首相Sunak将在与马斯克会面之前主持人工智能峰会谈判

英格兰，布莱切利园，11月2日 (路透社) - 领先的人工智能开发者同意与政府合作，在新的前沿模型发布前进行测试，以帮助管理快速发展的技术风险，这是英国人工智能峰会的一个“里程碑式成就”。

一些科技和政治领袖警告称，如果不加控制，人工智能将带来巨大风险，从侵蚀消费者隐私到对人类构成危险并引发全球灾难，这些担忧已经引发了政府和机构之间的一场竞赛，设计防护措施和监管。

在英国二战密码破译者的家园布莱切利园举行的首届人工智能安全峰会上，来自美国、欧盟和中国的政治领导人同意共同制定识别风险和减轻风险的方法。布莱切利园。

英国首相里希·苏纳克表示，该声明、测试行动以及成立国际风险专家小组的承诺将“使人类处于有利地位”。

他表示，美国、欧盟和其他“志同道合”的国家已经与从事人工智能前沿工作的一些公司达成了“具有里程碑意义的协议”，即模型在部署前后应该接受严格评估。

被誉为人工智能教父的Yoshua Bengio将协助撰写一份“科学现状”报告，以建立对未来能力和风险的共同理解。

“到目前为止，测试新AI模型安全性的唯一人员是开发它的公司，”Sunak说。“我们不应该依赖他们来批改自己的作业，因为他们中的许多人都同意这一点。”

前进的方式

峰会汇集了大约100名政治家、学者和科技高管，共同规划一种前进的方式，以应对可能改变公司、社会和经济运作方式的技术，一些人希望建立一个独立机构来提供全球监督。

在西方努力管理AI安全发展的首次尝试中，一位中国副部长于周三参加了专注于高度通用的“前沿AI”模型的峰会，与其他政治领导人一道出席。

法国经济部长布鲁诺·勒梅尔、德国经济和气候部长罗伯特·哈贝克、欧盟委员会主席乌苏拉·冯·德莱恩、美国副总统卡玛拉·哈里斯、英国首相里希·苏纳克、意大利总理乔治亚·梅洛尼、联合国… 阅读更多

吴兆辉，中国科技部副部长，周三签署了一份“布莱切利宣言”，但中国周四未出席，并未在测试协议上签署。

在许多西方政府减少与北京的技术合作之后，苏纳克因邀请中国而受到自己政党的一些议员的批评，但苏纳克表示，任何关于人工智能安全的努力都必须包括其主要参与者。

他还表示，这表明英国在促进美国、中国和欧盟三大经济集团合作方面可以发挥作用。

苏纳克在一次新闻发布会上表示：“邀请中国并不是一个容易的决定，很多人批评我，但我认为这是正确的长远决定。”

由微软支持的OpenAI、Anthropic、Google DeepMind、Microsoft (MSFT.O)、Meta (META.O)和xAI周四参加了峰会，与欧盟委员会主席冯德莱恩、美国副总统卡玛拉·哈里斯和联合国秘书长安东尼奥·古特雷斯等领导人一起。

冯德莱恩表示，复杂的算法永远无法得到彻底测试，因此“最重要的是，我们必须确保开发人员在问题发生时迅速采取行动，无论是在其模型上市前还是上市后”。

企业家埃隆·马斯克周三告诉与会者，政府不应急于推出人工智能立法，两位消息人士表示。

相反，他建议使用这项技术的公司更有能力发现问题，并且他们可以与负责制定新法律的立法者分享他们的发现。

亿万富翁在峰会结束后与苏纳克进行对话，预计将在周四晚些时候在马斯克之前的平台X上播出。最后的话。

他说：“我们生活在最有趣的时代。我认为这有80%的可能是好的，20%是坏的，我认为如果我们对坏的部分有认识和小心，总的来说，实际上它将是我们想要的未来。”