埃隆·马斯克等行业领袖敦促人工智能实验室暂停训练模型 - 彭博社
Jake Rudnitsky, Rachel Metz
人工智能专家和行业领袖，包括埃隆·马斯克、加州大学伯克利分校计算机科学教授斯图尔特·拉塞尔以及苹果公司联合创始人史蒂夫·沃兹尼亚克，呼吁开发者暂停训练强大的人工智能模型。
业内超过1,100人签署了一份请愿书，呼吁暂停训练比OpenAI的ChatGPT最新版本更强大的人工智能系统，以便制定共享的安全协议。
“最近几个月，人工智能实验室陷入了一场失控的竞赛，开发和部署越来越强大的数字智能，甚至连它们的创造者都无法理解、预测或可靠控制，”一封发表在未来生命研究所网站上的公开信称。“强大的人工智能系统应该只有在我们确信它们的影响将是积极的，风险可控的情况下才能开发。”
在过去几个月推出了一系列人工智能项目之后，这一呼吁出现了。这些项目令人信服地执行人类任务，如撰写电子邮件和创作艺术。微软公司支持的OpenAI本月发布了其GPT-4，这是其AI聊天机器人的重大升级，能够讲笑话并通过像律师资格考试这样的测试。
这也凸显了马斯克和OpenAI之间持续存在的紧张关系。这家非营利性研究实验室成立于2015年，马斯克与同为OpenAI首席执行官的山姆·阿尔特曼共同担任联合主席。当时，OpenAI的目标是“以最有可能造福整个人类的方式推进数字智能，不受需要产生财务回报的限制。”
马斯克，管理着包括特斯拉在内的多家公司，于2018年离开了OpenAI的董事会。他批评了这个组织，该组织在2019年创建了一个盈利部门，称其已成为一个“由微软有效控制的封闭源、最大利润公司”，并且“已经远离了道德之路”。据《The Information》报道，马斯克还在考虑创建一个竞争对手研究实验室。与此同时，在最近一期与科技记者卡拉·斯威舍的播客中，阿尔特曼表示马斯克是一个“混蛋”，同时指出他认为马斯克“对人类未来的样子感到非常紧张”。
阿尔特曼——他的名字出现在星期二晚上签署名单上——没有签署请愿书，OpenAI发言人汉娜·王说。“我认为重要的是指出，在GPT-4完成训练后，我们花了超过六个月的时间对模型的安全性和对齐性进行调整，”王说。
谷歌的母公司Alphabet Inc.和微软等公司正在利用人工智能增强他们的搜索引擎，而摩根士丹利一直在利用GPT-4为其财富顾问创建一个聊天机器人。
开发者应该与政策制定者合作，建立新的人工智能治理系统和监督机构，信中称。如果主要参与者不立即同意公开、可验证的暂停，呼吁政府介入人工智能系统的发展。
“AI研究和开发应重新聚焦于使当今强大、最先进的系统更准确、安全、可解释、透明、稳健、对齐、值得信赖和忠诚，”它说。
加拿大人工智能研究机构Mila的创始人兼科学主任Yoshua Bengio根据该机构的声明签署了请愿书。Stability AI的创始人兼首席执行官Emad Mostaque也表示他签署了该请愿书。
“我们已经看到了GPT-4和其他大型模型的惊人能力。制造这些模型的人自己也说过，它们可能对社会甚至人类构成存在威胁，而且没有计划完全消除这些风险，”Mostaque说。“是时候把商业优先考虑放到一边，为了所有人的利益暂停一下，评估而不是匆忙走向不确定的未来。”
未来生命研究所是一个寻求减轻与强大技术相关风险的非营利组织，以马斯克基金会作为其最大的捐助者。
“名单上所有顶级签署者都经过了独立验证，”该机构发言人Anthony Aguirre说。“对整个名单进行验证超出了我们的能力。”
人道技术中心的发言人表示，该中心执行主任Tristan Harris签署了这封信，目前正在采取措施防止虚假签名。新的签署者现在需要经过人工审核才能上网站，所有列出的知名签署者都经过了直接沟通的审查，发言人在一封电子邮件中说。