独家:OpenAI研究人员在CEO被撤职之前警告董事会AI突破-消息来源 | 路透社
Anna Tong,Jeffrey Dastin,Krystal Hu
ChatGPT 制造商 OpenAI 的 CEO Sam Altman 参加了由参议院多数党领袖查克·舒默(D-NY)在华盛顿美国国会大厦举办的一场面向所有美国参议员的两党人工智能(AI)洞察论坛,时间为2023年9月13日。路透社/朱莉娅·尼克辛森/文件照片
11月22日(路透社) - 在 OpenAI CEO Sam Altman 的四天流亡之前,几名员工研究人员向董事会发了一封信,警告称他们发现了一项可能威胁人类的强大人工智能发现,两位知情人士告诉路透社。
这封此前未曾报道的信和人工智能算法是导致董事会罢免代表生成式人工智能的标志性人物 Altman 的关键发展,这两位消息人士称。在他的胜利归来之前的上周二晚些时候,超过700名员工威胁要辞职并加入支持者微软(MSFT.O),以示对他们被解雇的领导的支持。
消息人士称,这封信是导致 Altman 被解雇的董事会长列表中的一个因素。路透社未能查看这封信的副本。写信的研究人员没有立即回应置评请求。
根据一位消息人士的说法,长期执行官米拉·穆拉蒂在周三对员工提到了名为Q*的项目,并表示在本周末事件发生之前已经向董事会发了一封信。
故事发表后,OpenAI的一位发言人表示,穆拉蒂告诉员工媒体即将报道的内容,但她没有评论报道的准确性。
ChatGPT的制造商在Q*(发音为Q-Star)上取得了进展,一些内部人士认为这可能是这家初创公司寻找超智能(也称为人工通用智能AGI)的突破之一,据路透社报道。OpenAI将AGI定义为比人类更聪明的人工智能系统。
据一位知情人士透露,借助庞大的计算资源,这个新模型能够解决某些数学问题,但由于未经授权代表公司发言,该人士要求匿名。尽管只是在小学生水平上进行数学运算,但研究人员对Q*未来的成功非常乐观,消息人士表示。
路透社无法独立验证研究人员声称的Q*的能力。
超智能
研究人员认为数学是生成式人工智能发展的前沿。目前,生成式人工智能擅长通过统计预测下一个词来进行写作和语言翻译,对同一个问题的答案可能差异很大。但征服能够进行数学运算的能力——在这里只有一个正确答案——意味着人工智能将具有更强的推理能力,类似于人类智能。AI研究人员相信,这可以应用于新颖的科学研究,例如。
与只能解决有限数量操作的计算器不同,通用人工智能可以泛化、学习和理解。
据消息人士称,在他们致信董事会的信中,研究人员提到了人工智能的实力和潜在危险,但没有具体说明信中提到的确切安全顾虑。长期以来,计算机科学家一直在讨论超智能机器可能带来的危险,例如它们可能会认为摧毁人类符合它们的利益。
在这种背景下,阿尔特曼带领努力使ChatGPT成为历史上增长最快的软件应用之一,并从微软那里获得了必要的投资和计算资源,以接近超智能或通用人工智能。
除了在本月的演示中宣布了一系列新工具外,阿尔特曼上周在旧金山的世界领导人聚会上透露他相信通用人工智能已近在眼前。
他在亚太经济合作峰会上说:“在OpenAI的历史上,这已经是第四次了,最近一次是在过去几周内,我有幸在场,我们推开无知的面纱,将发现的边界向前推进,能够做到这一点是我一生中的职业荣誉。”
一天后,董事会解雇了阿尔特曼。
安娜·唐和杰弗里·达斯汀在旧金山,克里斯特尔·胡在纽约;肯尼斯·李和丽莎·舒梅克编辑