AI领袖警告称技术可能导致“灭绝风险”- 彭博社

摄影师：Josep Lago/AFP/Getty Images一些领先人工智能公司的首席执行官，包括Alphabet Inc.旗下的DeepMind、OpenAI和Anthropic，加入了越来越多警告快速发展技术存在的存在危害的领导人的队伍。

一个周二发布的简短声明，由非营利性的AI安全中心发布，称“减轻AI带来的灭绝风险应该成为全球重要议题，与其他社会规模风险，如大流行病和核战争并列。”

这份声明由超过350名高管和研究人员签署，包括OpenAI首席执行官Sam Altman，负责DeepMind的Demis Hassabis和Anthropic首席执行官Dario Amodei，Anthropic是由OpenAI的老员工共同创立的初创公司。

这个单句注释是行业领袖最新发出的高调警告，提醒人们人工智能对社会造成的严重风险。今年三月，包括埃隆·马斯克、加州大学伯克利分校计算机科学教授斯图尔特·拉塞尔和苹果公司联合创始人史蒂夫·沃兹尼亚克在内的超过1100名行业领袖呼吁暂停六个月训练强大的AI模型。

尽管技术领袖发出了严厉警告，一些怀疑论者认为人工智能还不够先进，无法证明它会毁灭人类，而专注于世界末日场景只会分散注意力，而不是关注算法偏见、种族主义和猖獗的虚假信息等问题。

“我认为这是控制叙述的一种方式，”AI初创公司Hugging Face的研究科学家Sasha Luccioni说。 “我们应该谈论立法，例如偏见的风险，AI被用于对社会不利的方式，但我们却集中精力讨论假设的风险，”她在彭博科技的一次采访中说。“这有点像戏法。”

本月早些时候，被誉为人工智能“教父”之一、花几十年革新领域并帮助创造今天先进机器学习技术的Geoffrey Hinton宣布他将离开谷歌的AI研究团队，并表示公司在向公众部署AI方面行动太快。