OpenAI团队将专注于人工智能软件的民主进程 | 路透社

OpenAI首席执行官Sam Altman出席了2023年11月16日在美国加利福尼亚州旧金山举行的亚太经济合作组织（APEC）首席执行官峰会。路透社/卡洛斯·巴里亚/文件照片

2024年1月16日旧金山报道，人工智能实验室OpenAI正在组建一个新团队，以创造民主流程来塑造其人工智能软件的治理方式，以解决偏见和其他因素，这家得到微软支持的公司在周二在一篇博文中表示。“集体对齐”团队是这家总部位于旧金山的公司在2023年5月宣布的资助民主流程实验工作的延续，该项目最近刚刚结束。“当我们继续追求我们的使命，朝着可能被视为我们社会不可或缺部分的超智能模型…让人们有机会直接提供意见是很重要的，”OpenAI新团队的研究工程师和创始成员Tyna Eloundou告诉路透社。

例如，为了确保只有人类可以投票，OpenAI可以与由OpenAI首席执行官Sam Altman创立的加密货币项目Worldcoin合作，该项目提供了一种区分人类和AI机器人的方法，该项目的产品经理Teddy Lee是这个两人团队的另一名成员。李指出，团队尚未就整合Worldcoin制定任何具体计划。

自OpenAI于2022年底推出ChatGPT以来，这种生成式人工智能技术可以从文本提示中自动生成令人信服的散文，从而吸引了公众的注意，使该程序成为有史以来增长最快的应用程序之一。

然而，也有对人工智能能力的担忧，特别是随着2024年美国大选竞选活动的加剧，人们担心AI能够制作“深度伪造”图片和其他虚假信息。批评者称，像ChatGPT这样的AI系统由于塑造其观点的输入而存在固有偏见，用户已经发现AI软件产生了种族主义或性别歧视的例子。新的OpenAI团队正在积极寻找研究工程师和研究科学家，埃隆杜说。该团队将与OpenAI的“人类数据”团队紧密合作，后者为收集公司AI模型的人类输入构建基础设施，以及其他研究团队。