ChatGPT漏洞赏金计划提供20000美元奖励以报告漏洞-彭博社

摄影师：Gabby Jones/BloombergOpenAI 将开始支付人们高达$20,000的报酬，以帮助该公司发现其人工智能系统中的漏洞，比如广受欢迎的ChatGPT聊天机器人。

这家人工智能公司在周二的一篇博文中写道，它推出了一个 漏洞赏金计划，人们可以通过该计划报告他们在使用其人工智能产品时发现的弱点、漏洞或安全问题。这种计划在科技行业很常见，公司会支付用户报告漏洞或其他安全漏洞的报酬。OpenAI表示，它是与Bugcrowd Inc.合作推出这一计划的，Bugcrowd Inc.是一个漏洞赏金平台。

该公司将根据发现的漏洞大小支付现金奖励，从$200的“低严重性发现”到$20,000的“杰出发现”不等。

该公司表示，推出该计划的部分原因是因为它认为“透明度和合作”对于发现其技术中的漏洞至关重要。

“这一举措是我们致力于开发安全和先进人工智能的承诺的重要组成部分，”OpenAI的安全负责人Matthew Knight在博文中写道。“在我们创建安全、可靠和值得信赖的技术和服务时，我们希望得到您的帮助。”

OpenAI漏洞赏金计划的Bugcrowd页面详细说明了一些与模型相关的安全问题，这些问题不符合奖励条件，包括越狱提示、导致AI模型编写恶意代码的问题，或者导致模型对用户说坏话的查询。

这一公告并不完全令人意外。总部位于旧金山的公司的总裁兼联合创始人Greg Brockman最近在Twitter上提到，OpenAI“正在考虑启动悬赏计划”或建立“红队员”网络来发现弱点。

他是在回应22岁的越狱提示爱好者Alex Albert撰写的一篇帖子时发表这番言论，Alex Albert的网站汇编了旨在绕过ChatGPT等聊天机器人设定的书面提示。

“民主化的红队是我们部署这些模型的一个原因，”Brockman写道。