ChatGPT制造商OpenAI正在努力减少病毒式聊天机器人的偏见和不良行为 - 彭博社
Dina Bass
OpenAI,这家人工智能研究公司,负责推出病毒式ChatGPT聊天机器人,表示正在努力减少系统中的偏见,并将允许用户自定义其行为,以应对有关不当互动和错误的一系列报告。
“我们正在投资研究和工程,以减少ChatGPT在响应不同输入时的明显和微妙的偏见,”该公司在一篇博客文章中表示。“在某些情况下,ChatGPT目前拒绝了不应该拒绝的输出,在某些情况下,它在应该拒绝时没有拒绝。”
OpenAI正在回应有关ChatGPT本身的偏见、不准确性和不当行为的报告,以及更广泛地针对微软公司和谷歌的Alphabet Inc.正在测试的新基于聊天的搜索产品的批评。在周三的一篇博客文章中,微软详细介绍了它对基于OpenAI技术的新Bing聊天的局限性的了解,而谷歌要求员工花时间手动改进其Bard系统的答案,CNBC报道。
总部位于旧金山的OpenAI还表示,他们正在开发一个更新版本的ChatGPT,允许每个用户进行有限的定制,以适应他们的口味、风格和观点。在美国,右翼评论员一直在引用一些他们认为被硬编码到系统中的有害自由主义的例子,导致了在线右翼所称为“觉醒GPT”的强烈反对。
阅读更多: ChatGPT因被认为有自由主义偏见而受到右翼攻击
“我们认为人工智能应该是个人的有用工具,因此应该由每个用户进行定制,但受到社会定义的限制,” OpenAI周四写道。“这意味着允许系统输出,其他人(包括我们自己)可能强烈不同意。在这里找到合适的平衡将是具有挑战性的——将定制推向极端会有风险,可能会导致我们技术的恶意使用和盲目放大人们现有信念的阿谀奉承的人工智能。因此,系统行为总会受到一定的限制。”技术滥用的预测。