Chatbot Claude最新挑战ChatGPT,此前经过DuckDuckGo、Quora的测试 - 彭博社
Rachel Metz
Anthropic logo displayed on a phone screen and a binery code displayed on a laptop screen are seen in this illustration photo taken in Krakow, Poland on February 7, 2023.
摄影师:Jakub Porzycki/NurPhoto/Getty ImagesAnthropic,一家人工智能初创公司,正在为希望将其竞争对手ChatGPT添加到其产品中的企业提供其聊天机器人。
这家初创公司成立于2021年,由OpenAI的前领导人,包括兄妹Daniela和Dario Amodei创立,称该聊天机器人名为Claude,过去几个月已经由Notion Labs Inc.、Quora Inc.和搜索引擎DuckDuckGo等技术公司进行了测试。例如,Quora将该聊天机器人与一个名为Poe的应用程序一起提供给用户提问。
希望使用Claude的公司可以通过等待名单进行注册。Anthropic旨在在请求后的几天内提供访问权限。该初创公司还提供了一个名为Claude Instant的版本,功能较弱但更便宜和更快。本月早些时候,OpenAI发布了面向企业的ChatGPT。
尽管聊天机器人本身并不新鲜,但Claude是一种更强大的工具之一,它们经过大量互联网数据的训练,可以生成模仿人类语言的文本,远比它们的前身更好。这些工具是生成式人工智能的应用,指的是考虑输入(如文本提示)并用它来输出新内容(如文本或图像)的人工智能系统。
OpenAI 在11月份发布了 ChatGPT 进行广泛测试,引发了一大批科技公司推出自己的聊天机器人。 二月份,谷歌表示已开始测试其版本,Bard,而投资了110亿美元在 OpenAI 的微软公司,将基于这家初创公司的技术向其必应搜索引擎添加了一个聊天机器人。 据彭博社二月份报道,谷歌的母公司 Alphabet Inc. 已经投资了 Anthropic 近4亿美元,引述一位熟悉该交易的人士。
与 ChatGPT 类似,Claude 是一个大型语言模型,可用于各种书面任务,如总结、搜索、回答问题和编码。 然而,尽管 ChatGPT 在提供给用户一些令人不安的结果后受到了批评,并进行了调整,Anthropic 将其聊天机器人定位为从一开始更加谨慎。基本上,它的目的是让人难以从中得到冒犯性的结果。
Anthropic 首席执行官 Dario Amodei 表示,该初创公司一直在慢慢推出 Claude 的测试。
“我不想说所有问题都已解决,”Amodei 说。“我认为所有这些模型,包括我们的,有时会产生幻觉,有时会凭空捏造事情。”
最近通过 Quora 的 Poe 应用使用时,Claude 很容易交谈,提供了简洁的答案,当这位记者对其答案不满意时,它会有礼貌地回应。 例如,在通过 Poe 应用的一次交流中,聊天机器人被要求为一个女儿和一个儿子提供绰号。 当被问及结果时,其中包括冠军、伙伴和老虎作为男孩的绰号,以及甜豆、公主和天使作为女孩的绰号时,Claude 承认其建议“陷入了一些性别刻板印象。”
“我感谢你指出我的性别偏见,”它打字说。“我将更加留意避免刻板印象。最重要的是,昵称应该是出于爱心选择的,展现对你孩子独特品质的欣赏。”
这段对话看起来像是聊天机器人的谨慎。但许多人只会接受聊天机器人最初的回答并继续前进,而不会像引发克劳德详细说明其偏见的问题那样提出后续问题,加利福尼亚州波利技术州立大学伦路易斯奥比斯波分校的研究科学家和伦理与新兴科学小组的研究员朱莉·卡彭特说。
“只有当你跟进提出批判性问题时,它才解释了偏见,”她说。“如果你没有揭露这种偏见,它就会将其呈现为一个答案。这就是你发现的潜在危害。”