人工智能初创公司Anthropic筹集了4.5亿美元用于以安全为重点的聊天机器人项目 - 彭博报道

摄影师：Jakub Porzycki/NurPhoto/Getty ImagesAnthropic，一家人工智能初创公司，定位为构建更安全的聊天机器人，表示已筹集了4.5亿美元的资金，以加强其名为Claude的AI机器人的开发。这笔交易使该公司的总筹资超过10亿美元。

与OpenAI的ChatGPT一样，Claude建立在一个大型语言模型之上，可用于摘要、搜索、回答问题和编码等书面任务。然而，尽管ChatGPT在提供一些令人担忧的结果后受到了批评，并经过调整，Anthropic旨在从一开始就使其聊天机器人更加谨慎。

Anthropic的目标是让Claude比其他聊天机器人更不容易受到操纵，从而产生有害或冒犯性的结果。该初创公司的联合创始人是来自竞争对手OpenAI的前领导者。

该公司表示，由Spark Capital领投的这一轮融资还包括Alphabet Inc.的Google、Salesforce Ventures、Sound Ventures和Zoom Ventures。这笔投资是继彭博社在二月份报道的谷歌近4亿美元的投资之后进行的。该公司拒绝讨论其当前估值。

Anthropic成立于2021年，由一些前OpenAI员工创立，包括兄妹Daniela Amodei和Dario Amodei。这家初创公司及其领导层敦促谨慎对待开发和发布人工智能系统的急切行动，以及它们改变行业的潜力。

“我认为这些系统带来了令人难以置信的潜力，但同时，正如我们都看到的，它们也有很大的潜力造成伤害，”Daniela Amodei说道。“我认为我们还没有完全理解这些系统可能产生的所有负面外部性的潜力。我们现在只是开始看到其中一些。”

Daniela Amodei来源：AircoverAnthropic于三月开始提供其聊天机器人——其首个公开产品——给希望将其添加到其产品中的企业。Claude目前可通过诸如Quora Inc.的应用程序Poe使用，该应用程序允许用户提问并讨论。它还通过Slack提供，通过一款应用程序可以提供Slack主题的摘要并回答问题。

Anthropic计划利用新的资金流入继续培训Claude和未来的人工智能模型，Daniela Amodei表示，并将其聊天机器人引入更多的商业用户。Anthropic宣布与Google合作，通过这一合作，它正在使用Google的云计算服务来训练和推出其人工智能模型。该公司的云合作伙伴是Google和亚马逊网络服务，据一位发言人表示。

“训练前沿AI模型需要大量资本投入，这通常是为什么你会看到大多数这些大型系统是在上市后的公司进行训练，这些公司是公开交易的，已经建立良好的公司，”Daniela Amodei说。

尽管聊天机器人已经存在一段时间了，但Claude是一波新强大工具的一部分，这些工具已经在互联网的大片区域上进行了训练，以生成比之前更好地模仿人类语言的文本。这些工具是生成式AI的应用，指的是考虑输入，如文本提示，并将其用于输出新内容，如文本或图像的人工智能系统。

OpenAI在11月份发布了ChatGPT供广泛使用，其突然的流行引发了许多科技公司推出聊天机器人，其中包括谷歌的巴德和OpenAI投资者微软公司的必应聊天，后者使用了OpenAI的技术。

Daniela Amodei表示，Anthropic计划通过新的资金增加对AI安全研究的投资。“我们发现，能够保持在开发更有能力的模型方面的前沿，通常实际上揭示了我们在较小规模下没有看到的新安全挑战，”她说。

Spark Capital的一名普通合伙人Yasmin Razavi也加入了Anthropic的董事会，该公司表示，这将董事会的规模增加到四名成员。

Razavi表示，她对该公司的兴趣部分源自其与安全相关的努力。她还认为Anthropic正在建立一种基础技术，这是在人工智能领域迅速发展的时候。

“在我看来，如今处于这个基础层，至少给了你一个机会看到行业的第二幕、第三幕和第四幕，”她说，“而且它发展得非常迅速。”