Nvidia校友为修复破损的人工智能创业公司获得资金支持 - 彭博社

RagaAI已获得资金，用于开发一种旨在诊断和修复人工智能系统缺陷的工具，以响应人工智能繁荣期间对安全性和可靠性日益增强的重视。

这家初创公司由芯片制造商Nvidia Corp.和Texas Instruments Inc.的校友Gaurav Agarwal创立，已经走出隐身模式，完成了由pi Ventures领投的470万美元种子轮融资。其他参与投资的公司包括Anorak Ventures和TenOneTen Ventures。这家硅谷初创公司使用基础模型来检测和修复人工智能中的问题，比如幻觉——这是一个广为人知的现象——或者未能考虑到关键的实时信息。

Gaurav Agarwal来源：RagaAI这位44岁的创始人讲述了他在加利福尼亚高速公路上试驾半自动驾驶汽车时所谓的一次近乎致命的经历。他说，人工智能无法检测到路上的碎片，因此他不得不手动刹车以避免事故。

“我在Ola和Nvidia期间见过人工智能的失败，”同时也是这家初创公司的首席执行官的Agarwal在电话采访中说道。“迫切需要避免这类情况，特别是在高风险的人工智能使用案例中，比如癌症检测、飞机维护和人工智能驱动的招聘工具。”

阅读更多： 澳大利亚正在考虑对高风险人工智能使用实施强制限制

总部位于加利福尼亚弗里蒙特的Agarwal在ChatGPT由OpenAI首次推出之前创建了RagaAI，这激发了大型语言模型的全球发展。RagaAI是一批新创企业中的一员，试图满足在这一狂热活动期间出现的需求。

根据$15.7万亿的一项PwC研究，到2030年，人工智能有可能为全球经济贡献$15.7万亿。但目前的大部分活动都集中在构建模型和应用程序，而不是诊断错误或测试它们。

RagaAI的平台——Agarwal表示他的团队自行开发了这个平台——提供了超过300个测试，帮助企业进行问题分类和追踪其根本原因。他说，它可以发现诸如糟糕的数据标记和偏见等问题。他补充说，它有助于检测幻觉——被呈现为事实的虚假和误导性信息，以及故意攻击或试图让模型犯错的企图。

他的创业公司将资金投入研究，并扩大团队规模，目前大约有40名工程师主要驻扎在班加罗尔。尽管Agarwal没有透露客户的名称，但他表示，该平台已经能够帮助客户将故障减少了90%。

阅读更多： 麻省理工学院发现，在绝大多数工作中，人类仍然比人工智能更便宜