你的AI模型是否偏离了轨道？也许有适用的保险政策 - WSJ
Belle Lin
借鉴网络安全保险的做法，在几年前的重大数据泄露事件之后，保险公司开始在人工智能领域采取行动，为模型失败提供财务保护。
企业技术领导者表示，这类保险政策可以帮助他们解决董事会成员、首席执行官和法律部门对风险管理的担忧。
“你会发现越来越多的人开始问，‘谁来承担风险？如何筹集资金？你能为我们解决一些风险吗？’”数字技术和信息技术服务公司UST的首席技术官兼数据服务负责人尼兰詹·拉姆桑德说。
尽管现在还处于早期阶段，分析师表示，人工智能保险有市场需求，主要承保商可能会为源自人工智能和生成式人工智能的财务损失提供专门保险，而这项技术在企业中仍处于早期采用阶段。现有的责任或网络安全保险政策也可能很快被修改以适用于生成式人工智能，尽管目前还没有明确的生成式人工智能导致数据泄露等情况，从而给企业造成损失的例子。
生成式人工智能带来的业务风险包括从网络安全问题到侵犯版权、不准确或带有偏见的输出和错误信息，以及泄露专有公司数据等各种问题。
“我敢打赌，超过五成的大型企业如果有这样的保险政策推出并且合理的话，都会购买一些。”关注人工智能信任、风险和安全的Gartner分析师Avivah Litan说。
慕尼黑再保险公司在2018年推出了一项为销售人工智能服务的公司提供保险的政策，该公司的Insure AI产品负责人Michael Berger表示。该公司还为开发自己人工智能模型的企业提供保险，覆盖了如果他们自主开发的模型出现了人类不会犯的错误导致的财务损失。
多伦多初创公司Armilla Assurance今年推出了一种称为产品保修的产品，由包括瑞士再保险公司和Chaucer在内的再保险商提供支持，保证人工智能模型会按照卖家的承诺运行。
为了解决企业可能在将生成式人工智能嵌入运营中的担忧，包括微软、国际商用机器公司和Adobe在内的供应商提供了其他管理风险的方式。
IBM上周表示，其开发的生成式人工智能模型将适用标准的合同知识产权保护。Adobe在6月份表示，企业可以从该软件公司购买用于Firefly平台上生成式人工智能创建内容的知识产权赔偿保险。
在九月份，微软宣布承诺为客户使用其基于生成式人工智能的Copilot工具而引发的诉讼进行辩护并支付费用。该公司表示，客户必须使用其内置的防护措施，旨在过滤掉受版权保护的内容。
分析人士表示，利用大型语言模型存在侵犯版权的潜在风险是企业面临的主要障碍，这使得供应商不得不为客户提供法律和财务支持。微软、OpenAI和其他供应商因侵犯互联网用户的隐私权和版权而被起诉。
微软旗下GitHub的CEO Thomas Dohmke表示，这一新承诺已经促成了一些交易。技术和产品团队希望使用GitHub的Copilot生成式人工智能编码助手，而微软为捍卫客户的承诺为他们的法律部门提供了帮助。
最近发展的网络安全保险为人工智能提供了一些启示。在疫情期间，网络安全保险人加大了对投保人安全安排的审查，导致保单更加昂贵并且拒绝赔付。随后，在昂贵黑客攻击增加的情况下，保险人提高了保费并削减了保单的覆盖范围。分析人士表示，随着承保方式的演变和保险人开始支付昂贵的索赔，人工智能保险政策可能会走上类似的道路。
还有许多其他挑战。由于缺乏关于人工智能模型在业务中的使用以及其性能的历史数据，保险公司很难评估风险。生成式人工智能模型的变化也如此迅速，以至于风险评估方法也需要是动态的。
Armilla Assurance通过查看包括训练数据、建模者、测试表现以及客户使用模型等八个因素的组合来评估给定AI模型的风险。该创业公司的联合创始人兼首席执行官Karthik Ramakrishnan表示，这决定了客户及其使用AI模型的风险和可保险性。他说，到目前为止，该公司开始测试一些生成式AI模型，以及其他形式的人工智能。
如果模型失败，Armilla Assurance将对客户进行赔偿，赔偿金额最高为他们支付给AI供应商的许可费用。该创业公司收取的保费由这些许可费用的一部分组成，具体比例取决于模型的风险和复杂性。
瑞士再保险财产和意外险研发高级副总裁Jerry Gupta表示，其与Armilla Assurance的合作关注模型准确性，这是其AI相关保险产品中首个旨在解决偏见、版权和数据隐私等更复杂问题的产品。“随着我们的学习，随着我们获得更多数据，我们将找出下一步是什么，”他说。
慕尼黑再保险使用内部研究科学家团队对AI模型的风险定价，Berger说。“定价任务是为了找到一个可靠的统计估计量，用于评估相应AI模型在新的、未知数据上的不确定性。”
评估生成式人工智能风险与其他形式的人工智能相比需要特别考虑一些因素，包括考虑基于文本的提示，这些提示会引起“性能上更多的变化”，以及知识产权侵权风险，Berger说。他还表示，还需要额外的保险解决方案来覆盖人工智能风险，比如歧视性风险。
分析师、技术领袖和保险人士表示，保险政策或某种形式的金融保护，以覆盖使用生成式人工智能模型可能带来的潜在损失，可能会在未来几年内成为公司日常业务中越来越多地使用人工智能的标配。
未来十年内，保险公司的机会可能会非常巨大。麦肯锡的研究人员估计，生成式人工智能可能每年为全球经济产出增加数万亿美元，这将引发如何管理其风险的问题。覆盖这一机会的方式，大多数保险公司都在考虑，Forrester分析师艾伦·卡尼说。
“这将成为保险公司产品组合中的一项标配，即使是对小型企业，甚至对其他保险公司也是如此，”卡尼说。
当然，商业技术领袖们不愿仅仅依赖保险来管理人工智能风险。UST的拉姆桑德尔说，保险政策的吸引之一在于它提供了一种将风险转移给他人的方式，但这只是众多风险管理策略之一。
正如安全专家警告不要将网络安全保险作为良好的网络安全实践的替代品一样，公司应该建立防护措施来防止数据泄露，例如使用其他安全工具和技术作为第一道防线。
“保险是灾难来临时的最后一道防线，”数字运营公司PagerDuty的首席技术官Tim Armandpour说道。“公司需要建立系统，以便快速应对技术问题。”
请写信给Belle Lin，邮箱地址是[email protected]
刊登于2023年10月3日的印刷版上，标题为’保险公司推出人工智能风险保障’。