ChatGPT在个人伤害诉讼中制造虚假法律案例，引发听证会 - 彭博社
Justin Wise
摄影师：尼古拉斯·马特林克/法新社/盖蒂图片社一位纽约律师告诉法官，他在提交一份充满ChatGPT虚假法律先例的法庭文件时，并没有打算欺骗任何人。
史蒂文·施瓦茨面临对该文件的处罚，周四请求美国地方法官P.凯文·卡斯特尔宽大处理。这位律师声称，他不知道这款免费的人工智能工具能够创造虚假的案例引用和法院意见。
“有很多事情我本应该做来确保这些案例的真实性，”施瓦茨告诉法官。“我在这方面失败得很惨。”
像ChatGPT这样的生成式人工智能工具承诺颠覆白领职业，改变律师事务所、金融机构等的业务进行方式。但这项技术也存在风险，包括对它过度依赖。
由非营利组织OpenAI推出的聊天机器人ChatGPT可以进行类似人类的对话，并从互联网中提取大量数据，尽管它承认容易产生幻觉并提供不准确的信息。
施瓦茨本周承认，ChatGPT虚构了他在一起针对哥伦比亚航空公司的案件中引用的六个案例。
“我从未想象过ChatGPT会制造虚构的案例，”施瓦茨在曼哈顿联邦法院对法官说。
案件要点
施瓦茨的客户声称一名哥伦比亚航空公司员工在2019年从萨尔瓦多飞往纽约的航班上用金属服务车撞击了他的左膝，导致他“严重人身伤害”。
航空公司试图驳回诉讼，称其提交太晚。在研究诉讼时效问题时，施瓦茨承认他使用了ChatGPT。
在哥伦比亚航空公司的律师提交文件表示他们找不到相关案例后，施瓦茨继续依赖这个人工智能工具。
卡斯特尔告诉律师，案件的关键在于施瓦茨及其所在公司的同事彼得·洛杜卡在得知有欺诈性引用后的行动。
“如果叙述就此结束，我怀疑我们今天是否会在这里。”他说。
‘法律胡言乱语’
卡斯特尔指出施瓦茨的错误简报，询问他是否考虑过在法律研究数据库、法律图书馆的书籍，甚至在谷歌上查找相关案例。施瓦茨每次的回答都是“没有”。
法官问施瓦茨是否对简报中引用的主要虚假案例之一“Varghese v. China South Airlines Co.”持怀疑态度，法官表示其中包含的信息毫无意义。
“我们可以认同这是法律胡言乱语吗？”卡斯特尔问道。
施瓦茨表示他无法想象ChatGPT会凭空捏造一个案例，直到卡斯特尔5月4日的责令出庭令他才考虑到这种可能性。
“我继续被ChatGPT愚弄，”施瓦茨说。“这很尴尬。”
‘无比强大’
在发现施瓦茨简报问题后，伊利诺伊州和德克萨斯州的联邦法官发布了常规命令，要求律师证明他们的提交文件是没有使用生成式人工智能创建的，或者有人审查了任何语言人工智能创作的准确性。
“这些平台非常强大，在法律领域有许多用途，”德克萨斯北区法官布兰特利·斯塔尔在他的命令中写道。“但法律摘要不是它们的用途之一。”
在哥伦比亚航空公司案中，卡斯特尔为施瓦茨、他的同事洛杜卡以及与法庭提交该摘要并签署该摘要的他们所在的四人曼哈顿人身伤害律师事务所Levidow, Levidow & Oberman召开了制裁听证会。
卡斯特尔在他的责令理由书中还提出了将施瓦茨转交给州律师道德委员会的可能性，该委员会可以调查专业行为。
施瓦茨的法律团队要求卡斯特尔不要对他进行制裁，指出他和他所在公司的声誉已经因这一事件而受损。
施瓦茨的辩护律师罗纳德·明科夫表示，他们所遭受的公开羞辱已经足够作为威慑。
明科夫说，这个案件对于任何律师来说都是“幸灾乐祸”，“因为律师们历来在新技术方面存在困难。”
卡斯特尔在没有说明何时决定可能的制裁的情况下推迟了听证会。
该案件是 Mata v. Avianca, Inc., S.D.N.Y., 22-01461, 6/8/23
要联系本文记者：Justin Wise，邮箱：[email protected]；Bob Van Voris，邮箱：[email protected]
要联系负责本文的编辑：Chris Opfer，邮箱：[email protected]；John Hughes，邮箱：[email protected]