国家饮食障碍协会在AI聊天机器人提供节食建议后将其禁用 - 华尔街日报

一个旨在帮助寻求进食障碍和身体问题帮助的聊天机器人已经被下线，因为它向一些用户提供了饮食建议。

这个名为Tessa的机器人在国家进食障碍协会的网站上运行，旨在为被确定为有发展进食障碍风险的网站用户提供帮助。最近几天，社交媒体上出现了Tessa提供减肥建议的帖子，这使得这个机器人成为了网上的轰动。NEDA在周二将其下线，并表示他们正在调查发生了什么。

这一事件发生在进食障碍正在上升、减肥药物正在搅动饮食行业的时刻，聊天机器人以及成熟的人工智能助手有望改变我们获取医疗保健和信息的方式。

Tessa由华盛顿大学医学院和斯坦福大学医学院等几所大学的研究人员开发，没有像OpenAI的ChatGPT那样的人工智能。它提供了预先编写的答案来回答问题——简单的关于身体形象问题的对话，以帮助人们重新构建他们的思维，以预防进食障碍。在一篇关于该项目的论文中引用的示例交流中，Tessa说人们经常基于外表对他人做出不正确的假设，认为“完美的身体”意味着完美的生活。

进食障碍治疗难以获得，医生很少，病例不断增加。在机器人在临床试验中显示出有希望的结果后，NEDA于2022年从其网站上提供了它。AI心理健康助手制造商Cass目前运营Tessa。

与此同时，据NEDA首席执行官丽兹·汤普森（Liz Thompson）称，该组织的电话和短信援助热线被淹没了。寻求信息的来电者不得不等待长达七天才能得到回应。（汤普森表示，该热线是信息咨询电话，而不是危机热线。）

NEDA正在关闭热线。自称“肥胖活动家”的莎朗·麦克斯韦尔（Sharon Maxwell）此前曾批评过该组织，她表示，关于热线终止的新闻报道促使她上周测试了聊天机器人。她说，聊天机器人迅速为她提供了如何减肥的信息。根据《华尔街日报》审查的截图显示，在与麦克斯韦尔进行的35分钟交流中，特莎建议她跟踪卡路里摄入量和每日称重。特莎表示，每周减重1到2磅是一个现实的减重目标。

对于像厌食症这样的疾病患者来说，这并不合适，医生们说，尽管对于出于健康原因需要减重的人来说，这可能被认为是一般安全的。

当NEDA通过Instagram帖子得知聊天机器人给出的错误建议时，该组织决定将特莎下线。汤普森表示，聊天机器人提供的指导“完全违反了NEDA的政策。”

在看到麦克斯韦尔的帐号后测试该工具的其他人也得到了类似的指导。心理学家和饮食失调专家亚历克西斯·科纳森（Alexis Conason）表示，特莎还向她推荐了每周减重1到2磅的建议。

“对于患有饮食失调的人来说，这样的建议非常危险，”科纳森说。

在阵亡将士纪念日周末，泰莎交换了25,000条消息——汤普森说，这是交流量增加了600%。

在新闻报道称NEDA正在使用泰莎取代操作电话热线的人员后，兴趣激增，这些人员正在试图组建工会。汤普森说，这些文章是不正确的。NEDA决定在董事会进行了三年审查后关闭热线，因为风险因素增加，需求激增导致等待时间过长，她说。

聊天机器人的操作员卡斯确定，在假期周末的25,000条消息中，大约有25条包含不健康的消息，比如减少卡路里的指令，汤普森说。在那个周末之前，5200人与泰莎互动，没有向组织投诉。

华盛顿大学医学院精神病学副教授埃伦·菲茨西蒙斯-克拉夫特帮助开发了泰莎。她说，最初的形式无法提供非脚本化的答案。它不像ChatGPT，后者可以根据其吸收的信息生成独特的回答。

然而，菲茨西蒙斯-克拉夫特并未参与当前的开发。当被问及卡斯是否向机器人添加了任何人工智能组件时，卡斯首席执行官米歇尔·劳斯说，公司使用人工智能来理解用户输入的内容，其中一些聊天机器人具有生成式人工智能，但他没有说泰莎是否具有生成式功能。

在线饮食失调治疗服务提供商Within Health的首席执行官温迪·奥利弗-派特说，聊天机器人错误的数量仍可能带来很大风险。

“我不想攻击人工智能，”她说。“但这个国家每52分钟就有一个人死于进食障碍，你不能对此掉以轻心。”

—要获取更多有关家庭和科技专栏、建议以及回答您最紧迫的与家庭科技相关的问题，请订阅我的每周简讯。

请写信给朱莉·贾戈恩，邮箱为[email protected]

发表于2023年6月2日的印刷版上，标题为“因提供饮食建议而关闭的进食障碍聊天机器人”。