给ChatGPT增加更多内存的人类危险 - 彭博社
Parmy Olson
摄影师：SOPA Images/LightRocketOpenAI 正在推出它所称的ChatGPT中的记忆功能**。**这款热门聊天机器人将能够存储有关其用户的关键细节，以使答案更加个性化和“更有帮助”，据OpenAI称。这些细节可以是关于您的家庭或健康的事实，或者关于您希望ChatGPT如何与您交谈的偏好，以便它不是从一个空白页面开始，而是带有有用的上下文。与许多科技创新一样，听起来前沿和有用的东西也有一个黑暗的反面：它可能会对我们的数字隐私造成更大的伤害，甚至可能把我们进一步推向社交媒体塑造的同质化信息圈。
AI公司多年来一直在追逐增加聊天机器人“记忆”的新方法1，以使他们的机器人更有用。他们也在遵循Facebook的成功之路，收集个人信息以更好地定位用户，为他们提供内容以保持他们的浏览。
OpenAI的新功能 —— 将推出给付费订阅用户和免费用户 —— 还可能使其客户更加参与，有利于业务。2目前，ChatGPT的用户在该服务上的平均访问时间为七分半钟，根据市场调研公司SimilarWeb的数据。这使其成为最具吸引力的人工智能服务之一，但这一指标可能会更高。例如，YouTube的访问时间为20分钟。通过处理和保留更多的私人信息，OpenAI可以提高这些吸引力指标，并保持领先地位，超过来自微软、Anthropic和Perplexity的竞争对手的聊天机器人。
但是还有令人担忧的副作用。OpenAI表示用户将“控制ChatGPT的记忆”，但机器人也可以“自行获取细节”。换句话说，ChatGPT可以选择记住它认为重要的某些事实。客户可以进入ChatGPT的设置菜单，关闭他们希望聊天机器人忘记的任何内容，或者完全关闭记忆功能。“记忆”将默认开启，使用户有责任关闭它。
ChatGPT可以存储和回忆有关用户的关键信息的示例。来源：OpenAI默认情况下收集数据多年来一直是Facebook的设置，如果其他公司效仿OpenAI，扩展“记忆”可能成为人工智能中的隐私雷区。OpenAI表示它只使用人们的数据来训练其模型，但其他聊天机器人制造商可能更加宽松。最近对11个浪漫聊天机器人的调查发现，几乎所有聊天机器人表示他们可能向广告商和其他第三方分享个人数据，包括有关人们性健康和用药情况的细节，根据Mozilla基金会的说法，这是一个倡导在线透明度的非营利组织。
这里还有另一个意外后果，这让人联想到Facebook：一个记忆力强的ChatGPT可能会加强人们所处的过滤气泡，这要归功于多年来社交信息流一直在向他们提供一系列确认其文化和政治偏见的内容。
想象一下，ChatGPT在其记忆库中记录了我支持某个政党。如果我之后问这个聊天机器人为什么它的政策对经济更有利，它可能会优先考虑支持该政党的信息，并省略对这些政策的批判性分析，使我远离可行的反对观点。
如果我告诉ChatGPT记住我是环境可持续性的坚定支持者，那么我未来关于可再生能源的查询可能会得到忽略化石燃料有时可能是可行的答案。这会让我对能源辩论有一个更狭窄的视角。
OpenAI可以通过确保ChatGPT在政治或社会问题上提供多元化的观点来解决这个问题，即使这些观点挑战了用户的偏见。它可以添加批判性思维提示，鼓励用户考虑他们尚未表达的观点。而且为了透明起见，它还可以告诉用户当它提供定制信息时。这可能会减弱其参与度指标，但这将是一种更负责任的方法。
ChatGPT经历了爆炸式增长，推动用户参与，并且现在存储个人信息，这使得它的发展轨迹看起来很像马克·扎克伯格曾经追求的道路。为了避免他的应用程序对心理健康和社会产生的同样有害的副作用，OpenAI必须尽一切努力阻止其软件将人们置于更深的信息孤岛中。批判性思维的概念对人类来说可能变得非常新颖而危险。
更多来自彭博社论：
想要更多彭博观点吗？ OPIN <GO>****。或者您可以订阅 我们的每日新闻简报**。**