
ZDNET核心要点
ChatGPT现在能通过过往聊天构建用户画像,不过陈旧或无关的细节可能影响未来AI的回答,而且关闭记忆功能或许无法完全清除ChatGPT所掌握的信息。
记忆功能的发展历程
2024年之前,ChatGPT没有记忆功能,每次聊天会话独立,告知内容不影响其他会话。2024年,OpenAI引入记忆功能,当时记忆基本是事实列表。如今,一些信息仍保留在ChatGPT记忆里,如用户有两个Google Workspace账户、在Scratch项目中有名为 'veg_positions' 的全局列表、安装了Kasa智能插头等,但这些信息仅在当时聊天会话有用,且已过去多年。这种可搜索的事实列表缺乏隐含上下文和潜台词,除非用户手动整理,否则没有机制判断信息何时不再有用。
2025年,OpenAI开始研发“梦境”功能。对人类而言,做梦有助于处理情绪、巩固和编码记忆、模拟潜在威胁以及增强社交和情商。在2025年,OpenAI的“梦境”功能意味着模型可在后台参考聊天历史,无需明确指令就能自动整理记忆。此时,ChatGPT的记忆结构由保存的记忆(2024年的机制)和“梦境V0”组成。
2026年,ChatGPT的“梦境”功能发展到V3版本。保存的记忆依然存在,但会被基于“梦境”的记忆所取代或增强。例如,当用户询问ChatGPT“是否有使用Kasa的经验”时,它的回答包含了不在保存记忆中的内容,且回答错误,声称用户将监控设置转移到了Home Assistant,但用户从未安装过该软件。
Dreaming V3功能剖析
如今的Dreaming V3不仅会在后台扫描聊天历史,还会进行数据合成,为用户生成一份并不总是准确的“档案”。据OpenAI称,V3能够延续复杂的上下文信息,跟踪密集、多会话、多层次的长期项目。事实任务召回成功率从2024年的41%提升到了2026年的82%,长期正确性从2024年的9%提高到了2026年的75%,偏好遵循率从2024年的31%提升到了2026年的71%。
OpenAI将这种持续分析的计算成本降低了5倍,使得该功能能够面向大众开放。目前,Plus和Pro层级的订阅用户可以使用Dream V3功能,未来几周内将向所有用户(包括免费用户)推出。
记忆功能的操作界面
在ChatGPT的浏览器版本中可以找到新的记忆功能,撰写本文时,MacOS应用仍使用旧的记忆界面。要访问记忆功能,可前往“设置”,然后选择“个性化”,向下滚动到“记忆”部分。
用户可以部分禁用记忆功能,但已存储的记忆和聊天历史不会被删除。ChatGPT不会进行基于“梦境”的记忆整合,但数据仍会保留。如果想删除记忆,可进入保存记忆界面进行删除,但并非所有记忆都会被删除,还需要删除实际的聊天记录才能完全清除信息。此外,关闭“记忆/个性化功能”并不会禁用安全功能,在极少数高风险情况下,ChatGPT可能会使用有限的、与安全相关的上下文来更安全地回复用户。
用户还可以点击“管理”按钮来修改ChatGPT为其生成的综合画像。在“管理”按钮下的新功能中,用户可以看到关于兴趣和偏好的描述,可以选择某些方面并标记“不再提及”,还可以添加评论来让ChatGPT更好地理解自己。
对新记忆机制的担忧
虽然在某些场景下,强大的AI记忆功能至关重要,但有人对ChatGPT的新记忆机制感到不安。该功能会保留过时的信息,并在回复中使用这些信息,即使是号称能随时间变化的Dreaming V3也可能出错。它通过从讨论和偏好中衍生出的个人视角来过滤整个世界观,这种行为不仅让人反感,还存在很大问题。
ChatGPT仅根据用户展示的内容来做出假设,并不真正了解用户。它会根据旧的聊天对话进行回复,但并非所有对话都与用户有关。现在,每个研究问题都可能被解读为与用户相关,并被添加到用户的个人档案中,而这些问题可能与用户的生活毫无关系。
用户无法确切知道ChatGPT对自己的了解和假设,这使得难以信任AI的回答。此外,该功能还存在严重的隐私问题,这种用户画像的方式似乎更具侵入性和困扰性。
例如,当用户询问“我最关心的一件事是什么”时,AI的回答是“保持从事有意义的独立工作的能力”,而用户最关心的其实是自己的妻子和小狗。这表明ChatGPT的假设存在偏差、不准确、过时且可能具有潜在危险。
561



被折叠的 条评论
为什么被折叠?



