我正在用 ChatGPT 给自家的狗生成一张穿着鹈鹕服装的搞笑照片。几秒钟后，图片出来了——狗狗的装扮很完美，但图片左侧莫名其妙多了一个「Half Moon Bay」（半月湾）的标志。
我并没有要求加这个标志。
但 ChatGPT 记得：几周前，我在一次闲聊中提到过自己住在 Half Moon Bay。于是，它「贴心地」把这个信息加进了这张本该纯粹搞笑的狗狗照片。
https://simonwillison.net/2025/May/21/chatgpt-new-memory/
开发者 Simon Willison 在体验新的记忆功能后沮丧地写道：
我试很多愚蠢的东西。我真的不想让我对穿鹈鹕服装的狗的喜爱影响我以后真正的工作！
他后来想测试 ChatGPT 猜测照片位置的能力，结果发现 ChatGPT 直接从记忆里调出了他的居住地，让整个实验失去了意义，不得不从头再来。
我们与 AI 的对话，已经成为一种新的个人档案。
遗忘变成例外，记忆变成常态
随着 OpenAI 的升级， ChatGPT 可以无限期地记住你曾与它分享过的所有内容。同样，Google 也通过 「无限注意力机制」打开了上下文窗口， 使 Gemini 能够引用无限的输入而不会丢失任何记忆。
对于 ChatGPT 或 Gemini 这类面向消费者的工具而言，这意味着除非你手动干预，否则对话中将始终保持个性化的记忆。
AI 走了很久才走到这一步。
以 ChatGPT 为例，它最初的「记忆」来自上下文窗口，也就是在一次回答前能读到的对话/文本范围。如果我们和它聊了太久，它就会忘了前面的话，当时被嘲笑「得了健忘症」，是「鱼的记忆」。
直到 2023 年 11 月，OpenAI 发布 GPT-4 Turbo（128K 上下文窗口），模型开始在单次会话内能读更长材料、做更完整的跨段落推理。
后来，为了让模型在每次对话里都「记得你希望它怎么回答、你是谁」，产品层引入了自定义指令。用户在设置里写的偏好/背景，会在后续对话中被持续「带入」，让回答风格更一致。
而真正的「长期记忆」来自Memory，系统会把一部分对你长期有用的信息以「记忆条目」的形式保存下来，并在你之后对话时作为参考。
Memory 也变得越来越全面，除了「Saved Memories」，现在还能引用所有过去对话形成的「Chat History Insights」，用来更个性化地回答。
在模型逃离「失忆」的过程中，遗忘被看作是一种缺陷，一种记忆力的下降，一种代码中的漏洞。在日常生活中，我们也把「失忆」视为一场悲剧，紧紧抓住相册和云备份，试图保存那些被时间抹去的记忆。
有网友说：删除 ChatGPT 的 Memory 有一种删除人生的感觉。
为什么呢？
因为它真的承载了很多：你的职业困惑、你喜欢的语言风格、你的目标、你解决问题的思路……
这也让你不会轻易切换到其他 AI 产品，因为切换意味着从头开始，你会失去所有个性化历史。
但这些被提取的个性化信息已经被去语境化与再语境化，因此，它们对个体的记录与反映是片面的，甚至有时是对个体的曲解。
开发者 darsh 在 Twitter 上分享了自己的经历：他只是向 ChatGPT 咨询了一下他爸爸的膝盖问题，结果 ChatGPT 把这个信息记录为「用户有膝盖问题」。从那以后，每次他让 ChatGPT 制定健身训练计划时，深蹲练习都消失了。
有付费用户因此删除了所有聊天记录，他说：
我厌倦了试图清理数千条过去的聊天记录，其中许多只是小片段，但我不得不不断创建新的聊天来重新开始，以避免被污染的对话总是引用我根本没在谈论的东西。
现在情况反而更糟：有时聊天完全不引用他想要的内容，有时又引用了完全不相关的旧信息。
当下的表达，永恒的痕迹
之前大家总是说「互联网没有记忆」，后来发现没有记忆的是自己。
但遗忘不是人类的缺陷，而是特性，当我们制造出不会遗忘的 AI ，反过来帮助塑造会遗忘的人类思维时，又会发生什么呢？
大数据专家维克托·迈尔-舍恩伯格（Viktor Mayer-Schnberger）曾提醒道：
完善的记忆可能会让我们失去人类一种重要的能力——坚定地生活在当下的能力，因为完善的记忆意味着缺少遗忘，人会被困于琐碎的记忆中而失去概括与抽象化以及为当下做决定的能力。
听起来似乎很方便的、能够「了解你」的数字伴侣，会慢慢变成一种束缚。与会逐渐消退和适应的人类记忆不同，无限的内存能够忠实且永久地存储信息。而当这些配备记忆功能的 AI 做出反应时，它们会越来越多地依赖于你保存下来的某个版本，即使那个版本已经过时六个月，与你现在的情况无关。
失忆症患者的悲剧是他活在无尽的现在。AI 的危险可能恰恰相反：活在无尽的过去。
其所谓的个性化与 TikTok、Instagram 和 Facebook 等平台的逻辑高度吻合。大量研究表明，这些平台会放大用户已有的偏好，限制用户的视野，并减少他们接触新颖、具有挑战性的观点。
现在，这种个性化逻辑正在向内发展：从你的信息流到你的对话，从你消费的内容到你的思考方式。
就像社交媒体的「为你推荐」页面算法预测你下一次多巴胺的刺激一样，具有记忆功能的 LLM 会预测并强化与你过去行为密切相关的对话模式，让你安于自己的观点和偏好圈子。
参考：
https://arxiv.org/html/2404.07143v1
https://www.alteredstateprod.com/post/tiktok-algorithm
https://www.doc.cc/articles/we-must-forget
欢迎加入 APPSO AI 社群，一起畅聊 AI 产品，获取，解锁更多 AI 新知
我们正在招募伙伴
简历投递邮箱hr@ifanr.com
✉️ 邮件标题「姓名+岗位名称」（请随简历附上项目/作品或相关链接）
热门跟贴