personal_asset

AI记住越多,越可能理解错你

AI记得越多越可能理解错你;记忆必须带来源、范围和有效期。

AI记住越多,越可能理解错你

10 月 13 日,我把自己的一套 AI 工作规则从一个工具迁到另一个工具。

屏幕上的文字没变。真正麻烦的是把它们重新放回该在的位置:哪些是我长期不变的习惯,哪些只属于某个项目,哪些只是一次事故之后留下的临时限制。

这件事让我重新想了一遍“让 AI 更懂我”到底是什么意思。

如果所谓的懂,只是把我说过的话全塞进上下文,那它记得越多,反而越可能在新问题里继续执行一个已经过期的我。

长期偏好、项目事实和一次决定,长得都像文字,寿命却完全不同。

“和我用中文沟通”是一种长期偏好。换项目、换工具,它通常还成立。

“这个系统只能生成草稿,不能直接发布”是项目边界。放在这个项目里是护栏,带到另一个允许公开发布的流程里,就会把正常动作误判成越界。

“今天某个依赖坏了,先停止投递”则是一条运行记录。它在出故障的那天非常重要,第二天依赖已经修好,还把它当成永久禁令,系统就永远走不出事故现场。

我这套每日写作流程里就有一个很具体的例子。同一篇稿子,微信端只能进草稿箱,个人博客却被允许在验收后公开。一个任务、两个渠道、两条边界。AI 如果只记住“绝不发布”,会把博客也拦住;如果只记住“允许发布”,又可能越过微信草稿箱。两句话都是真的,少了对象就都可能做错。

这三类东西如果混在同一个“关于我”的文件里,AI 不会天然知道谁的权重更高。它只会看到:这些话都来自过去,而且都像命令。

没有范围的记忆,很容易把昨天的正确变成今天的误导。

人也会犯这个错,只是人有时会凭现场感觉改口。机器更认真。它可能把一句旧话执行得十分完整,给出理由、步骤和风险提示,最后还让人觉得它确实很懂自己。

问题恰恰藏在这种顺滑里。

有人会把“本地 AI”理解成答案:资料存在自己的电脑里,聊得越多,它就越像一个私人顾问。

本地存储当然有价值。至少文件放在哪里、谁能直接拿到,自己多了一层控制。

但存储位置只能回答“东西放在哪儿”,回答不了“这句话现在还算不算数”。

一条旧决定即使躺在自己的硬盘上,也还是旧决定;一个只适用于 A 项目的规则,即使没有离开房间,也可能被错误地套到 B 项目上。

本地化挡住的是一部分数据流,不会自动替记忆补上来源、日期和适用范围。更不会在现实变化以后,主动走过来提醒一句:这条该复核了。

保存只是第一步,真正难的是解释。

AI 为什么在这个问题上这么回答?它引用的是长期偏好,还是某个项目的约定?那条约定是哪天写的,后来有没有被新决定替换?

这些问题答不出来,记忆越厚,排错越像在一屋子没有标签的纸箱里找东西。

所以这次迁移里,我最在意的是每条东西搬过去以后还认不认得自己的门牌。少没少搬一条,反而排在后面。

长期习惯放在全局。项目事实留在项目。一次运行的状态进当天日志。正式决定写清日期和来源;现实变了,允许新的证据把它顶掉。

还要给删除和过期留位置。

这听起来有点反直觉。我们总觉得,一个更好的 AI 应该什么都记得,最好连几个月前随口说过的一句话都能捞出来。

可真正帮人做决定的系统,不能只会捞。它还得知道哪些话只能当历史,哪些话需要重新确认,哪些话根本不该被带进眼前的问题。

会忘,不是记忆系统的缺陷,是它不拿过去绑架现在的能力。

我原来以为迁移记忆,是尽量别把旧东西丢掉。

搬完才发现,比保住每一句旧话更重要的,是我还能看见它从哪来、管到哪,以及什么时候可以不再听它。

来源