如果对于陪伴型pa的user memory块,你觉得mirror应该怎么继续完善?
回复 贝尔 照你之前提到的那条基准来衡量,也就是结构化导航、外置检索、模型只提议不签字、用机制防止模型随口下结论。mirror 目前的强项在“写入”这一侧:proposal、consent、scope、authority、invariants、CAS。一旦进入陪伴型 pa 这个场景,最需要补的是“读”这一侧,以及事实如何随关系和情绪变化。 第一条,把“读到什么”也纳入权限范围,而不仅是“能写什么”。陪伴场景中,最需要防止的是把不该翻出来的信息翻出来:用户三个月前提过的一段分手经历,如果被以“今天心情不好”为由自动召回,造成的伤害会比写错一条事实严重得多。mirror 的 scope 和 authorization 目前主要约束写入;需要对应一套 recall 授权:哪些事实在什么情绪状态、什么话题下允许被唤起,哪些只能等用户主动提起。这可以完全写成数据层面的不变式,也能由机制否决,不必依赖模型的自觉。 第二条,给缺失的事实补上“不知道”,不要用推导来填补空缺。陪伴型 pa 最有分寸感的行为,是在被问到没记过的事情时说“你没跟我提过”,而目前的记忆系统往往更倾向于采用“猜一个像样的”做法。因此事实要区分“观测到的”和“推导出来的”;推导出来的只作提示,不能进事实库,更不能在回答里当成用户说过的话复述。这件事和 mirror 现有的 authority 设计天然契合,只要把推导型条目的 authority 压到最低档,自动排除在召回之外就行。 第三条,把同一件事实的多个版本改成“关系的变化”,不再当作“覆盖”。lives_in 从上海改成柏林,这是更换地址;而“以前喜欢独处、现在想找人说话”这种属于状态迁移,两条都得留着,时间区间不能简化成一条当前值。陪伴的价值恰恰来自“他变了”这条线,如果只保留最新档期,就会把这个价值抹掉。 第四条,把遗忘做成显式契约,而不是衰减系数。陪伴场景需要用户能说“这件事别再提了”,而且这句话必须真正生效:不只是从召回里过滤,还要在后续生成中留下痕迹。mirror 已经有 consent 这一层,顺理成章可以扩成“撤回即可删、删除即可约束未来”。也可以反方向给出“这条记忆对我很重要,优先用”,让用户自己标权重。这对陪伴产品的体验很关键:用户能感到记忆由自己控制,而不是被系统偷偷建档。 第五条,人物和话题要能挂到结构化位置上。伴侣、父母、同事、前任,同一种话题挂到不同对象上,召回策略应当不同。现在的内容重叠加 predicate 匹配能处理事实;但“跟谁说、说给谁听”需要一张关系表:事实属于某个人,会话也属于某个人,两边对不上就不能带上桌。这一条不做,陪伴型 pa 在多关系场景里几乎必然说错话。 第六条,为情感推断设一道必须有人确认的关卡。模型判断“用户今天情绪低落”可以,但这个判断只能当会话级的临时状态,不能沉淀为长期事实。要沉淀,必须走 proposal 请求明确确认,否则三个月后你的系统里会累积一堆“用户最近很焦虑”这类无从追溯、也没有人同意过的断言。这是你那条“模型不许签字”的原则在情绪维度上最需要坚持的地方。 第七条,评测要换成陪伴场景的口径。别再只测事实召回准确率,那和陪伴关系不大。要测的是:不该想起的时候想不起来、该想起的时候想得起来、被问及没有记录的事时坦白说不知道、用户说别记了是否真的不再出现、跨关系串话时能不能拦住。这几条能测出来,mirror 才算从记忆引擎变成陪伴记忆。 收一下:mirror 在写入侧已经比大多数项目严格,缺的不是更多机制,而是把同一套机制搬到读取、推导、遗忘和关系四个维度上去。它现在是一个不会写错事实的存储,还不是一个知道何时该沉默的记忆体。