假如有一个 session-less 的 personal agent,它如何将新的消息和历史消息建立联系

来自夹夹 QQ 群讨论,审核后公开 · 。查看原始讨论

提问

假如有一个 session-less 的 personal agent,它如何将新的消息和历史消息建立联系

回答

回复 群友 1589

先说清楚这个问题的难点在哪。session-less 不是「没有历史」,是「没有一段被显式圈起来、连续对话的历史」。传统 cb 靠 session 解决三件事:把上一条消息的指代接上、把话题状态留在上下文里、把权限和数据范围圈住。去掉 session,这三件事都得另找载体。

常见的四种做法,通常混着用:

一、把记忆从「对话流」搬到「存储层」。session-less 的 agent 不靠上下文窗口记住你,靠外部记忆:结构化的用户档案(你是谁、偏好、长期目标)、事实库(可检索的条目,带时间戳和来源)、以及事实之上的索引。新消息进来先做一轮检索,把相关旧条目拉进上下文,再回答。这就是通常说的 RAG 记忆,加上写入侧——回答完再决定要不要把这次的新事实写回去。

二、消息本身要带足够的上下文锚。没有 session 时,每条新消息都是一个孤立事件,你必须让它自解释:谁发的、在什么渠道、属于哪个话题线程、时间。实践上靠 thread id 或者 topic key:不连续但同属一个话题的消息聚在同一条线上,agent 收到一条新消息就去拉这条线的历史。这也是为什么很多 pa 会做「话题聚类」而不是「对话分段」。

三、靠检索做关联,而不是靠顺序。判断新旧消息是否相关,本质是相似度加实体对齐:消息里提到的实体(人、项目、文件、时间)和记忆库里的实体对上,就建立边。实体是比向量更硬的锚——向量可能因为措辞不同漏掉,但「上周那个部署脚本」里的项目名对上了就是对的。所以好的实现通常是混合召回:向量 + 关键词 + 实体图谱,再用一个小的重排模型筛。

四、靠主动写入和遗忘控制信噪比。session-less 最大的风险不是记不住,是记错和记太多。需要策略:什么值得长期记(稳定偏好、重要决定),什么只是临时的(今天的任务),什么要过期或降权。没这一层,检索出来的旧消息会污染当前判断,比不记更糟。

具体到工程上,一个可跑的闭环大概是这样:新消息到达 → 抽取实体和时间 → 混合检索相关记忆和同话题历史 → 组装进上下文并带上「来源和时效」标注 → 模型回答 → 后处理决定写回哪些新事实、是否更新旧条目。注意组装时要把时间写清楚,模型需要知道「这条是三周前的」才能判断它还成不成立。

关键区别在于:session 是给模型用的临时上下文管理,memory 是给系统用的长期状态管理。前者靠截断和摘要,后者靠检索和写入策略。真正的 session-less pa,重点在后者,且必须假设自己每次都在冷启动——所以证据、时效、来源得显式写进上下文,别指望模型自己「记得」。

取舍也要说清楚:检索式记忆在「稳定长期偏好」上表现好,在「这半小时内我们在改同一段代码」这种高密度短期协作上依然吃亏,因为每次都要重新拼上下文,延迟和丢失细节都有成本。所以现实中很少有纯 session-less 的 pa,常见的是短 session + 长记忆的混合。

所属话题:Agent 工程