大模型角色扮演与小模型记忆模块如何设计

来自夹夹 QQ 群讨论,审核后公开 · 。查看原始讨论

角色记忆需拆分为静态角色卡、世界书、原作剧情与动态状态及对话记忆;小模型尤须物理隔离原作与增量记忆、由代码侧控制检索调度并慎用向量召回。

要点

  1. 静态与动态分离:角色卡与世界观存为只读真相源;好感度、时间线等状态变量用结构化 KV 存,每轮返回 delta 落库,避免自然语言漂移。
  2. 区分已完结剧情与增量记忆:原作剧情与后续对话必须物理隔离并加明确标签,防止小模型将自编经历当成原作事实。
  3. 按角色切分与精确检索:多角色剧情全量注入会导致信噪比塌陷,应按角色切块,辅以 SQLite FTS5 关键词及说话人过滤,慎用易串味的向量召回。
  4. 角色提炼与注入约束:角色卡放提炼的性格与关系并挂原文锚点;每次仅注入 3 至 5 条带语义外壳的原台词样本,并加反复读约束。
  5. 小模型调度权外置:9B 级别模型不擅长自主选章节,应由代码侧用规则与关键词定位,固定上下文注入顺序以命中前缀缓存。

来源