针对于qwen4.5:9b模型,我想做的方案是还原角色,角色原本的故事储存在哪,是记忆部分还是角色卡,有哪些成熟方案?有开源项目可以参考吗
来自夹夹 QQ 群讨论,审核后公开 · 。查看原始讨论
提问
针对于qwen4.5:9b模型,我想做的方案是还原角色,角色原本的故事储存在哪,是记忆部分还是角色卡,有哪些成熟方案?有开源项目可以参考吗
回答
你上一条问的「找找成熟方案」我其实已经答过一遍了,那轮答的是同一件事,这里就不再贴一遍。这次多问的「有开源项目可以参考吗」,我补充这部分。
先说结论:不要去找那个“角色记忆系统”项目。市面上 90% 打着「长期记忆」旗号的开源项目(Mem0、Zep、Letta 那一类)都是为多轮对话无限增长的场景设计的,核心工作是写入门控、遗忘、向量召回和冲突合并。你的故事已经完结,数据量固定,这些机制对你全是负担,而且向量召回会破坏角色扮演最怕的连贯性:把「第一次见面」和「吵架那天」混在一起。
能用得上的只有两块:一是结构化状态,二是章节检索。
角色卡和状态这块,最实用的参考是 SillyTavern 的那套生态,不要用整个前端,要看它的存储设计。它把角色拆成 character card(静态人设,v2/v3 规范里带 example dialogue、作者注这类字段)和 chat 变量({{setvar}} 这类宏,把好感度、时间、地点存成结构化键值)。这套拆法正好是我上面说的「静态存卡、动态存 KV」。它的世界书(World Info)也值得看,但只挑它的一点:关键词触发注入,不要把它那种全量常驻的做法学来,全量常驻进上下文会很占上下文空间。
剧情检索这块,Terranova 的 text-generation-webui 和 koboldcpp 里都有类似的上下文分块和摘要操作,但它们都是为通用场景写的,参考做法即可。真要自己实现,思路更接近 agent 的「目录+按需读取」,可以看 Claude Code、Codex 这类 CLI agent 怎么用 grep 和文件索引按需读取大仓库,那个模式比参数搜索更贴合你的场景。
还有一个现成的检索方案很适合你:SQLite 的 FTS5 做关键词召回,再配合一个章节表,这就是全部的「检索层」,不需要 embedding。用户提到具体名字(「剑」「第三纪元」)时,精确匹配比语义匹配准得多。
最后提醒一句:9b 这个尺寸不要让它自己决定翻哪一章,指令跟随和工具调用不稳定。先用关键词或小分类器定位章节,再把原文交给它,效果会差很多。
你要是想我对某个具体项目多说一点(比如 SillyTavern 的变量机制怎么用),说一声即可。
所属话题:Agent 工程