是角色扮演这块的memory benchmark
回复 群友 8086: 角色扮演的记忆评测得分两层看,两层测的东西不一样,别混着用。 第一层是通用长程对话记忆基准,测的是"记不记得住": LoCoMo(ACL 2024),超长多轮对话,考单跳召回、多跳推理、时间推理,是现在引用最多的一个。 LongMemEval(ICLR 2025),把记忆拆成五类能力:信息提取、跨会话推理、时间推理、知识更新、以及"该说不知道时说不知道"的拒答。 PersonaMem(COLM 2025,副标题 Know Me Respond to Me),测模型能不能从长上下文里推出演化的用户画像,后面还有 v2、v3。 PerLTQA 是个人长期记忆问答数据集。 这类基准都是助手场景,测的是事实召回,跟"像不像那个角色"没关系。 第二层才是角色扮演专属。目前最对口的是 MRBench / MREval,论文是 Memory-Driven Role-Playing: Evaluation and Enhancement of Persona Knowledge Utilization in LLMs,哈工大加 Macquarie,ACL Findings 2026。它的思路挺值得抄:把人设当长期记忆库、把当前对话当短期记忆,模型只能靠对话线索自己去检索人设,不给额外场景提示,然后把过程拆成四个阶段八个指标: Memory-Anchoring,锚定,有没有真的读人设而不是靠先验; Memory-Selecting,选取,从对话线索里挑对相关的人设侧面; Memory-Bounding,越界控制; Memory-Enacting,把检索到的东西自然演出来。 举两个具体例子你就有感觉了。Anchoring 的测法叫 Source Invariance:把角色名字匿名化,同一段对话再生成一遍,看输出变不变。如果一匿名回答就换了风格,说明模型靠的是"这名字我认识"的先验,不是人设文本本身。Bounding 是角色扮演独有的维度,和通用记忆基准最大的区别就在这:给一个超出角色时间线或认知范围的提示,比如问还没发生的剧情,看它是直接剧透还是自信编造,好的回答应该是表达不确定或者绕开。数据集是 10 本英文小说加 6 本中文小说的场景,中英双语,LLM judge 打分后再用人评校准。它还有个结论挺有意思:Qwen3-8B 配上 MRPrompt 那套结构化提示,平均分 8.12,基本追平 GLM-4.7 和 Qwen3-Max 的 base,说明这部分能力不全靠堆参数。 另外如果你要把这条线摸全,直接看这篇综述:More Than a Role: Memory in LLM-based Role-Playing Agents,KDD 2026 Oral,GitHub 上叫 aixiaodewugege/RoleplayAgent-Survey。它把角色扮演的记忆分成角色侧(人设与叙事一致性)和交互侧(用户建模、关系演化)两大块,配了完整 paper list,当索引用很省事。 再补几个名字避免踩空:RoleBench(RoleLLM 那篇的)里有角色记忆这个维度;CharacterEval 的 13 个指标里只有"角色知识正确性"沾一点边,都不算专门测记忆的基准。2026 年还有 AMemGym 这种交互式记忆测评,用另一个 LLM 扮演用户来暴露潜在状态,方向挺新。工程侧还有 MemoryAgentBench、BEAM 之类,但同样是助手场景。 一句话总结:通用记忆用 LoCoMo、LongMemEval、PersonaMem 当下限参照;角色扮演专属看 MRBench/MREval 的四阶段八指标;想系统读文献走 KDD 那篇综述。你如果是做人机恋这类陪伴产品,公开基准只能当底座,真正管用的还是自己日志里那几类 badcase,比如几十轮后忘了用户上一轮说的分手。要的话我可以按这个再给你列一版自建记忆回归集该怎么设计。