为何应让强模型自主决定写入记忆而非写死规则
来自夹夹 QQ 群讨论,审核后公开 · 。查看原始讨论
Anthropic研究并非认为模型记忆完全可信,而是实测发现对强模型预先写死记忆筛选规则会压低性能;解决不可靠靠的是拿原始transcript核对重写,而非靠静态规则限制。
要点
- CL-Bench数据库任务对照显示,给Opus 4.7/5加上“只记录失败”规则后记忆增益明显下滑,而只告知记忆用途反而涨分;老模型Sonnet 4.6则相反,需要明确操作指令。
- 固定规则的问题在于任务前无法预知哪些信息有价值,一旦规则把某类信息永久排除,后续整理也无法补回。
- 模型记忆确实不可靠且易写错或膨胀,文章主张将记忆视为假设、原始transcript才是真值,通过dreaming定期回看记录打回重写并做可信度分级。
- 实操折中方案:赋予模型读写删自由,但设定两条硬边界——写入内容须在transcript中有依据、每轮注入的顶层保持容量上限,并配合定期核对。