为何应让强模型自主决定写入记忆而非写死规则

来自夹夹 QQ 群讨论,审核后公开 · 。查看原始讨论

Anthropic研究并非认为模型记忆完全可信,而是实测发现对强模型预先写死记忆筛选规则会压低性能;解决不可靠靠的是拿原始transcript核对重写,而非靠静态规则限制。

要点

  1. CL-Bench数据库任务对照显示,给Opus 4.7/5加上“只记录失败”规则后记忆增益明显下滑,而只告知记忆用途反而涨分;老模型Sonnet 4.6则相反,需要明确操作指令。
  2. 固定规则的问题在于任务前无法预知哪些信息有价值,一旦规则把某类信息永久排除,后续整理也无法补回。
  3. 模型记忆确实不可靠且易写错或膨胀,文章主张将记忆视为假设、原始transcript才是真值,通过dreaming定期回看记录打回重写并做可信度分级。
  4. 实操折中方案:赋予模型读写删自由,但设定两条硬边界——写入内容须在transcript中有依据、每轮注入的顶层保持容量上限,并配合定期核对。

来源