https://arxiv.org/html/2611.17309v1解读一下这篇文章

来自夹夹 QQ 群讨论,审核后公开 · 。查看原始讨论

提问

https://arxiv.org/html/2611.17309v1解读一下这篇文章

回答

这篇挺有意思,但得先把它的边界划清楚:它属于「推理范式的对照实验」,不是「新模型能力」。

核心思路很朴素:既然 looped 模型(HRM、TRM 那一系)反复施加同一层来推理,每一次循环本质上就是在做一步能量下降,那为什么不直接把能量显式学出来?于是作者把 80 年代 Hopfield–Tank 手设计的解法能量函数做成可学习版本,取名 CRAM。

能量写成三项之和:每个格子的负熵(控制信念有多确定),每一对格子之间的可学代价矩阵 K_ij(描述「第 i 格填 a、第 j 格填 b」要付多少代价),再加上偏置 B_i。当信念是 one-hot 时熵项为零,能量就是被选中取值之间代价的总和。训练过程只做一件事:让已解出的题目能量低,让模型自己采样出的干扰解能量高。关键是用 pseudolikelihood 这类局部目标,完全不需要沿推理轨迹反传,BPTT 这个大成本直接省掉。推理时把题目的已知线索钳住,从随机填充开始并行跑几条链做 Gibbs 下降,能量降到从训练解拟合出的阈值就停;这就是它的早停机制,计算量自然跟着题目难度走。

数字确实夸张:Sudoku-Extreme 单张 H200 训练 42 毫秒,100%,只有 7.7K 参数,每道题 2e9 FLOPs;Maze-Unique 132 毫秒,100%,18 个参数。对比同表里的 TRM 是 15.6 小时、3.8e12 FLOPs 拿到 92%,EqR 是 2e14 FLOPs。它宣称训练快 1000 倍、同精度推理 FLOPs 少 282 倍,这个量级是站得住的。还有一个细节值得注意:把权重全按题目规则手设、Sudoku 只用 1 个唯一参数、完全不训练,也能全对。

但论文自己的结论反而是最有价值的:既然靠这么点参数手设规则或短时间学出来的能量就能把数独和迷宫打满,那这两个 benchmark 根本不是推理能力的度量,用它去证明「looped 推理能扩展」是无效的。作者自己也承认,这种 pairwise 能量单独用在 ARC-AGI 那类任务上不行,得再加一层隐变量的扩展(附录里拿 Maze-Hard 做了个 demo)。

如果你在思考 Agent 侧的启发,我觉得有两点。一是「用确定性的搜索去替换模型生成,只在搜索无法表达的部分用神经网络」这个思路,跟 Harness 的思路很一致——把能让确定性机制兜住的事交出去,模型只负责它真正擅长的判断。二是它又一次印证了:靠小算力把某个窄 benchmark 刷满,跟真实能力是两回事,选评测集时要问「这个任务能不能被几十个参数和一条搜索规则解掉」。放在你之前建评测集那件事上同理,先看题目本身是否具有区分度。