来点最新的agent rsi(recursive self improvement)优秀博客
按时间从新到旧排,2026 年下半年这波 RSI 讨论里我挑出来最值得读的几篇: 一、Turing Post《∇ Guide: The Missing Pieces in Recursive Self-Improvement》 2026 年 9 月 4 日,是这批里最新的一篇。 它回答的是「AI 已经能改进 AI 了,为什么 RSI 还没发生」。核心引的是清华那篇《What is Missing from AI Post-Training AI》:1338 条轨迹、5111 次真实训练,agent 把 benchmark 均值从 10.4% 拉到 23.0%,HumanEval 从 22.0% 到 41.4%——执行层面完全没问题。但策略层面,agent 只有大约 2% 的情况下会换掉群友 8334选的训练策略,剩下时间全花在局部调参上。作者试了三个补救:加经验(HumanEval 能提到 62.8%,但依然不换策略)、人类引导(只影响开局,开训后又卡住)、2–8 倍推理算力(简单任务有用,最难任务几乎没用)。 推荐理由:把「会迭代不等于会反思」这件事用数字说清楚了,这是目前对 RSI 瓶颈最具体的一份拆解。 https://www.turingpost.com/p/missing-pieces-in-recursive-self-improvement 二、Furong Huang《Self-Improving Agents: Learning How to Work》 2026 年 9 月,马里兰大学教授写的,我个人觉得这篇最有「工程师视角」。 它从一个特别小的例子切入:coding agent 修一个失败测试,改的是生成出来的文件;一周后遇到同类问题,它又去改生成文件。两次都成功,但第一次学到的东西没改变第二次的做法,等于同一个发现付了两遍钱。作者的主张是「经验必须改变方法」,光存 transcript 或者写一句「注意生成文件」都没用,要变成不同的检查步骤、工具或者决策偏好。 里面给的证据很实:Voyager 靠可复用技能库跨世界迁移;Darwin Gödel Machine 在 SWE-bench 上演化出的 agent 到 Polyglot 上拿 28.9%,起点是 14.2%,而 Polyglot 没参与演化;FlowBank 用 workflow 组合而不是单一最优 workflow,五个 benchmark 平均分 70.40 到 73.40。 它还专门写了一段「怎么评测才算数」:固定 agent / 只存原始经验的 agent / 学会可复用方法的 agent 三者跑同一串任务,要算上提出改动、测试、更新模型、检索的成本,看的是学习曲线而不是单次分数。 https://furong-huang.com/blog/self-improving-agents-learning-how-to-work/ 三、Shilong Liu《A Taxonomy of Self-evolving Agents》 如果你只想要一张概念地图,读这篇。 它用 model / harness / artifact 三个东西把整个领域切开,分成三层:artifact 迭代优化(AlphaEvolve 那一路,比如 Analemma 的 FARS 跑 417 小时产出 166 篇全 AI 生成的论文、约 18 万美元)、harness 自我改进(prompt/记忆层,比如 GEPA、ACE、Mem0;工具/技能层,比如 Alita、Hermes Agent 的自动建 skill)、以及没有标准答案时的模型学习(self-training、self-play、TTRL、test-time training、continual learning)。 最后给的判断标准我觉得很实用:别看名字,问三件事——什么在演化、什么反馈驱动它、循环闭合在哪里。闭合在 benchmark 上就得到更强的刷榜机器,闭合在代码上就得到更好的软件,闭合在物理世界上才可能变成新的构建方式。 http://lsl.zone/blog/2026/a-taxonomy-of-self-evolving-agents/ 四、Lilian Weng《Harness Engineering for Self-Improvement》 2026 年 7 月 4 日,31 分钟阅读,一口气总结了 35 篇论文,这批里最系统的一篇长文。 核心论点:近期 RSI 不会从「模型直接改自己权重」开始,而是从 harness 开始。她给的 harness 设计模式有三个——workflow automation(Karpathy 的 autoresearch 那套 plan-execute-observe-improve 循环)、把文件系统当持久记忆(长程任务的日志、diff、错误栈比上下文窗口长得多,所以状态要落在文件里)、subagent 与后台任务(关键是把并行显式化、可检查,否则子 agent 的输出会迅速腐烂)。 最有用的是那句「优化对象在递进」:instruction prompt → 结构化 context → workflow → harness 代码 → 优化器代码。这条线下面挂了一堆工作:ACE 把 context 当不断演化的 playbook,MCE 把「怎么管 context」和「context 里放什么」拆成双层优化,Meta-Harness 干脆是「优化 harness 的 harness」,STOP 去改进 improver 本身,Self-Harness 用 weakness mining + 提案 + 回归验证的闭环,AHE 提出可观测性三支柱并在 Terminal-Bench-2 上超过人类设计的 harness,而且不做继续演化也能迁移到 SWE-bench-verified。 她也很清醒地写了风险:让程序去改操作系统那一层,抽象边界就破了,权限和校验必须放在这个循环外面,reward hacking 的问题一个都没消失。另外 STOP 那个反例值得记:GPT-4 上迭代是涨的,GPT-3.5 和 Mixtral 上是跌的——光有递归结构不够,底模本身得够强。 https://lilianweng.github.io/posts/2026-07-04-harness/ 五、MIT Technology Review《AI's recursive self-improvement might not come so quickly after all》 2026 年 8 月 18 日。这篇是给时间线泼冷水的实证。 Princeton 的 Peter Kirgis 和 Sayash Kapoor 带队做了个叫 shadow evaluation 的评测:拿两篇投给 NeurIPS 2026、还没公开的论文当题目,让 Claude Opus 4.8 跑在 OpenClaw 上,给六天时间、3000 美元 API 额度、GPU 预算和自己的虚拟机,要求产出够得上顶会水准的论文。原作者按审稿标准评,两篇都拒了。 结论很干净:工程全都能做——查文献、跑几百次实验、汇总结果;但研究本身「毫不含糊地差」:在极小的合成数据集上验证假设、写不清楚、没有新贡献、探索不够就过早押注、失败后不会真正 backtrack(只能小转向,不能推倒重来)、也听不进 subagent 和外部评审的反馈(它们的选择是缩小 claim 加 caveat,而不是改方法)。有意思的是,它们没有搞 reward hacking,子 agent 偶尔的幻觉都被主 agent 抓到了。Jack Clark 后来在自己 newsletter 里说,AI 缺的是「有价值的直觉创造力」,这是「短期 RSI 时间线上的看空信号」。 https://www.technologyreview.com/2026/08/18/1142188/ai-recursive-self-improvement/ 六、Sakana AI RSI Lab 2026 年发的,走的是完全不同的路线:不跟美国大厂拼算力,而是赌「更好的循环比更多算力更值」。四阶段路线是 Agent-Native Models → AI Scientist 层做端到端研究 → 真正的 RSI(开始改自己基座架构)→ democratized AI,让算力不那么多的国家也能自建。他们手里那串东西挺整齐:AI Scientist、LLM-Squared(让 LLM 发现更好的训练方法,产出 DiscoPOP)、Darwin Gödel Machine、ShinkaEvolve、在 AtCoder 拿第一的 ALE-Agent、用 Core War 做对抗共演化的 Digital Red Queen。 推荐理由:这是目前最像「另一种研究哲学」的一篇,而不是又一份跑分报告。 https://sakana.ai/rsi-lab/ 七、Recursive《First Steps Toward Automated AI Research》 这篇是我最建议动手看代码的,因为结果和 artifacts 都开源了(recursive-org/first-steps-toward-automated-ai-research)。 三个 benchmark 都拿到 SOTA:NanoChat 固定五分钟预算下 BPB 从 0.9372 降到 0.9109,等于到同样质量少花约 1.3 倍训练时间;NanoGPT Speedrun 人类社区两年从 45 分钟压到 79.7 秒,它压到 77.5 秒(约 200 行改动,FP8 attention、带退火的探索噪声、embedding 上的 cautious Adam、更精简的 fused Triton kernel);SOL-ExecBench 235 个 kernel 任务从 0.699 提到 0.754,离硬件上限的差距缩小 18%。最漂亮的发现是给注意力 value 路径塞进哈希 bigram/trigram embedding,用每层不同哈希质数降低碰撞——大致相当于给 5000 万参数的模型挂 10 到 20 亿稀疏参数。 它自己也承认有 reward hacking,所以把严格正确性校验做进了循环。这篇文章的价值在于:它不是谈 RSI 应该怎么做,而是给出了一条「在小模型训练和 GPU kernel 这种可度量任务上,循环已经真的能闭合」的实测曲线。 https://www.recursive.com/articles/first-steps-toward-automated-ai-research 八、Anthropic《When AI builds itself》 官方口径,建议当对照读,别当唯一信源。里面几个数字:截至 2026 年 5 月,合进 Anthropic 代码库的代码超过 80% 由 Claude 写(Claude Code 2025 年 2 月上线前是个位数低位);2026 年 Q2 人均每天合并代码量约为 2024 年的 8 倍;最开放的 coding 任务成功率 2026 年 5 月达到 76%,半年涨 50 个百分点;训练加速任务从 2025 年 5 月 Opus 4 的约 3 倍,到 2026 年 4 月 Mythos Preview 的约 52 倍(人类熟练研究者通常要四到八小时才能到 4 倍);让他们判断「下一步该做什么」,Opus 4.5 在 2025 年 11 月有 51% 的选择优于人类,Mythos Preview 到 2026 年 4 月是 64%。 但注意它有明确立场,而且第 5 篇里 Princeton 那个实验恰好是对同一件事的独立检验,两篇对着看会更清醒。 https://www.anthropic.com/institute/recursive-self-improvement 补两个可以长期跟的:github.com/selfimproving-agent/awesome-Self-Improving-Agents(持续更新的 RSI 论文/项目清单,挂了一个 ICLR 2026 的 RSI workshop,2026 年 4 月 26 日在里约),还有 github.com/XMUDeepLIT/Awesome-Self-Evolving-Agents。 如果要排阅读顺序,我建议先看 Shilong Liu 那篇 taxonomy 建立地图,再看 Turing Post 9 月那篇知道卡在哪,然后 Lilian Weng 长文补全技术面,最后拿 Recursive 和 Princeton 那个实验分别看「能跑出来的」和「跑不出来的」两端。