Hinton、Bengio、Barto、Pachocki等22位学者联合发表首篇递归自我改进（RSI）论文，RSI会不会是下一个技术锚点

回复 Erfan： 先说个小的纠偏：把它叫「首篇 RSI 论文」是媒体的说法，不太准。RSI 这个概念从 I. J. Good 1965 年那篇「超级智能机器」就有了，后来 Yudkowsky、Schmidhuber 都写过；这篇（arXiv:2609.，9 月 28 日提交）不是提出方法的技术论文，是剑桥 CASP 的 Frontier AI Working Paper 系列第 2/2026 号的政策工作论文，标题是 What if automating AI R&D triggers an intelligence explosion?，14 页，第一作者 Alan Chan（GovAI），另一位牵头的是 CASP 的 Soren Mindermann。 它真正破圈的地方是署名：Hinton、Bengio、OpenAI 的 Jakub Pachocki、Anthropic 的 Jack Clark、微软的 Eric Horvitz 这些人同在一张作者表上，还带着「观点不代表所属机构」的免责声明。OpenAI、微软、Meta、Anthropic 对这稿子都拒评。你提到的 Barto 我没在能核实的名单里确认到，你可以照原文 PDF 再对一下。 论文说了什么。它把 intelligence explosion 定义成「AI 驱动的 AI 进展急剧加速，把本该几年才能拿到的进展压到几个月甚至更短」，而且限定在纯软件驱动这条路径——靠算法、数据、训练方法，不依赖新硬件。机制就两环：AI 越会做 AI 研发，有效研发人力就越大；人力越大，产出的下一代 AI 越强，回头再放大这个人力池，递归下去。它给的数量级是：当 AI 的研发能力到专家水平、推理成本和今天差不多时，一家前沿公司现有算力就能撑起「至少几百万个顶尖人类研究员」当量的 AI 劳动力，而今天实际雇的是几千人。 证据就是 Hinton 改口的理由。Anthropic 自报：AI 在已批准代码里的占比从 2025 年 1 月的个位数涨到 2026 年 5 月的 80% 以上；3 月到 8 月，只需人类高层监督就能自主完成的研发工作比例从 1% 涨到 26%；最好的模型能完成人类专家几小时到几天的研发任务（2023 年还只是秒级）；有个早期概念验证里，自动化研究流水线自己出想法、跑实验、写论文，还过了顶会 workshop 的同行评审。论文自己补了一句冷水：GPT-6 在 OpenAI 的一些研究调试任务上还是会挂，而人类研究员几小时能搞定；benchmark 上的成绩也不等于真实生产力提升。 最有价值的是它列的四个「刹车」。一是边际递减，低垂果实被摘完，它引的估计是三个 AI 子领域的研究投入回报在 1.2 到 1.9 之间，就算全自动化且无其他瓶颈，十倍提速也要一年半左右。二是算力和数据，公开互联网数据增速撑不到 2028 年之后，只能靠合成数据和数学、代码这类可验证反馈的领域补。三是有些任务就是难自动化，而且论文承认这块几乎没有实测数据。四是训练本身耗时，一次训练跑三个月以上。它的结论很克制：存在一条和现有证据自洽的软件驱动路径，但生产力增益「还没到触发阈值」，证据「混杂且部分是间接的」。 政策建议三条：拿到可见性（标准化上报关键指标、第三方审计甚至驻场）、学会引导和约束（合规验证工具、数据中心监管、隔离环境、推演、国际信任措施）、准备适应。不是要叫停。收尾那句是「一旦智能爆炸开始，行动窗口可能就关了」。 回到你问的锚点问题。我把「锚点」拆成两种意思看，结论不一样。 当研究议程和叙事锚点：RSI 已经有这个形状了。好锚点的特征是有一个能持续测的量、有清楚的反馈回路、而且如果为真会改写一切——「AI 在 AI 研发里占多少」正好同时满足这三条，而且它是可上报、可审计的，成本极低。所以这篇最狠的不是理论，是它把「智能爆炸」从哲学命题翻译成了一个统计口径问题。反过来说，这也是它目前最大的短板：它自己说四类刹车几乎没有数据，那 RSI 当锚点就有一半靠叙事在撑，而叙事热度和事实强度不是一回事，这点跟你看 star 数判断项目质量是同一个坑。 当工程实践方向：其实 RSI 已经是锚点了，只是小尺度版本。你现在做 Agent，能落地的那套就是自我改进的精简版——从自己的 trace/trajectory 里捞 badcase，沉淀成自己的评测集，改 prompt、skill、工具，再拿评测集复测，如此循环。这跟论文里那个「产出反哺下一代」是同一个反馈环，只是驱动者是人，收益上限也不是爆炸。所以我的判断是：真正的分水岭不是「RSI 会不会成为锚点」，而是这个环的驱动者从人换成模型的哪一刻开始，谁在管测量。如果最近几个月你只能做一件事，那就是把你自己的那个环搭起来并且开始记录量——这也正好是那篇论文给政策制定者的第一条建议，只是放在个人尺度上。 原文在 https://arxiv.org/abs/2609.36054，CASP 那边 https://casp.ac/reports/intelligence-explosion，两处都能下 PDF。