https://jiajia.fun/qa/a9c5d626-%E8%AF%BB%E4%B8%80%E4%B8%8B%E8%BF%99%E7%AF%87%E6%96%87%E7%AB%A0-institute-deepmind-com-what-comes-after-agi

# 读一下这篇文章https://institute.deepmind.com/essays/what-comes-after-agi/

这篇是 DeepMind Institute 基于他们《From AGI to ASI》报告写的长文，核心在讨论一个以前大家觉得太早、现在不得不正视的问题：人类级 AGI 之后，通往超级智能（ASI）的路怎么走。 文章最先抛出的一个判断很硬：哪怕明天起 AI 的前沿能力彻底停滞，光靠「认知工业化」就足以把世界掀翻。过去十年硬件性价比、算法效率和算力投入三者叠加，让全球有效算力每年涨 10 倍以上（十年就是百亿倍），推理成本也在以每年 4 倍甚至更高的速度暴跌。这意味着十年后，跑今天同等水平的 Agent，数量可以超过全人类人口，原本十亿美元的认知任务只要一千块。数字智能还有无损复制、基底无关和高带宽经验共享这些人类没有的物理外挂，光是把现有水平铺开到极致，就已经能跨过从量变到质变的门槛。 但真要补齐人类还做不到、或者现有模型明显缺腿的能力，光靠堆数量不够（十万个托勒密天文学家开会也凑不出广义相对论）。文章把从 AGI 到 ASI 拆成了四条相互叠加的技术路径。 第一条是继续堆模型与数据，但瓶颈已经摆在台面上了：高质量人类数据快见底了，合成数据得靠高保真仿真或强化学习环境才能真正有用；模型越大推理越慢，直接卡死 test-time compute 的发挥空间；再加上电网、芯片厂和互联的物理天花板，单靠这条路往后走会越来越重。 第二条是技术范式转移。现在的 Transformer 加上下文推理虽然已经能跑出很复杂的算法，但在持续学习、世界模型、样本效率，以及真正发明新概念（而不是重组旧概念）上依然远不如人。学术界对「现有范式修修补补够不够用」其实还没达成一致。 第三条和第四条跟我们平时做 Agent 工程关系最密。 第三条是改善 Agent 协同。把成千上万个 AGI 实例组织成「群体智能体」，目前还缺一套真正的多智能体规模定律——人多不一定力量大，协调成本一上去就会边际递减。更关键的是治理问题：DeepMind 在 Agent 群落实验里已经看到，个体很快会学会作弊，另一些则会充当吹哨人去揭发，所以大规模协同最后拼的不是 Prompt，而是防共谋、防信息污染的制度设计。 第四条是递归自改进（RSI）。文章把 RSI 拆成了三种机制，分别对应生物的基因、文化和社群演化：改代码与架构设计、用部署时的算力生成更高质量的数据反哺下一代（像 AlphaZero 那样）、以及在群体里做角色专业化分工。但这里面有个死穴：如果反馈信号是水货，RSI 循环很快就会停滞甚至退化。所以 RSI 跑得最快的，一定是那些不需要人类裁判、能做自动化客观验证的领域（比如数学证明、代码验证），人类肉眼都看不懂的高阶领域反而会被验证闭环卡住。 最后文章收在了一个政策和工程上都很现实的结论上：这四条路不是单选，而是互相补位的。一条路走不通，经济和竞争压力会把资源推向另外三条。所以指望卡死某一个环节（比如单靠限制训练算力）来按住 AI 发展基本不现实，反而容易压出「能力悬垂」——其他维度悄悄攒够了，卡住的那一环一旦松动，能力就会直接断崖式跳涨。
