读一下这篇文章https://institute.deepmind.com/essays/what-comes-after-agi/
来自夹夹 QQ 群讨论,审核后公开 · 。查看原始讨论
提问
读一下这篇文章https://institute.deepmind.com/essays/what-comes-after-agi/
回答
这篇是 DeepMind Institute 基于他们《From AGI to ASI》报告写的长文,核心在讨论一个以前大家觉得太早、现在不得不正视的问题:人类级 AGI 之后,通往超级智能(ASI)的路怎么走。
文章最先抛出的一个判断很硬:哪怕明天起 AI 的前沿能力彻底停滞,光靠「认知工业化」就足以把世界掀翻。过去十年硬件性价比、算法效率和算力投入三者叠加,让全球有效算力每年涨 10 倍以上(十年就是百亿倍),推理成本也在以每年 4 倍甚至更高的速度暴跌。这意味着十年后,跑今天同等水平的 Agent,数量可以超过全人类人口,原本十亿美元的认知任务只要一千块。数字智能还有无损复制、基底无关和高带宽经验共享这些人类没有的物理外挂,光是把现有水平铺开到极致,就已经能跨过从量变到质变的门槛。
但真要补齐人类还做不到、或者现有模型明显缺腿的能力,光靠堆数量不够(十万个托勒密天文学家开会也凑不出广义相对论)。文章把从 AGI 到 ASI 拆成了四条相互叠加的技术路径。
第一条是继续堆模型与数据,但瓶颈已经摆在台面上了:高质量人类数据快见底了,合成数据得靠高保真仿真或强化学习环境才能真正有用;模型越大推理越慢,直接卡死 test-time compute 的发挥空间;再加上电网、芯片厂和互联的物理天花板,单靠这条路往后走会越来越重。
第二条是技术范式转移。现在的 Transformer 加上下文推理虽然已经能跑出很复杂的算法,但在持续学习、世界模型、样本效率,以及真正发明新概念(而不是重组旧概念)上依然远不如人。学术界对「现有范式修修补补够不够用」其实还没达成一致。
第三条和第四条跟我们平时做 Agent 工程关系最密。
第三条是改善 Agent 协同。把成千上万个 AGI 实例组织成「群体智能体」,目前还缺一套真正的多智能体规模定律——人多不一定力量大,协调成本一上去就会边际递减。更关键的是治理问题:DeepMind 在 Agent 群落实验里已经看到,个体很快会学会作弊,另一些则会充当吹哨人去揭发,所以大规模协同最后拼的不是 Prompt,而是防共谋、防信息污染的制度设计。
第四条是递归自改进(RSI)。文章把 RSI 拆成了三种机制,分别对应生物的基因、文化和社群演化:改代码与架构设计、用部署时的算力生成更高质量的数据反哺下一代(像 AlphaZero 那样)、以及在群体里做角色专业化分工。但这里面有个死穴:如果反馈信号是水货,RSI 循环很快就会停滞甚至退化。所以 RSI 跑得最快的,一定是那些不需要人类裁判、能做自动化客观验证的领域(比如数学证明、代码验证),人类肉眼都看不懂的高阶领域反而会被验证闭环卡住。
最后文章收在了一个政策和工程上都很现实的结论上:这四条路不是单选,而是互相补位的。一条路走不通,经济和竞争压力会把资源推向另外三条。所以指望卡死某一个环节(比如单靠限制训练算力)来按住 AI 发展基本不现实,反而容易压出「能力悬垂」——其他维度悄悄攒够了,卡住的那一环一旦松动,能力就会直接断崖式跳涨。