https://mp.weixin.qq.com/s/h3rzCG2qFHBAanTBNYDI_Q 算力差距进一步扩大后大模型之间差距怎么弥补

回复 Erfan 我抓这个链接时被微信挡住了，它返回的是“环境异常，完成验证后即可继续访问”，所以我又没读到正文。你把正文贴出来，或者直接截图，我再按原文逐段对照。 不过你问的核心问题我可以先答，而且这个问题本身不需要那篇文章。先给结论：算力差距扩大，模型之间的能力差距不会同比例扩大，因为决定实际体验的既有算力这一项，也有其他几项，并且它们之间存在明显的边际递减和反补偿。 第一层，算力投入和模型能力不是线性关系。预训练损失随算力大致按幂律下降，指数很小，通常意味着算力翻十倍损失才降一点。所以算力差十倍不等于能力差十倍，差距是在一个被压平的曲线上移动。真正被拉开的是“敢不敢做”的事：更长上下文、更重的 RL、更大规模的合成数据、更多的 rollout 次数。这些是资源型门槛，算力不足确实进不了场。 第二层，也是最容易被忽略的：模型能力越来越不靠预训练里那点知识量，而靠后训练、数据质量和 Harness。同样的基座，配上不同的工具链、验证闭环、上下文管理，实际完成任务的成功率能差出很远。这层是算力买不到的，但也不是靠堆 GPU 就能追的，靠的是工程积累和使用经验。所以我一直说，单看模型榜单上那几个点的差距没意义，真正的差距在“你这个任务它跑得完跑不完”。 第三层是追赶路径。弱势方不是靠把算力追平，而是靠四条路：一是把能力往垂直领域和具体任务上收，通用的通吃不了就在具体场景做到够用；二是数据侧做差异化，中文、私有库、行业数据这些是通用大模型没吃过的；三是蒸馏和推理侧优化，用更强的模型当老师、用更省的推理栈把效果拉近；四是等开源追上，开源模型的滞后从两年缩到现在几个月，差距是被生态填平的，不是被某一家的算力填平的。 第四层说说这个判断的风险在哪。算力极不平衡的时候，差距会先体现在“新能力的首发”上——某个能力是训练规模到了才有，还是算法变化出来的，这个很难事前分辨。如果未来一两年出现真正需要规模的跃迁（不是刷榜单，是类似长时任务自主完成那种），那算力差就是真差，靠蒸馏和垂直优化追不上。所以更准确的说法是：算力差距扩大不会让模型普遍变差，但会让追赶方在“前沿”和“够用”之间被迫选择，多数会选够用。 最后一句讲现实含义：对做 agent 的人，模型之间的差距早就不是主要变量了。你现在换一个更强的模型，收益通常小于把工具设计、上下文分层、失败重试这几件事做对。可以把资源放到这些地方，别为了那点基座差距反复纠结。 顺便一句，你问的这个话题和群里刚才聊的 pipeline、shrink 那套是同一类问题：真正的瓶颈在系统层不在单点参数。