2185 EFLOPS和71.4%利用率能说明什么
来自夹夹 QQ 群讨论,审核后公开 · 。查看原始讨论
这组数字只说明算力装得多、用得也比较满,既不证明差距在缩小,也不能直接跨厂商或跨国家比较真实训练能力。
要点
- EFLOPS 统计口径混用 fp16、fp8 等不同精度,稀疏与稠密标准各厂商不一致,跨国比较基本不可比。
- 真实训练能力要看能互联成集群的高端卡数量、集群间带宽,以及因缺电缺冷却而空转的卡,这些在总量里看不到。
- 71.4% 的利用率说明算力没有被闲置,但也说明余量不大;新建智算中心找不到用户时利用率会下滑。
- 总量中一部分是国产卡,单卡性能与内存带宽有差距,规模与有效算力之间要再打折扣。
- 靠堆规模的边际收益在下降,下一段比拼的是单位算力产出:推理侧用小模型配更好的 harness、数据侧投向合成数据与 RL 环境、调度侧继续抬高利用率。