#deepseek DeepSeek R1背后的核心突破：修正与延伸Scaling Law

1.1 从“堆料”到“高效架构”：Scaling Law的改写

传统Scaling Law（OpenAI，2020年提出）大致指出模型性能与参数量、数据量、算力之间存在近似对数线性或幂次关系，意味着增加计算资源（卡数）会带来性能的持续提升。
DeepSeek R1的出现，提出了一种“高效参数利用”和“新式训练范式”相结合的路径，使得以更少卡（例如1万张卡）也能训练出性能相当甚至更优的模型。
这种改写或修正，表明“堆料”并非唯一手段，体系结构创新大幅提升了效能上限。这意味着若继续“往上堆更多卡”（如10万张卡），则模型能力仍有望进一步大幅提升，为通向AGI带来更乐观的可能性。

1.2 边际收益随规模扩张的变化

当算力从1万张卡提升到10万张卡：很可能仍有明显的性能增益，尤其在Zero-Shot/Reasoning等复杂推理任务上，DeepSeek R1或许还能展现出比传统模型更高的增益弹性。
当算力超过50万或100万张卡后：模型的性能提升可能进入“饱和区间”。换言之，“规模化收益”会受到其他瓶颈（数据多样性、分布式训练架构的通信开销、模型本身结构的可扩展度等）限制。
参考DeepMind 2022年关于Chinchilla Scaling 法则的研究[1]，以及DeepSeek R1所体现的“改进型Scaling Law”，预示大模型训练边际收益并非无上限，而是一条先上升后趋缓的曲线。关键瓶颈往往不再单纯来自算力不足，而是来自数据质量、算法迭代以及网络通信的规模化难题。