精选

从 DeepSeek V3 到 V3.2：架构、稀疏注意力与 RL 更新

Sebastian Raschka 撰文梳理 DeepSeek V3 到 V3.2 的技术演进，核心变化是 V3.2 沿用 V3.2-Exp 的架构，加入 DeepSeek Sparse Attention（DSA）型稀疏注意力以降低长上下文下的训练与推理成本，注意力复杂度从 O(L²) 降到 O(Lk)，其中 k 在官方代码中设为 2048。