跳到正文
原文
Lilian Weng(@lilianweng)· Lilian Weng (@lilianweng)·· 2025-09-27AI 评估 · 23/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

Thinking Machines 提出 Modular Manifolds,用流形约束协同设计神经网络优化器

Looking through those little hidden gem stories in the footnote, you will find it so inspiring that ...

AI 导读

Thinking Machines 在第二篇 Connectionism 博文中提出 Modular Manifolds,尝试通过对权重矩阵施加流形约束来协同设计神经网络优化器,以提升训练稳定性与性能。该方法从几何角度探索神经网络优化的基本原理,是其迈向更稳定高效训练的一步理论探索。

来源:Lilian Weng(@lilianweng) · x.com