Yann LeCun(@ylecun)· Yann LeCun (@ylecun)·· 25 天前AI 评估 · 18/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。
Yann LeCun 谈 target prop:从增广拉格朗日视角重新推导反向传播
Nice! This ends up being a version of what some of us have called "target prop": every layer's input...
AI 导读
Yann LeCun 指出,这篇论文提出的方法正是他所说的 "target prop":每一层的输入都是自由隐变量,作为前一层的目标,可由反向传播的"增广拉格朗日"形式推导得出,即把层间约束转成惩罚项。
来源:Yann LeCun(@ylecun) · x.com