Lilian Weng — Lil’Log·· 2023-01-27AI 评估 · 15/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。
Lilian Weng 更新《The Transformer Family》2.0 版
The Transformer Family Version 2.0
AI 导读
Lilian Weng 将三年前的《The Transformer Family》一文重构扩充至 2.0 版,篇幅约为旧版两倍,是按时间顺序整理新论文的旧作超集。文中重新梳理了章节层级,并补充了 2020 年后提出的多项 Transformer 架构改进。
来源:Lilian Weng — Lil’Log · lilianweng.github.io