Lilian Weng 更新《The Transformer Family》2.0 版
Lilian Weng 将三年前的《The Transformer Family》一文重构扩充至 2.0 版，篇幅约为旧版两倍，是按时间顺序整理新论文的旧作超集。文中重新梳理了章节层级，并补充了 2020 年后提出的多项 Transformer 架构改进。
#教程/实践
#教程/实践
今日 41 条Lilian Weng — Lil’LogAI 评估 · 15/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 15/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。
Eugene YanAI 评估 · 34/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 34/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 高效机器学习项目的四种机制：Pilot 与 Copilot、文献综述、方法论评审与时间盒
机器学习项目可通过四种机制提升成功率：为每个项目配备 pilot 与 copilot，后者每投入约 10% 工时做评审，及早发现训练数据错误、train-validation split 无效等致命问题；项目启动先做文献综述，重点关注问题如何被框定、输入数据处理与离线评估；在拿到初始实验结果后开展方法论评审，排查数据泄漏、时间切分等问题；并对各项目阶段和任务做时间盒约束。
Andrej KarpathyAI 评估 · 54/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 54/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Karpathy 从零用代码手把手构建 GPT
Andrej Karpathy 发布视频教程，从零开始、以代码逐行讲解的方式构建 GPT。
Eugene YanAI 评估 · 23/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 23/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 告别 Roam Research，转向 Obsidian
Eugene Yan 用一个周末、不到一小时把笔记从 Roam Research 迁到 Obsidian，并用 obsidian-git 实现跨设备同步。他将 1k+ 图片分批提交，超过 1,024kb 的图片转成 jpg 后同步，首次同步上传 GitHub 约 15 分钟。作者称 Obsidian 启动和使用比网页版 Roam 更流畅、更可定制，暂不打算回到 Roam。
Lilian Weng — Lil’LogAI 评估 · 26/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 26/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 大型 Transformer 模型推理优化：蒸馏、量化与架构改进
大型 Transformer 模型推理受限于巨大显存占用与难以并行：KV cache 在 batch size 512、上下文长度 2048 时可达 3TB，是模型体积的 3 倍，且注意力计算随输入长度呈平方增长。文章梳理并行化、内存卸载、智能批处理、剪枝、量化、知识蒸馏及注意力层架构改造等推理加速路径，并详解知识蒸馏与量化方法。
Eugene YanAI 评估 · 20/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 20/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Autoencoders 与 Diffusers：简要对比
自编码器与扩散模型在学习范式和架构上颇为相似：两者都从输入重建输出、都能学习数据的低维流形，且都用瓶颈层，U-Net 可视为带残差连接的自编码器。关键区别在于扩散模型以时间步 t 作为条件输入，使单套参数即可处理不同噪声水平，并支持以文本提示词生成图像。
Eugene YanAI 评估 · 42/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 42/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 从 DALL·E 到 Stable Diffusion：扩散模型、文本条件、引导与潜空间的原理梳理
扩散模型通过前向加噪、反向去噪生成图像，DALL·E、DALL·E 2、Imagen 到 Stable Diffusion 都基于这一思路。DDPM（2020）将反向过程建模为高斯分布，让神经网络从纯噪声中逐步去噪还原图像，训练时学习预测所加噪声，采样时每个时间步只减去一小部分噪声再补回少量噪声。
Lilian Weng(@lilianweng)AI 评估 · 17/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 17/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 OpenAI 的 Lilian Weng 与 Greg Brockman 分享大规模神经网络训练技巧
OpenAI 的 Lilian Weng 与 Greg Brockman 发布文章，介绍训练大型神经网络的技术，并称其可能比想象中更容易。两人同时表示 OpenAI 正在招聘。
Lilian Weng — Lil’LogAI 评估 · 17/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 17/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 数据不足时如何学习 Part 3：数据生成
Lilian Weng 在"数据不足时如何学习"系列第三篇中，梳理了用合成数据训练的两条路径：对已有样本做增强，或用预训练大语言模型直接生成新数据。
Lilian Weng — Lil’LogAI 评估 · 19/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 19/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 数据不足时如何学习（下）：主动学习
面对标注数据有限的监督学习任务，主动学习在固定标注预算 B 下，从无标注数据中挑选最值得标注的样本，以最大化模型性能提升，特别适用于医学图像等标注昂贵场景。
Lilian Weng — Lil’LogAI 评估 · 26/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 26/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 数据不够怎么学？第一部分：半监督学习
Lilian Weng 在 Lil'Log 发布“数据不够怎么学”系列第一篇，聚焦半监督学习，即在标注数据有限时同时利用有标注和无标注样本训练模型。
Lilian Weng — Lil’LogAI 评估 · 62/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 62/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 如何在多 GPU 上训练真正的大模型？
Lilian Weng 撰文系统梳理在多 GPU 上训练超大模型的并行范式，包括数据并行、模型并行、流水线并行与张量并行，并对比 GPipe、PipeDream、Megatron-LM 与 PTD-P 等方案。
Lilian Weng — Lil’LogAI 评估 · 38/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 38/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 什么是扩散模型（Diffusion Models）？
扩散模型受非平衡热力学启发，通过马尔可夫链在 T 步中向数据逐步加入高斯噪声，再学习逆向过程从噪声重建样本，与 VAE、Flow 模型不同，其隐变量维度与原始数据相同。该框架涵盖 diffusion probabilistic models（2015）、NCSN（2019）与 DDPM（2020）。
Lilian Weng — Lil’LogAI 评估 · 22/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 22/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 对比表示学习（Contrastive Representation Learning）综述
对比表示学习的目标是学习一个嵌入空间，使相似样本对彼此靠近、不相似样本对相互远离，可同时用于监督和无监督场景，在自监督学习中尤为强大。训练目标已从早期单一正负样本对演进为在一个 batch 内纳入多对正负样本，包括 Contrastive Loss、Triplet Loss、Lifted Structured Loss、N-pair Loss 以及 NCE。
Lilian Weng — Lil’LogAI 评估 · 33/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 33/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 如何降低语言模型的有害内容（Toxicity）
大型预训练语言模型从互联网数据中不可避免地习得有害行为和偏见，安全部署需对生成过程做强管控。Lilian Weng 在文中讨论了 toxic 内容的定义争议，并介绍了 Zampieri et al. (2019) 提出的三级有害语言分类体系（OFF/NOT、TIN/UNT、IND/GRP/OTH）及其对应的 OLID 数据集，以及专家标注、众包、专业审核等数据收集方式与质量保障实践。
Lilian Weng — Lil’LogAI 评估 · 34/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 34/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 可控神经文本生成：Lilian Weng 综述可控文本生成方法
Lilian Weng 在 Lil'Log 发布《可控神经文本生成》综述，梳理用无条件下预训练语言模型实现可控内容生成的三类路径：引导式解码在测试时筛选输出、优化提示词设计、以及微调基础模型或可操控层。文中还介绍了基于重要性重采样、能量模型（EBM）残差引导与 AutoPrompt 梯度搜索提示词等具体方法。
Lilian Weng — Lil’LogAI 评估 · 28/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 28/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 如何构建开放域问答系统？解析 Retriever-Reader 等三大框架
开放域问答（ODQA）要求模型在无相关上下文的情况下回答事实型问题，可分为开放书与闭卷两类。基于 DrQA 的 retriever-reader 框架先用 TF-IDF 等检索器从 Wikipedia 取回相关文档，再由 reader 抽取答案；Lewis 等人发现公开 QA 数据集训练集与测试集重叠严重，58-71% 的测试答案曾出现在训练集中。
Lilian Weng — Lil’LogAI 评估 · 32/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 32/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 神经架构搜索（NAS）详解：搜索空间、搜索算法与评估策略
神经架构搜索（Neural Architecture Search, NAS）被 Elsken 等人 2019 年的综述归纳为三大组件：定义卷积、全连接、池化等操作及其连接方式的搜索空间，采样候选架构并根据准确率、延迟等指标优化的搜索算法，以及评估大量候选模型性能的评估策略。
Lilian Weng — Lil’LogAI 评估 · 24/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 24/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 深度强化学习中的探索策略
针对深度强化学习中"探索"这一尚未解决的开放问题，文章梳理了从 epsilon-greedy、UCB、Boltzmann 探索到 Thompson sampling 的经典策略，以及熵损失项和噪声注入等深度 RL 探索方法。
Lilian Weng — Lil’LogAI 评估 · 28/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 28/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Transformer 家族综述：从原始架构到各类改进模型
Transformer 依赖缩放点积注意力和多头自注意力机制，原始版本采用编码器-解码器架构，编码器由 6 个相同模块堆叠，每模块含多头自注意力层和逐位置全连接前馈网络，各子模块带残差连接和层归一化。此后简化版 Transformer 在语言建模任务上表现出色，如仅编码器的 BERT 和仅解码器的 GPT。
Lilian Weng — Lil’LogAI 评估 · 26/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 26/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 强化学习中的课程学习（Curriculum Learning）综述
课程学习早在 1993 年就由 Jeffrey Elman 提出：先用简单数据训练、再逐步提升样本复杂度，否则模型可能完全学不会。
Lilian Weng — Lil’LogAI 评估 · 30/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 30/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 自监督表示学习入门：从图像失真到对比预测编码
自监督学习通过让模型从数据本身生成监督信号，避免昂贵的人工标注，学到的中间表示可迁移到下游任务。图像领域常用前置任务包括对图像块施加平移、旋转、缩放等随机变换构造代理类别，以及整图旋转预测，用 ImageNet 分类准确率衡量表示质量。文中还介绍了对比预测编码、MoCo、SimCLR、BYOL 等方法。
Lilian Weng — Lil’LogAI 评估 · 24/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 24/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Evolution Strategies（进化策略）解析：从 Simple Gaussian ES 到 CMA-ES 及其在深度强化学习中的应用
进化策略（ES）是一类黑盒优化算法，无法计算梯度时仍可评估目标函数，将解参数化为分布 p_θ(x) 并循环采样、评估适应度、按适应度更新 θ。Simple Gaussian ES 用各向同性高斯分布建模解，仅跟踪均值 μ 与标准差 σ；CMA-ES 引入协方差矩阵 C 追踪样本间两两依赖，解决 σ 无法快速调整探索空间的问题。
Lilian Weng — Lil’LogAI 评估 · 21/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 21/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 面向 Sim2Real 迁移的域随机化（Domain Randomization）方法解析
域随机化（DR）通过在仿真器中随机化视觉外观与物理动力学参数（如质量、摩擦、阻尼、关节限位、动作延迟），让策略在多样环境中训练，从而迁移到真实世界。相比需要真实数据的域适应，DR 几乎不需要真实样本；OpenAI Robotics 用视觉与动力学 DR 让机械手完成连续旋转物体的 50 次连续随机目标朝向任务。文章还把 DR 的随机化参数学习视为一种双层优化问题。
Lilian Weng — Lil’LogAI 评估 · 52/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 52/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Lilian Weng 综述广义语言模型：从 CoVe、ELMo 到 GPT-3 与 ELECTRA
Lilian Weng 在 Lil'Log 发布《Generalized Language Models》综述，按时间顺序梳理了从 CoVe、ELMo、CVT、ULMFiT 到 GPT、BERT、ALBERT、GPT-2、RoBERTa、T5、GPT-3、XLNet、BART、ELECTRA 等模型的上下文词表征与预训练方法。
Lilian Weng — Lil’LogAI 评估 · 12/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 12/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 YOLO、SSD 与 RetinaNet：快速目标检测模型解析
单阶段检测器跳过区域提议、直接在密集位置回归检测，速度更快但精度可能略降。YOLO 是首个实时目标检测器，将图像划分为 S×S 网格，每个网格预测 B 个边界框及其置信度与类别概率，最终输出张量形状为 S×S×(5B+K)。
Lilian Weng — Lil’LogAI 评估 · 32/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 32/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Meta-Learning：让模型学会快速学习
Meta-Learning（元学习）让模型用少量样本就能快速适应新任务，也被称为“learning to learn”。其核心是在多种任务上训练并优化模型在任务分布上的表现，使每个数据集被当作一个训练样本；在 few-shot 分类中，数据被拆成 support set 与 prediction set，并采用与测试一致的训练方式。
Lilian Weng — Lil’LogAI 评估 · 24/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 24/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 基于流的深度生成模型解析
基于流的深度生成模型通过 normalizing flows 显式学习真实数据的概率密度函数 p(x)，其损失函数即负对数似然，与 GAN、VAE 不同。模型由一系列可逆变换构成，无需计算难以处理的积分，可完成数据生成、密度估计、隐变量推断和补全不完整样本等任务。文章还回顾了 Jacobian 行列式与变量替换定理等线性代数基础。
Lilian Weng — Lil’LogAI 评估 · 19/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 19/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 从 Autoencoder 到 Beta-VAE：自编码器与变分自编码器详解
自编码器通过中间狭窄的瓶颈层以无监督方式重建高维数据，其瓶颈层学到的压缩隐编码可作嵌入向量用于搜索、数据压缩或揭示数据的生成因子。去噪自编码器通过随机损坏输入再重建原始数据来提升鲁棒性，其思路比 dropout 早 4 年；稀疏自编码器则对隐藏单元激活施加稀疏约束。文章后经更新补充了 VQ-VAE、VQ-VAE-2 与 TD-VAE 章节。
Lilian Weng — Lil’LogAI 评估 · 23/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 23/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Attention 机制详解：从 Seq2Seq 瓶颈到神经机器翻译
针对 seq2seq 模型固定长度上下文向量无法记住长句的缺陷，注意力机制通过在每个输出位置对全部编码器隐状态加权求和来生成上下文向量，权重由源词与目标词的对齐分数决定。该机制最早由 Bahdanau 等人于 2015 年提出，用于神经机器翻译，编码器采用双向 RNN 拼接前后向隐状态。
Lilian Weng — Lil’LogAI 评估 · 41/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 41/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 用 TensorFlow + OpenAI Gym 实现深度强化学习模型
这篇教程讲解如何用 TensorFlow 和 OpenAI Gym 实现深度强化学习模型，完整代码已开源于 lilian/deep-reinforcement-learning-gym。
Lilian Weng — Lil’LogAI 评估 · 10/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 10/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Policy Gradient Algorithms：策略梯度算法综述
这篇综述系统梳理了策略梯度算法，涵盖从基础到进阶的多种方法，后续更新加入 SAC、D4PG、TD3、SVPG、IMPALA、PPG 等，并补充了 PPO 讨论及自动调节温度的 SAC 版本。文中详解了 IMPALA 的 importance weighted actor-learner 架构与 V-trace 离线策略修正，并总结了降低方差、离线策略、经验回放、目标网络等共性设计原则。
Lilian Weng — Lil’LogAI 评估 · 48/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 48/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 深入浅出强化学习：Lilian Weng 的 RL 核心概念与经典方法综述
Lilian Weng 在 Lil'Log 发布长文梳理强化学习（RL），从智能体与环境的交互出发，形式化定义状态、动作、奖励、模型、策略与价值函数等核心概念，并把 RL 算法按 model-based / model-free、on-policy / off-policy 分类，随后介绍求解 RL 问题的经典方法。
Lilian Weng — Lil’LogAI 评估 · 31/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 31/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 多臂老虎机问题及其解法
多臂老虎机问题是探索与利用困境的经典模型：K 台老虎机各有未知的奖励概率 θ，玩家需在 T 步内最大化累计奖励，或等价地最小化总遗憾。
Lilian Weng — Lil’LogAI 评估 · 14/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 14/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 面向初学者的目标检测（第三部分）：详解 R-CNN 系列
R-CNN 系列包含 R-CNN、Fast R-CNN、Faster R-CNN（目标识别）与 Mask R-CNN（图像分割）四个模型。R-CNN 先用 selective search 提出约 2k 个候选区域，再逐区域提取 CNN 特征分类并用回归模型校正边界框，召回率以 IoU 0.3 为界、bbox 回归以 0.6 IoU 为界。该系列还常用非极大值抑制与难负样本挖掘等技巧。
Lilian Weng — Lil’LogAI 评估 · 17/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 17/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 面向初学者的目标检测（二）：CNN、DPM 与 Overfeat
"Object Detection for Dummies"系列第二篇回顾图像分类的经典 CNN 架构：AlexNet 用 5 层卷积加 2 层 MLP，VGG 为 19 层、只用 3x3 卷积和 2x2 池化，ResNet 达 152 层并靠残差块保持可训练。
Lilian Weng — Lil’LogAI 评估 · 20/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 20/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 图解目标检测 Part 1：梯度向量、HOG 与选择性搜索
Lilian Weng 在 "Object Detection for Dummies" 系列第一篇中讲解了图像处理的基础概念——图像梯度向量由 x、y 两个方向的偏导数构成，其幅值为 L2 范数、方向为 arctan(g_y/g_x)，并可用 Prewitt、Sobel 等卷积核在整张图像上一次性计算，无需逐像素迭代。
Lilian Weng — Lil’LogAI 评估 · 19/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 19/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 详解词嵌入（Word Embedding）的两大学习方法
词嵌入把词和短语表示为低维稠密向量，以近似词间相似度并揭示如“cat-kitten”与“dog-puppy”的语义类比关系。学习词嵌入主要有两类依赖上下文的方法：基于计数的无监督方法（对全局词共现矩阵做矩阵分解，PCA、主题模型、神经概率语言模型均属此类）和基于上下文的监督方法（如 Skip-Gram 与 CBOW，在预测目标词或上下文词的同时学到词向量）。
Lilian Weng — Lil’LogAI 评估 · 32/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 32/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 如何解释机器学习模型的预测结果？
机器学习模型正进入医疗、司法与金融等关键领域，但深度神经网络天生是黑盒，难以解释其决策过程。文章梳理了可解释模型的方法，包括线性回归用系数或 $w_i x_i$ 衡量特征贡献、Naive Bayes 通过后验概率衡量单特征影响，以及决策树/决策列表（如 FRL、BRL、IDS）。作者还指出随机森林并非黑盒，可用平均不纯度下降衡量全局特征重要性。
Lilian Weng — Lil’LogAI 评估 · 21/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 21/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 用 RNN 预测股票价格（第二部分）：引入股票代码嵌入
这篇 RNN 股票价格预测教程第二部分在第一部分模型基础上加入股票代码嵌入向量，使其能同时处理多只股票。作者用长度为 3 的 embedding 替代 one-hot 编码，把价格向量与嵌入向量拼接后输入 LSTM，并新增 embedding_size 与 stock_count 两个配置项。