跳到正文
原文
Lilian Weng — Lil’Log·· 2021-01-02AI 评估 · 34/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

可控神经文本生成:Lilian Weng 综述可控文本生成方法

Controllable Neural Text Generation

AI 导读

Lilian Weng 在 Lil'Log 发布《可控神经文本生成》综述,梳理用无条件下预训练语言模型实现可控内容生成的三类路径:引导式解码在测试时筛选输出、优化提示词设计、以及微调基础模型或可操控层。文中还介绍了基于重要性重采样、能量模型(EBM)残差引导与 AutoPrompt 梯度搜索提示词等具体方法。

来源:Lilian Weng — Lil’Log · lilianweng.github.io