Eugene Yan·· 2023-11-05AI 评估 · 32/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。
用域外微调引导幻觉检测：一项基于 FIB 的实验
Out-of-Domain Finetuning to Bootstrap Hallucination Detection
AI 导读
在事实不一致性基准 FIB 上，先用 Wikipedia 摘要微调 3 个 epoch、再在 FIB 上微调 10 个 epoch，相比只在 FIB 上微调，PR AUC 达到 0.85，提升 23%，且概率分布分离得更好，便于生产环境选取阈值。模型采用在 MNLI 上微调过的 BART 变体，通过 NLI 判断摘要是否与原文矛盾来识别幻觉。
来源：Eugene Yan · eugeneyan.com