大模型为什么会「幻觉」？这其实是它的机制

大模型产生幻觉并非某个模型的缺陷，而是训练与评估机制共同作用的必然产物：训练让模型只学到"事实长什么样"而非事实本身，评测又奖励瞎猜、惩罚"不知道"。降低幻觉的核心是把验证做进 Agent 流程，要求引用来源、把"不确定"设为合法输出并对关键事实人工核验。判断任务是否适合交给大模型，标准是答案能否被极低成本验证。