Richard Sutton《苦涩的教训》：AI 研究为何应当相信 Scaling Law

Richard Sutton 在《苦涩的教训》中指出，回顾 70 年 AI 研究，长期最有效的往往是能持续利用更多算力的通用方法，而非人类精心设计的领域知识。国际象棋、围棋、语音识别与计算机视觉的历史都显示，研究者起初想用人类理解减少搜索，真正的突破却来自拥抱搜索和学习。他因此认为，搜索和学习是当前最能随算力扩展的两类方法，而试图把人类对心智的理解直接写进系统，长期会停滞甚至阻碍突破。