苦涩教训 - Rich Sutton核心解读

《The Bitter Lesson》是 AI 权威学者 Rich Sutton 于 2019 年撰写的深刻文章，深刻总结了长达 70 年的 AI 研究历史。文章的核心观点在于，尽管许多研究者倾向于将自身对特定领域的知识注入 AI 系统以期在短期内更快见效，但从长远的发展历程来看，这种做法往往会成为技术演进的障碍。

Sutton 指出，在 AI 的多个前沿领域，最终脱颖而出的并非依赖人类先验知识的方法，而是那些能够充分利用计算资源（算力）的通用算法与技术。这一现象被称为“苦涩的教训”，因为它迫使我们承认，我们精心设计的领域知识在巨大的算力和通用学习面前显得苍白无力。文章利用国际象棋和围棋等历史案例，详细阐述了基于搜索和学习的通用方法如何随着计算能力的指数级增长（摩尔定律）而碾压基于人类知识的专家系统，从而揭示了通用计算加大规模算力才是长期胜利的根本方程。