AI的下半场：从方法创新到问题定义

摘要

斯坦福学者姚顺雨提出人工智能发展已进入"下半场"。上半场以训练方法和模型创新为核心，Transformer、GPT-3等突破性技术通过提升基准性能取得成功。随着强化学习结合语言预训练和推理形成标准配方，下半场的焦点将从"解决问题"转向"定义问题"。文章指出评估变得比训练更重要，当前AI虽在各类考试中超越人类，但并未带来相应的经济价值，这一"实用性问题"源于评估设置与现实世界的根本差异。

内容框架与概述

文章开篇提出核心论断：我们正处于人工智能的中场休息。作者指出强化学习终于具备了泛化能力，通过语言预训练和推理的结合，单一配方即可处理软件工程、创意写作、数学、计算机操作等多种任务。这一转折标志着AI发展进入下半场，焦点从方法创新转向问题定义和评估设计。

文章回顾了上半场的游戏规则，指出最具影响力的AI论文都是训练方法或模型，而非基准或任务。这是因为在上半场，方法比任务更难、更令人兴奋，也更具通用性。Transformer的引用量远超其主要基准WMT'14就是明证。作者通过引用量对比图表直观展示了上半场"方法为主、基准为辅"的格局。

接着文章详细剖析了下半场的核心"配方"。从强化学习的三个组成部分——算法、环境和先验——出发，指出RL研究长期忽视先验的重要性。作者以自身2019年的研究经历为例，说明语言预训练提供了关键的先验知识，而推理作为"奇怪"的行动，通过开放式的思维空间实现了泛化。这一配方使o系列模型、R1等成为可能。

最后文章阐述了下半场的挑战与机遇。标准配方的出现使基准提升过程被工业化，单纯创建更难基准已无法推动实质性进展。作者提出需要从根本上重新思考评估设置，质疑"自动运行"和"独立同分布"等传统假设。文章以"实用性问题"作结——AI在各类考试中已超越人类，但经济价值尚未显现，这正是下半场需要解决的核心问题。

核心概念及解读

上半场与下半场：上半场专注于开发新的训练方法和模型架构，通过在基准上提升性能来推动AI发展；下半场则转向定义问题和创新评估方式，焦点从"能否解决"变为"应该解决什么"以及"如何衡量真正的进展"。

标准配方：由大规模语言预训练、规模扩展、推理与行动组成的组合，能够处理软件工程、数学、计算机操作等多种任务。这一配方使基准提升过程被标准化和工业化，极大降低了方法创新的边际价值。

实用性问题（Utility Problem）：AI在各类考试和竞赛中已超越人类水平，但并未带来相应的经济价值或GDP增长。作者认为这是AI领域最重要的问题，其根源在于评估设置与现实世界的根本差异。

推理作为行动：推理是一种"奇怪"的行动——不直接影响外部世界，但通过开放式的思维空间，结合语言预训练的先验知识，实现跨任务的泛化能力。这是配方成功的关键机制。

评估设置质疑：下半场需要挑战"评估应自动运行"和"评估应独立同分布"等传统假设。现实世界中，智能体需要与人类持续互动，并通过顺序解决问题积累经验，这与当前评估范式存在根本差异。

原文信息

此摘要卡片由 AI 自动生成