Grant Sanderson：AI 与数学的未来
原文：Grant Sanderson – AI and the future of math
访谈正文
和Grant聊天总是非常有趣。
AI在数学领域的进展比其他领域快得多。因此，数学正在非常具体地向我们展示，AI在其他领域的进展将会是什么样子。即使在数学内部，也存在一种参差不齐的地形。它看起来是什么样的？
数学史上最重要的概念性突破的本质是什么，它们与AI目前能够做到的事情有多大不同？
AI（净效果上）是增加还是减少了人类对该领域的理解？
让AI系统性地尝试连接已有文献中的想法，这种未兑现的潜力有多大？
对于有志于成为数学家、程序员以及其他对正被AI最大程度改变的领域充满热情的学生，Grant有什么建议？
在YouTube上观看；在Apple Podcasts或Spotify上收听。
文字记录
AI正在发现新的证明。这就是AGI吗？
Dwarkesh Patel：
今天，我和Grant Sanderson聊天，他运营着3Blue1Brown，现在正在做一个新项目，记录AI在数学领域取得的进展。我想和你聊这个话题，因为AI在数学领域的进展是所有领域中最快的。无论这里正在发生什么，无论我们看到AI进展以何种方式发生或不发生，都会告诉我们，随着AI变得越来越好，世界其他地方将会发生什么。
我想从三年前我第一次采访你时问你的那个问题开始。我当时问你，一旦我们有了能在国际数学奥林匹克竞赛中获得金牌的AI，那不就是AGI了吗？考虑到这些问题有多难，这不就能做任何人类能做的事情了吗？
你当时有一个回答，事后看来非常明智且正确。你说这将是另一个基准测试，就像AI正在通过的所有其他基准测试一样。显然，自那以后AI在总体上变得更好了，但不会在那一刻出现某种“啊哈”的顿悟。
首先，我很好奇想听听你的启发式判断，为什么那被证明是对的。其次，我很好奇你认为这种狭隘性还能持续多久。到了AI解决了千禧年大奖难题的时候，你认为是否仍然可能有很多人类在经济中正在做的任务，AI仍然无法自动化？
Grant Sanderson：
这是个有趣的问题，因为如果事先不知道解决方案是什么样子，就很难回答。如果我们拿IMO来说，你三年前那个问题的精神在于审视这些问题的一些解法如何真的似乎需要创造力。这些问题的设计者试图想出那些你不太容易通过训练来应对的东西。
IMO不可告人的秘密是，你确实可以为其中很多问题做训练。正如你指出的，在整个AI与数学项目进行的过程中，它之所以有趣，其中一个原因是AI有一个尖刺状的前沿，而数学恰好就在其中一个尖刺上。
但这种尖刺性有一种分形性质，因为当你放大到数学内部的具体进展时，有些东西比其他东西容易得多。如果我们只想想IMO，这在现在已经算是旧闻了。他们真正做得很好已经两年了。如果不是因为以下原因，他们在2024年就能拿到金牌了。他们非常擅长。他们基本上就是未经准备直接解出几何题。IMO有四类问题：几何、数论、代数和组合数学。几何，自2024年以来它只需19秒就能解出来，因为它是一个暴力求解器。
不可告人的秘密是，对学生来说，也有一种暴力方法可以应对。组合数学是那个变数：更加好玩、更像谜题的问题。那一年的测试中有两道组合数学题，而并非总是如此。有四类问题和六道不同的题目，所以哪一类会有两道题是碰运气的事。如果当时几何题更多，他们那一年就能拿到金牌了。
但它在那些组合数学题上很吃力。那些试图为人类守住数学最后堡垒的人可能会说，那些才是需要更多创造力的问题。即便如此，你那个问题的精神——如果他们解决了一个千禧年大奖难题，那是否也能服务于很多白领工作？——暗示着，从我们现在的位置到那一步之间的速率限制因素，与让白领工作变得更好的速率限制因素是相同的。
我们可以描绘几种不同的方式。如果我们聚焦于黎曼猜想，解决它会是什么样子？这些东西在特定知识领域极其擅长，非常深入地了解它，然后了解另一个领域，再另一个。你指出过这一点。拥有这种超人般的广度，对所有领域都如此了解，却找不到那些连接它们的闪电，这很奇怪。
我认为我们开始看到它在自己所擅长的东西之间找到联系的苗头了。我相信我们会谈到这个。如果黎曼猜想的解法本质上是类似那样的东西，那对我来说，这与擅长白领工作所需要的东西相当不同。
而且有理由相信那可能就是解法的本质。我不知道你是否知道高等研究院的Hugh Montgomery和Freeman Dyson的故事。这是个题外话，但是个有趣的故事。我不知道那是在午餐时还是类似场合，但你有这么一位数论学家，他正试图理解黎曼zeta函数的零点对之间的统计相关性。
黎曼猜想的核心就是所有这些零点是否都位于一条直线上。他找到了一个可以提出的定量问题，并写下一个公式。它看起来像是一除以正弦平方之类的。物理学家Freeman Dyson说：“我知道那个表达式。那个表达式出现在研究随机厄米矩阵的特征值时，”而那是研究原子核能级时会出现的东西。
这两个看似不同的东西的统计特性竟然相同，这一想法促使人们探索随机矩阵理论的某些方面是否可能与黎曼zeta函数相关。我认为那里是否有成果可摘，在某种程度上还是个未决问题。但把两个不同领域桥接起来——如果黎曼猜想的解法最终是进一步探索类似那样的想法——这具有你期望LLM擅长数学的那种特征。它们是量子物理的专家。它们是解析数论的专家。它们应该能够看到那种相似性，而不需要Montgomery和Dyson碰巧在午餐时聊到它。这与白领工作完全不同。你在把AI当作编辑使用时遇到困难，并不是因为它们知道一切，而你只需要让它们找到中间那道闪电。
另一种可能性是……什么才是恰当的类比？也许如果我们想想费马大定理，从费马提出问题的时刻到解法本身的样子之间，解法最终涉及数学中如此沉重的机器。那个问题的美妙之处在于你可以把它表述得如此简单。你问的是xn + yn = zn。当n大于三时，它有整数解吗？
你可能会期望存在一种初等数论的方法来处理它，但据我们所知，就是没有。而实际的解法，也许有更简单的东西，但这可能就是它必须的样子。有一组如此复杂的思想，建立在数百年围绕椭圆曲线的工作之上。然后还有另一座思想大山，围绕被称为模形式的东西。这两座山都必须先被建立起来，然后你才能提出连接它们的正确问题。
如果黎曼猜想的解决涉及建造一座新的高山，那是一种技能——提出正确的新想法的能力——这种技能与它们目前智能的特征感觉足够不同。这并不是说你雇来的视频剪辑师本身就需要这种能力。但如果它能够建造出正确的新理论之山，将我们应该如何思考一个主题的方式结晶化，那就是一种如此之高的智能水平，如果它不渗透到经济中除数学本身的山建造之外的其他方面，那才会令人惊讶。
Dwarkesh Patel:
或者至少，即使它不能字面意义上做白领人类能做的每一件事，它也会产生变革性的影响，就像在IMO拿金牌并没有对世界产生变革性影响一样。
首先，我确实想指出，我在这里完全是在移动球门柱。当我两三年前采访Dario时，我问了这个问题：为什么他们无法利用其庞大的知识将想法连接起来，从而以那种方式做出新发现。这似乎是那种即使是一个中等智力的人，如果知道这么多信息，也能从这种药物会导致偏头痛、另一种东西会导致那种效果、也许同一种药物可以治愈这两种情况这一事实中得出医学诊断的事情。
从局外人的角度来看，数学显然是一个找到单位距离问题猜想的反例就是这类事情的领域。所以这完全是移动球门柱。但然后我们可以问，下一个基准是什么？既然AI能做这件我们本应认为它们能做的事情，那么下一件会相当令人印象深刻的事情是什么？
这里有几个候选想法。一个是首先提出有趣的问题，另一个是提出新的对象或概念化，从而创造或统一领域。关于第一个，现在我们之所以有这些千禧年大奖难题，是因为数学家们注意到了它们。黎曼提出了黎曼zeta函数这个想法，因为他认为这个函数的零点会与素数的密度有某种联系。
弄清楚我们为什么首先认为这是一件值得研究的有趣事情，为什么我们要建造这个对象并试图回答关于它的问题——以及回答关于它的这个特定问题——似乎是那种会成为下一个基准的事情。
Grant Sanderson:
你在那里强调了两个相当好的例子。对于任何对单位距离猜想好奇的人，有一个非常好的视频，来自一个叫Polylog的数学频道，他们在其中讨论了它。
所有这些讨论都促使人们反思做数学的过程。他们会说，“哦，这东西能做这种令人印象深刻的事情。这对我们意味着什么？”那个视频中的一个人强调了这句话：“好的数学家证明定理，伟大的数学家提出猜想，而最伟大的数学家提出定义。”这或多或少正是你这里的框架。我们需要猜想生成器，然后是定义生成器。那是顶级数学家。
我不太明白你究竟如何把它变成一个基准。通常，当我想到基准这个词时，我想到的是某种球门柱。球进了或者没进。你可以清楚地说，“是的，这完成了。”部分是为了能够做像RLVR这样的事情，但也部分只是为了知道你在回答时没有移动球门柱。OpenAI可以把证明单位距离猜想不成立作为头条，因为这是一件清晰、明确的事情。它做到了。而想象一下试图用GPT-5.4提出一个非常好的猜想作为头条。“我们保证，所有人都认为这是一个好猜想。”这感觉就是不一样。
但也许这并不否定它是正确的思考方向这一事实。如果它曾经以看起来像基准的形式出现，我们会有一个分数说它通过了，因为我们可以量化一个猜想有多好，那我会感到惊讶。它所需要的本质很可能是，你会感受到与数学家对话中关于与之合作有何用处的语气转变。
你提到的这个系列，目前完全没有制作，可能几个月内也不会，形式是我们采访很多数学家。有趣的是，我们一年多前就开始做这个了，看到他们在2025年中期和我们现在所处的2026年之间谈论AI的方式有一点语气转变，这很有趣。在现实世界中，那是非常短的时间。在AI世界中，那是亿万年。我们能够看到那些亿万年中的这种语气转变。
我认为你衡量猜想生成能力的方式会更多地基于那种语气转变，更加主观。会是数学家们说他们不仅用它来解决他们的问题，而且当他们退一步决定他们的研究领域应该是什么时，与某某模型的对话对此确实有帮助。我不认为你很可能看到它以头条的形式出现，说这是又一个被击倒的基准。
概念突破的验证循环可能长达一个世纪
Dwarkesh Patel:
这非常有趣。你无法为之制定基准的那些事情，也是至少在当前范式下你无法轻易训练的那些事情。基准和训练环境之间真的没有根本区别。
很容易想出某种二分法，“这是AI不能做某件事的深层原因”，然后结果发现你只是思考方式错了，实际上它很快之后就能做到。但我要提出——
Grant Sanderson:
你无论如何都会提出几个的。
Dwarkesh Patel:
很可能结果是在相对近期内，我们有办法训练AI做这类事情。但这似乎必须不同于当前的RLVR训练。
我好奇的事情——也是在我看来驱动了数学和科学中许多重大进步的事情——是提出一种思考问题的新方式，或一种理解世界的新方式，它统一不同领域，催生全新的领域，并解决我们一开始甚至没有试图解决的问题。爱因斯坦思考广义相对论的原因不是因为他想解释为什么光会弯曲或为什么黑洞存在。这些是他一开始甚至不需要被解释的现象。
在数学中，作为一个甚至不知道自己在说什么的完全局外人，似乎经常有办法证明一个特定问题，从而激发一种新的概念化——这种概念化产生一个全新的领域，一种全新的思维方式，极具生产力——也有不会这样的办法。我很好奇想听你谈谈伽罗瓦提出群论，将他解决五次方程没有根式解与阿贝尔几年前提出的一个没有产生群论的不同证明区分开来。
如果你想对群论是否是一个有趣的概念做一个验证循环——这里是否做了有用的事情，或者为什么这个证明更好？——可能那个验证循环长达一百年。它涉及密码学的出现和物理学的进步，以及群论中的想法与理解物理学中的对称性相关。关于为什么这首先是一个富有成效的概念，有一个长达一百年的验证循环。
Grant Sanderson:
你触动了我的神经，因为我有一个关于伽罗瓦的项目，本来打算在2022年做，但我把它搁置了，不过我花了一年时间大量思考他做了什么。我有不小心在细节上讲太久的风险，你可以拉住我。
这对你的论点来说是一个完美的例子，因为描述为什么这是一个有价值的洞见并不来自即时效用。当然，如果你在考虑RLVR环境，这将非常难做到。但有趣的是，即使有当时的人类验证者，也花了很长时间才认识到它有用。
有了爱因斯坦和广义相对论，人们立刻就能感觉到这是一个好理论。而伽罗瓦理论之所以是一个如此有趣的例子，是因为你确实有这样一个长达百年的思想片段，它流经许多不同人的头脑，最终才沉淀为数学界一致认可的好东西。稍微往回退一点……你想听这个问题的背景吗？我们在学校里都学过二次方程求根公式。
Dwarkesh Patel:
我还以为你要说我们在学校里都学过群论呢，但我错过了那节课。
Grant Sanderson:
我们在学校里都学过群论……不，是二次方程求根公式。这个是已知的。从某种意义上说，希腊人就能解二次方程，但他们并没有真正用代数来书写。真正写下那个公式的是阿拉伯人。
有一个关于意大利数学家决斗的趣闻——不是真正的决斗，只是智力挑战——他们秘密地找到了三次方程的求根公式，然后紧接着又找到了四次多项式的求根公式。所以对数学家来说，一个自然的开放问题就是：你能找到一个解五次方程的公式吗？
四次方程的公式是个庞然大物。把它写下来会很疯狂。你通常不会把它完整写出来。你会把它拆解成一个程序性的东西。你可能会相信这些东西有着这种指数级增长的复杂度。所以几百年来，没有人真正回答那个问题。
通常我们说，Abel是第一个证明它的人。他是这位年轻、早慧的挪威数学家。他证明了这根本不可能。并不是说你能找到一个五次方程的公式。他一开始以为自己找到了一个，但他证明了这是不可能的。
不过我认为真正的功劳，你得往回退一点，谈谈Lagrange。他找到了就这个问题该问的那种正确的问题。我会用非常高的层次来讲。他在研究这个问题时，认识到能够解这些多项式与理解某些代数表达式的对称方式密切相关。
如果我写下a + b + c + d，只是把四个变量相加，然后我对它们做置换，表达式的值不会改变。而如果我写下a + b * c + d，有些置换不会改变它，但有些会。他有一个非常好的洞见：如果你能找到这样的表达式，它有四个自由变量，但所有置换只取三个不同的值，这与能够把四次降到三次有着意想不到的关系。
他开始探讨我们能否找到一个五次多项式公式，方法是琢磨他能否扩展那个方法。要扩展那个方法，你就得有一个表达式，它有五个自由变量，使得当你对它们做全部五的阶乘种置换时，它只取四个或更少的值。你可以把这个放进一本谜题书里。你可以把它放进一个十二岁孩子都能参与的脑筋急转弯里。你很容易就会觉得自己感到这是一项不可能完成的任务。
Lagrange坐在那里说：“这里有一个解决寻找五次多项式公式这个问题的策略。它看起来可能是不可能的，至少从这个策略来看。”但那是历史上第一次，人们有了这样的直觉：某种关于对称性的问题才是研究这些多项式的正确方式。在他心里，这只不过是一种方式。人们尚未发现实际上有更紧密的联系。而且也许与其寻找公式，我们应该问相反的问题：你能证明它是不可能的吗？他算是种下了那颗种子。
大约五十年后，Abel肯定读过Lagrange并受其影响。我们知道Galois在爱上数学时很喜欢Lagrange。很难想象这两位年轻天才围绕那个问题得出相当相似的洞见，不是源自Lagrange。
但关于你问的能否验证这是一个好想法，Lagrange并没有得出任何结果。他没有解决这个问题，所以这不是一个基于某个解而知道这是该问的正确问题的情况。他只是问了它。它本身有某种内在有趣的东西。而且它当时对数学也并不很重要。大多数人更感兴趣的是它在物理学中的应用。这几乎是一个边缘的、娱乐性的、业余爱好者式的东西。
Abel开始研究五次方程的东西，但后来有人建议他把更多精力花在研究椭圆函数上，所以在他英年早逝之前，他更多的工作是在那方面。他二十六岁时死于肺结核。然后Galois把这两个想法都推向了正确的方向，他真正理解了抽象的本质。他在狱中写下了这篇非常好的文章。我们可以大谈他的生平故事。那相当疯狂。但他是这个少年，他在监狱里，他曾试图提交他的数学论文，但都被拒绝了。
所以再次想想可验证的奖励，那个验证函数——也就是当时的学术界——拒绝了他写的东西。坦率地说，它并不很连贯。它不是一个完整的证明。他并没有清晰地表达出这个理论实际上是什么。他只是一个年轻的、羽翼未丰的数学家，正在摸索方向。那里的可验证奖励是：“不行。”但他有某种直觉，觉得那里有东西。
所以他写下了这篇檄文，论述数学的本质是某种随时间经历这些转变的东西。他谈到代数本身的出现，从仅仅用数字来思考，到对纯代数表达式有某种流畅的掌握，在那里你不再被束缚于解释那些表达式。他有这种直觉：似乎还有另一层抽象是我们应该做的，即与其思考公式本身，我们不如思考那些公式背后的对称性。但这仍然是一个相当不明确的理论。
如果你想说的可验证奖励是他解决了一个别人没解决的问题，那么，Abel已经证明了五次方程不可解。那Galois在做什么呢？原则上，伽罗瓦理论让你能取一个特定的多项式，并给你规则来判断那个特定多项式是否有你能写下来的根。例如，对于x5 - 1，你知道一个解是1。或者x5 - 2，你可以写下2的五次方根。
所以并不是说你不能写下每一个五次多项式的解，而是你能找到一个特定的多项式，证明你无法用根式写出它的解吗？他甚至也没有精确地解决那个问题。他没有针对一个具体例子证明他做不到。甚至描述他解决了什么问题都非常棘手。
然后他就死了。这是一个非常浪漫的故事，他有一场决斗。有很多神话围绕着他据称在决斗前夜写下了他所有的想法，但实际上，他之前已经尝试过五次让它们发表。
Dwarkesh Patel:
研究五次方程似乎对你的健康不利。
Grant Sanderson:
非常不利。如果你是个年轻天才，别去研究五次方程。他请求他的兄弟和密友把他的笔记交给Gauss，把这些笔记交给当时重要的数学家，因为他觉得那里有东西。即使那样，也没有真正被接受。他的兄弟和朋友试图把它们传出去，但又过了二十年，Liouville才看到这些笔记，看到也许里面有些东西，并试图整理它们，理解Galois想表达什么。即使那样，又过了大约二十年，Jordan才真正拼凑出类似现代群论处理的东西，他们把它归功于Galois。
你很容易想象历史走向不同，这些想法从数学的其他地方产生，而如果Galois不是一个那么华丽的人物，他可能已被历史遗忘。但从Lagrange有了这个模糊感觉——也许根的对称性是正确的方向——到这一切看起来像现代群论，你有这漫长的时间跨度。很多时候，它甚至没有通过人类审阅者的可验证奖励。它到了某人桌上，他们说：“我不太确定这里有没有东西。”你必须要有这一个人认出它。
即使那样，在那个时候它也没有真正解决实际问题。你指出了密码学和物理学之类的东西。你必须进入二十世纪，才有Gell-Mann想到，也许理解某些群如何分解的本质与粒子由什么构成有关系。他基于一个纯群论问题预见了夸克。这是群论更有趣的应用之一：甚至预测夸克的存在就是一个群论问题。那距离Lagrange已经很久很久，你才有任何类似那样的东西。
所以你必须问，衡量进步的方式是什么？它不是基于解决一个问题，而是以某种方式捕捉到Galois头脑中的那种直觉，当他说“我觉得这里面有点东西”的时候。Lagrange头脑中的直觉是什么，当他说“我觉得这才是思考它的正确方式”的时候？Liouville头脑中的直觉是什么，当他说“这个早已死去的年轻人留下的这些零散笔记，可能有点东西”的时候？这太难说清楚了。
我现在正在制作的另一个系列视频是关于整个“压缩即智能”这个想法的。虽然这并不是我真正采取的角度，但“更小、更具预测性的表达式感觉更智能”这个想法确实有几分道理。所以我很好奇，你能在多大程度上围绕某种可验证的奖励来设计——不只是围绕你是否解决了它、或者它解决的是什么，而是围绕做到这件事所需概念的小巧程度。
回到黎曼猜想的解法，如果AI解决了它，那会是什么样子？我认为它可能发生的第三种方式就是它干脆更努力地干。同样地，你也许可以有一个Fermat大定理的初等证明，只是被铺陈在数千页里，而那会是不连贯的。但更清晰的看法是用椭圆曲线那一套。也许存在某个上千页的黎曼猜想证明，没人真能从里面得到什么，而你真正想要的是那些想法的简洁、压缩版本，它们随后才能为人类所理解。
也许你可以把Kolmogorov复杂度扔进你试图量化“优雅”含义的努力里。我不认为这很容易，但我确实认为，为了奖励那种Galois式的直觉，而不是仅仅奖励你是否解决了一个问题，这是你必须做的事情。
Dwarkesh Patel:
为科学想出启发式方法是非常困难的。但很明显，人类一直以某种方式在做这件事，而且显然，AI在某个时候也会做这件事。
Grant Sanderson:
这不仅在可验证奖励方面是相关的，而且大概来说，最终目标是理解，是人类的理解。即使你确实有某个数学东西的某个上千页证明，或者某个宏大的新物理理论，目标也是理解。
也许如果目标是预测性，你大可以让自动化工程师去造火箭飞船，我们完全不知道它们如何运作，但我们能在恒星之间穿梭。但会有很多人想要理解。你仍然会想要那个无论是什么的简洁函数，把这种复杂的思考方式蒸馏成正确的那一种，就像Newton的万有引力定律那样的等价物。你仍然会想要训练AI能够做到这一点，并找到压缩后的表示。
我们能理解AI对黎曼猜想的证明吗？
Dwarkesh Patel:
人们尤其对数学有这种担忧：AI会证明黎曼猜想，而我们对数学的理解并不会因此变得更好。关于这一点我有几个问题。第一个是，这是否是你应该预期的事情。
人类在处理一个大问题时想出一般的、自然的对象和子目标，其理由难道不正是因为当你试图处理一个复杂、重要的问题时，这是有用的吗？从理论上讲，这甚至会是解决黎曼猜想的一种更简单的方式吗，相对于仅仅想出与思考该问题相关的自然抽象而言？
然后第二，从经验上看，当AI今天在问题上取得进展时，我们观察到的是这个吗？当AI想出那个单位距离猜想的反例时，你直接读它的思维链就行。对我来说它不可理解，因为我对数学一无所知，但对其他数学家来说它似乎是可理解的。它利用了已知的数学概念，并证明了它们之间的关系，全部用自然语言。结果，它加速了我们对这个对象与这个猜想之间联系的理解。
从经验上看，这是我们该担心的事情吗？
Grant Sanderson:
我认为这取决于其性质……如果我们分解解决黎曼猜想的三种可能方式……今年另一个大事件是某个编号为1196的Erdős问题，关于这些叫做本原集的东西。它具有那种从看似不同的领域引入一个想法的特征。一旦你把基本想法呈现给一个数学家……你说：“如果我们试试马尔可夫链过程，其中我们证明这个东西是从下往上概率性地成立的，而不是自上而下，并使用von Mangoldt函数呢？”
如果你对懂行的人这么说，他们就知道如何顺着做下去。你有这个非常小的想法，它具备一个领域的专业知识和另一个领域的专业知识的形式，在它们之间画出一道小小的闪电。这些会非常容易被人类解析，因为你所要做的只是展示那些连接点的起点和终点。
如果它的性质是造山，你就必须投入多得多的时间来理解那座被造出来的新山，因为它是一条新线索，而不只是它们之间的一道闪电。而如果进步的本质只是纯粹的苦干——一条没有新理论的超长推理链——那么你就会面临整个消化过程的担忧。所以我不认为有一个明确的答案。这取决于那个解法会是什么样子。
在造山这一边，看到它会真的非常有趣。它是否默认就非常容易被人类理解，就像我们看到伟大数学家的新理论那样？还是说它是一座被造出来的异质的、不同类型的山，我们不得不重新处理我们所接触的各种抽象？
这里最接近的例子会是*abc*猜想的尝试性解法。我们也许不该深入那一个，但它很可能不是一个正确的解法。基本上，这是日本这位在其他方面声誉良好的数学家想出来的一整套全新思考方式。数学家们花了很长时间才勉强解析他在说什么，但它有一种异质数学的感觉，是理论构建，而不只是一条长长的推理链。他称之为宇宙际几何。
最大的恐惧会是AI做了那件事，然后很像abc猜想那样，人们花好几年去爬那座山，然后他们说：“该死。这根本不对。”如果它最终是错的，但它看起来真的很对。即使它是对的，爬一座新山也要付出大量努力。
Dwarkesh Patel:
如果我们最终落到那种境地，David Bessis有一篇非常棒的博文，叫做“定理经济的衰落”。他谈到，从历史上看，正如你所说，数学就是在想出这些定义和问题，然后围绕它们证明定理。证明定理那一块获得了所有功劳，但它其实是寄生在“想出定义”那一块之上的。
从历史上看，在功劳分配方面这并不是问题，因为如果你提出了一个定义，你很可能就是那个提出定理的人。但现在我们处于这样一种情况：如果有价值的工作是想出洞见，而AI自动化了后一部分……
想象一个场景：AI针对世界上的一堆重要猜想，想出Abel式的直接论证，然后我们就有了这些证明。现在轮到人类或未来的AI去整合。再说一次，我对这个论证完全没有对象层面的理解，但我确信，如果你能接触到它，它会让你更容易思考到底发生了什么。是否存在某种更深层的方式，让我们能理解为什么这个证明行得通，从而更容易想出群论背后的那些想法？
Grant Sanderson:
我认为那会极其有帮助。试图发现新数学的很大一部分主要就是犯错。你试图解决一个问题，感觉并不是一直在山上迈出正确的一步。大多数时候感觉像是一场随机的醉汉游走，你在做一件事，然后你错了，并不断发现这一点。如果至少你知道，试图消化你手上的东西最终会导向一个正确的解法，那感觉就像是进步，仅仅因为知道它会导向一个解法的那种感觉。
在数学的近代史中，有大量例子让人觉得触及的范围超出了所能把握的程度，有些东西在被真正理解之前很久就已经被证明了。我最喜欢的论文开头之一——它甚至不是一篇研究论文，更像是一篇阐述性的文章——出自一位名叫 Timothy Chow 的数学家，他当时试图理解一个叫做力迫的概念。有一个叫做连续统假设的问题，它大致是在问：你有自然数的一个无穷大小，也有实数的一个无穷大小。它们之间还有别的东西吗？
答案既是有也是否。这取决于你的公理。它超出了我们通常公理系统的范围，这是一个有趣的答案。但描述它的方法真的很难理解。就是那个叫做力迫的东西。在这篇论文的开头，他写道，每个人都知道未解决的研究问题的概念。我想提出未解决的阐述性问题的概念。当然，我们已经证明了它，但我们并不真正知道它为什么成立。
然后他为那个阐述性问题提出了一个部分解决方案。你可以想象我为什么喜欢这个框架，因为这就是我的全部人生。我不做研究数学。它完全关乎理解这件事的最清晰方式是什么，即使它已经被证明了。证明和解释之间是有区别的，我认为你正在触及这一区分的重要性。
Dwarkesh Patel:
是的。那将是主要的激励。或者说，激励必须改变，不仅在数学中，在其他科学领域也是如此，从证明关于世界的事情，转向把证明整合成问题或更高层次的洞见。
我们之前在午餐时讨论过你最近关于设计的一次演讲，以及它如何帮助我们理解事物。在极限情况下，一个想法的概念化和这个想法本身之间真的有区别吗？如果你想想狭义相对论和时空图，以及闵可夫斯基时空，这是一种我们用来阐明为什么会有长度收缩和时间膨胀的方式。但那就是现实……所以，在这里，阐述在某种意义上似乎就是解释。
Grant Sanderson:
这里面有几件有趣的事。一是，提出真正新颖洞见的人，与在沟通这些洞见时实际上相当清晰的人之间，似乎有非常强的相关性。你可能会想象相反的情况，因为大学生的体验往往是，教他们的专家未必是那个主题最好的解释者，因为他们被自己的专业知识惯坏了。但至少在某些情况下，看起来真正提出相当新颖东西的人——比如 Einstein 或 Claude Shannon 之类的人——你读他们的论文，它们真的非常清晰。
它不像是只写给专家看的，你必须拿砍刀劈开才能读。他们是非常好的阐述者。Feynman 也有这个特点，他是一位非常好的阐述者。也许，大脑中在研究层面提出正确的新思考方式的同一部分，也具备这种善于解释的本领。
我认为这与 AI 有关。我过去认为 AI 会变成这些自动定理证明器，但数学家的角色会转向我的工作，也就是解释这些东西。现在我开始怀疑，实际上它们也会非常擅长做这件事，可能在解释和提炼方面比大多数人类都更好。所以，消化并解释正在发生的事情，很可能实际上并不是留给数学家的东西，从这些事情的发展性质来看就是如此。我们可以谈谈这为什么可能不是这样，但很可能，提出解决某个新问题的真正好新想法的同一能力，也恰好擅长解释它。这是我的信念发生变化的一种方式。
Dwarkesh Patel:
你认为你最后会做的事情是什么？既包括你，也包括人类数学共同体将会做什么。
Grant Sanderson:
我很可能会一直做类似我现在在做的事情，直到我死去。
Dwarkesh Patel:
如果末日论者是对的，也许会是出于同样的原因。
Grant Sanderson:
是的。你给一个人建一堆火，他能暖和一夜。但把一个人点着，他就能暖和一辈子。所以这就是我在 AI 问题上的立场。
解释者或教师的一部分功能，是让某个人好奇的东西变得更清晰。这是一方面。但另一部分更关乎关系，提供动力和一种策展感。我听过一个关于数学家最终会变成什么样的有趣看法，那就是它实际上更像艺术博物馆的策展人，而不是别的什么。
AI 解决了那个东西，所以艺术存在了。它们甚至知道如何非常好地解释它。但你仍然希望有人帮助你在这个近乎无限的想法空间中导航，判断哪些想法值得投入。即使 AI 在某种意义上更擅长这件事，我认为我们总会仍然更喜欢一个与我们有人际关系的人类，因为我们产生兴趣和被激励的方式是一种社会现象。
如果你在试图构建某种特定技术，那可能不同。但听这个播客的人信任你对什么首先是有趣话题的策展。并不是因为他们来到这里，是因为无论你的下一个话题是什么，那都是他们事先就想理解的东西。他们信任你作为策展人。
所以我的角色，可以说还有其他数学家的角色，可能实际上只是微妙地转向那种策展方向，判断哪些想法值得追求。这是我目前工作的很大一部分。我认为人们很多时候以为一个视频的大部分工作都花在视觉上。当然，确实如此。它不是立刻完成的。但实际上，很多工作只是决定首先什么值得说，什么值得放在那里。
我想参与这件事，而且我认为我和某些人之间有信任，他们好奇我会选择提出什么，即使 AI 在这方面更好。这就像人类音乐家总会有一席之地的同一个原因：他们背后故事的社会功能，即使某个模型产出的 MP3 文件在客观质量上更好。这就是我看到我的工作正在发生的事。
AI 能发现领域之间隐藏的桥梁吗？
Dwarkesh Patel:
我想回到之前的一个问题。就在 AI 跨过这个门槛、这个重要基准，即能够连接已有想法来提出新发现，或证明、证伪某件事时，我们会说：“好吧，但下一件事是什么？”
Grant Sanderson:
顺便说一句，那件事还有很多可做。仅仅因为几道闪电被扔了出来……我认为未来几年会有一个真正连接起来的繁荣未来。
Dwarkesh Patel:
对。所以在极限情况下，你甚至可以说——我不知道这是否准确，但有可能——很多最大的突破在某个层面上看起来都是这样。对于广义相对论，你只是把黎曼几何和狭义相对论连接在一起。所以随着 AI 在这种连接的事情上变得越来越好，也许很多大突破在性质上并没有真正不同。我不知道你对此有没有看法。
Grant Sanderson:
很多对话都集中在问题解决和数学的那种性质上，比如勾掉 Erdős 问题之类的。但我要说，甚至不是大多数数学家会把他们的工作描述为真正针对下一个要勾掉的问题。你熟悉朗兰兹纲领吗？
Dwarkesh Patel:
不熟悉。
Grant Sanderson:
它甚至不太算数学的一个领域，更像是一种研究精神。费马大定理就是它的一个端倪。你有两个看似毫不相干的东西，而它们之间的联系导向了一个解法。
Langlands 是一位数学家。他有一封著名的信，基本上阐明了为什么很可能还有更多这样的联系。他甚至对联系的性质说得更具体了一些，以至于你可以想象这样一张大地图，这边有一个山谷，那边有一座山，再那边有一片平原。很多数学家会把他们的工作描述为试图理解这张地图上的线索的一部分。
那里的进展甚至不是“这是我们知道会被那个联系解决的某个具体问题”。更多的是，一次又一次地出现这样的情况：大问题通过找到联系而被击倒，以至于这几乎是在预先寻找联系。这实际上非常有趣。每当你遇到一位数学家，问问他们工作的性质更像朗兰兹纲领，还是更像针对某个特定问题。你会看到某种二分。
AI 成为超级连接器的可能性，感觉上可能是这一追求中的一种放大工具。不过，这很难衡量。这就切入了我们之前所说的：你如何给“是的，你做到了”这件事打分？如果它是在击倒一个问题，你就有一种清晰的方式来说“是的，你做到了”。你可以写出标题。作为 AI 公司，你可以采取公关行动说“我们做到了”。
而如果感觉那是应该建立的那种正确连接，你可以围绕它写出定理。这就是该领域论文的样子。但我认为，这将需要更多的“人在回路中”来判断“我们想要的是哪种连接？”这是我对于未来五年这些模型的大多数有用进展会是什么样子的猜测。它真的只是在填补那种连接的图景——如果你是多领域的专家，你就能画出这些连接。正如你指出的，有点令人惊讶的是，我们竟然还没有做到这一点。
我很想知道，在技术层面上，是什么导致了那里的解锁。一方面，你可以在脑海中构建一种解释，说明为什么你可能是所有这些领域的专家，却没有画出那些连接。当推理方法是这种自回归思维链现象时……如果你想一想，自回归实际上是一种非常奇怪的生成东西的方式。
你是个聪明人。想象一下，我把你锁在一个盒子里，你与世界互动的唯一方式是收到一张纸条，有人对你说：“你能预测接下来会发生什么吗？”你预测接下来会发生什么，然后你的记忆被抹去。你又收到一张纸条。想象这样做了很多次，然后另一端出来的东西。他们说：“看看你写的这篇文章。”你可能会看着它说：“这太糟糕了。这不是我会写的那篇文章。”反复预测某件事的过程，与作为写作者去构思和思考它的方式，是非常不同的。
特别是，可能发生的情况是，你会成为你上下文的奴隶。你可能在回答某个特定领域的某个问题，所以你会利用围绕那个问题的所有上下文。但所有实质内容将来自的那个连接，就其本质而言，是一个非常不可能的连接。你可以做所有你想要的强化学习来试图以某种方式变得更好，但当绝大多数这些不太可能的连接都不是那里会出现的可预测的下一个词元时，究竟是什么东西在专门加权和激励做出这些不太可能的连接呢？
所以情况可能是，你只是把这种智能锁在了盒子里，但这是一种奇怪的与之互动的方式。我好奇的是：你是否曾经通过质疑词元是如何生成的这个前提而获得过任何成果？我不认为它会像操纵温度那么简单，但有没有什么事情是你可以做的，能够利用现有的智能水平，但找到正确的方式来激发那些解锁我们所看到的这类事情的连接？或者你只是需要多一点智能，以至于在预测的层面上，它预测到它应该向另一个领域发出那道闪电？
Dwarkesh Patel:
我认为，与其从架构甚至损失函数的角度推理，不如从数据的角度推理，这样更有成效。我们有做文本的扩散模型，它们生成的东西在性质上并没有完全不同。只是它们被探索得不够多。我认为更相关的问题是：无论你拥有什么架构或损失函数，它所激励你生成的数据是什么？看起来它们确实在变得更好。
先别管数学。我们确实有过几个这类事情的例子，但如果你只是看看为什么它们在成为自主智能体方面变得更好……它们处于一个环境中，在这个环境里，它们自回归地生成这样的步骤：“让我们退一步，在整个代码库中搜索一下”，然后“让我们退一步，评估我的错误”，而这就是有效的方法。
我猜想，在科学或数学取得进展的情况下，你会有前沿数学式的问题。数学家们专门设计这些问题，因为它们需要把两个不同的领域连接起来。我猜会有各种巧妙的、部分合成的方法来制造越来越难的这类问题，这些问题需要这类连接——例如，通过消除假设但仍然要求 AI 得到答案——然后损失函数是什么其实就不太重要了。真正重要的是，你能否想出一个激励这种能力的环境？
Grant Sanderson:
感觉上你应该能够做到。我当然说不出做到这一点以解锁所有这些的正确方法，但那会相当令人惊讶。你不觉得吗？如果在未来三年里，没有更多这样的闪电，那会令人惊讶。
Dwarkesh Patel:
我认为这是一件值得思考的重要事情。我们经常思考单个系统有多聪明。我们不去思考 AI 拥有的、更多是它们其他事实所导致的优势。所以在这个语境下，关于它们的关键事实是，我们可以并行化并任意扩展它们。无论它们拥有什么水平的能力，都不只是数学史上一个特立独行的天才，做出几个连接然后死于一场决斗。
它是把那条水位线普遍地应用到所有在那个能力水平上可及的问题上。这是数字心智天生拥有的众多优势之一，而我们对此思考得不够。其他的优势包括，它们可以把所有知识合并在一起——或者至少会有允许这种情况发生的技术——以及你可以生成具有相同知识水平的副本。这种并行化是一个相当重要的属性。
我很好奇你的预测。即使它们不如人类数学家聪明，出于公关原因，AI 公司正在向这件事投入数十亿又数十亿美元，这一事实意味着数量本身就有其质量。
Grant Sanderson:
这似乎方向是对的。如果我们拿 Montgomery 和 Dyson 在 IAS 的那次对话来说，它暗示了黎曼假设——或者黎曼 zeta 函数零点——与随机矩阵之间的某种联系，那感觉就是你可以尝试自动化的事情。你有代表所有这些领域专业知识的智能体。我们都知道，一个研究所比一个人更聪明。
让人们都在同一个地理位置的原因是，你希望那些偶然的对话发生。在智能体之间设计这些对话会是什么样子？这很有趣，因为你指出你可以汇集你所有的知识，但我真的想知道，其中一个优势是否是你也可以做相反的事情。
有时当 AI 失败时，是因为它陷入了一条糟糕的思维链，而且很难让它摆脱出来。所以你说：“我就重新开始。”人类也是一样。有时你开始以某种方式思考它，而所需要的就是退一步。有故事说人们试图证明某件事很长时间，然后某个时候他们说：“等等。如果我试着证明它是不可能的，或者证明相反的呢？”
解开你自己的上下文，以全新的头脑去处理它……你可以想象把这件事系统化，或者让多个不同的智能体故意被给予不同的上下文片段，并尝试在那里进行比较和对照。我们对自己上下文的操控达不到同样的水平。
在这个 AI 与数学系列中，我们要做的第一集将是关于它们解决 IMO 的时候。我想聚焦于它们失败的一个具体 IMO 问题，那是一个很多非常聪明的学生都失败的问题。Terry Tao 也在这个问题上失败了。人们对这个问题非常生气，因为他们称它为钓鱼问题。我几乎不想剧透，因为我想围绕引导某人进入、而他们不知道它原来有一个简单解法来构建这一集。你真的能共情作为一个学生解决这个问题是什么感觉。
基本上，有一种非常优雅的方式，沿着你基于它是国际数学奥林匹克问题这一上下文而真的感觉会是解法的那条路走下去。这个解法的性质非常诱人，但很难证明它是最好的。原因是，它不是。有一个几乎是脑残的解法才是最好的。
这与整个 AI 故事的相关性在于，对于人类来说，回答那个问题所需要的是逃离你的上下文。逃离身处 IMO 的上下文。逃离你被训练来解决这些竞赛数学问题的方式的上下文。如果你只是把它当作我向街上随便一个人抛出的脑筋急转弯来处理，他们可能会答得很好。
在其他语境下的人类研究中，你有时也想要同样的东西，就是能够刷新你的思维，以完全不同的方式来处理它。在数字心智拥有的所有优势中，那实际上可能是其中之一：一种更系统化的刷新思维的方法。分出两个智能体，一个试图证明它，一个试图反驳它，一个用这种方式尝试，一个用另一种方式尝试。它们故意拥有不同的上下文。
我很好奇，如果我们三年后再进行这次对话，那些登上头条的重大成果中有多少具有这样的特征：基本上是抹去之前的上下文，尝试一堆不同的东西，而不是合并一堆不同智能体的结果。
Dwarkesh Patel:
这非常有趣，因为人们对AI的一个常见担忧是这种熵坍缩——它们都以相同的方式思考，因为它们以相似的方式被训练。这就是它们不擅长写作的原因。它们走相同的路径，有相似的说话模式等等。
但也许AI的关键优势在于你可以系统性地……听起来单位距离问题猜想之所以花了那么久才被推翻，原因之一是人们假设这个猜想实际上是真的，所以他们大多在试图找出证明它的方法。也许AI的关键优势之一将是通过系统性地尝试对任何给定命题既进行否定、又尝试证明其肯定，来增加熵，或者能够系统性地给不同智能体赋予不同的偏见。
在人类科学史上，一件重要的事情似乎是：Einstein真的被这样一种偏见所驱动——事物在不同参考系中应该看起来相同。他还有多个其他类似的偏见，但那一个对他的思考非常有塑造性。你可以系统性地调查一堆启发式方法，看看哪些在某个给定问题上是有成效的。
Grant Sanderson:
所以你会建议在提示层面系统性地增加熵，即使你在自回归层面有这种不可避免的坍缩？Einstein会是一个有趣的例子，因为他有这种事物是相对的偏见。他也有一种“上帝不应该掷骰子”的偏见。你想确保你不会意外地让你所有的LLM都成为Einstein，因为你可能会阻碍量子力学的进展。
Dwarkesh Patel:
这说明科学没有一种正确的启发式方法。你只是需要多个独立的研究项目，各自有自己的启发式方法。
Grant Sanderson:
那感觉像是老派软件。只要你能以某种方式描述它。你有老派软件来放大那种熵。如果你能为你想要提示的不同思维方式建立一个清晰的本体论，你探索那个完整的本体论，然后每一个个体就各自去做它该做的事。
那里有一个设计问题，关于你究竟如何描述不同的方法。简单的是：你是试图证明它还是推翻它？更难的是说，你能采取哪些所有策略来证明这个，并确保你在探索它们时应用了足够的广度。
为什么现实世界的任务不适合RL环境
Dwarkesh Patel:
显然，AI在数学上的进展比其他一切都要快得多，人们指出该领域的可验证性是发生这种情况的关键原因。我认为那是两个重要原因之一，但人们真的忽视了另一个。我在实验室之外，所以我不知道实际发生了什么。这完全是一个天真的理论。
一个与为什么AI在数学上进展如此之大相关的旁支问题：为什么它在计算机使用上如此缓慢？计算机是非常可验证的。我的Etsy包裹到了吗？我的活动预订了吗？这些是极其可验证的事情，可以去调查。计算机使用所缺乏的是可磨性。
因为网站有机器人检测器——而且运行并行rollout需要大量的算力——你很难在Amazon上对同一个结账流程运行一千个并行rollout。你会被Andy Jassy关停。
Grant Sanderson:
他亲自。他按下Dwarkesh按钮上的红色X。
Dwarkesh Patel:
正是。你可以尝试为每一个网站建立克隆，但那非常劳动密集，而且会拖慢你。你目前需要用深度学习做这么多并行rollout来学习一项技能的原因是，我们还没有解决样本效率的问题。
Grant Sanderson:
Dwarkesh Patel:
正是。当然人们在研究许多不同的技术，但根本上，在我们训练AI的方式中存在这个巨大的约束。对于代码，你可以把某个给定进展水平容器化到一个仓库中，然后启动数百个并行容器，说“尝试实现这个功能”，而它完全是确定性的。因为它是确定性的，你可以解决信用分配问题，因为你知道无论是什么导致这个rollout成功、那个失败，那个diff就是起作用的东西。如果你有从不同起点开始的情况，这个信用分配问题就会变得难得多。
现实世界中的大多数事情都很难以同样的方式容器化。编程和数学是这条规则的例外。但如果你试图弄清楚如何建立一项成功的新业务，或者如何在市场上交易一天并赚钱，你必须与真实世界互动、事情一天天变化这一事实，意味着你不能一直重放、磨、刷那个模拟器。
数学当然是例外，我觉得这是这个领域以及编程领域进展的重要驱动力。这不仅仅是可验证性；它必须是可磨的。
人们指出AI进展快速的第三个原因是，他们非常关注Lean和形式化。再次，我完全不知道实验室里在发生什么。我觉得Lean对于AI当前的进展水平来说并不那么重要。为什么AI能够推翻关于单位距离问题的猜想？他们发布了思维链，或者至少是思维链的重写版。里面没有任何Lean。我认为Lean提供的那种基于过程的监督——你知道每一步都是正确的——似乎不如仅仅拥有这个可磨的、可验证的结果那么相关。
Grant Sanderson:
关于可磨性更重要这一点很有趣。天真地你可能认为Lean为数学提供了某种独特的东西，因为你能够看到它是否能证明。你有老派软件可以告诉你是或否，你把它用作你的VR。能佐证你观点的是最初的尝试。再次，我会绕回IMO。最初，DeepMind基本上就是这么做的。一切都在Lean中，然后第二年就全用自然语言了。所以正如你所说，它并不需要。
我确实认为那个形式化领域有一个尚未被探索的好处，那就是目前你仍然需要一个人来审查单位距离猜想的那个反例，说“看起来不错”。这为事情能被无休止探索的程度提供了一个界限。如果你考虑AlphaGo或AlphaZero式的系统，它们在自己的宇宙里玩一堆围棋并探索自己，可能偏离任何人类需要看的东西，但它们仍然有这种自动可验证的奖励。这不仅仅是你可以在那上面做RL。还在于你基本上永远不需要检查，你可以只是把算力倾注到它们探索围棋宇宙上。
可能有趣的是——也许这不会实现，但关于它是否会产出任何东西，陪审团应该仍然没有定论——有了Lean，你可以想象有一个基本上无休止运行的程序，不断尝试扩展Mathlib。Mathlib是这个GitHub仓库，基本上是用代码写成的全部数学。它离全部数学还很远，但他们想让它成为全部数学。它是用代码写的，你可以问“这个证明正确吗？”写这些证明非常劳动密集。有一个完整的亚社区围绕它。
但你可以想象有一个AI，你说“就试着扩展Mathlib。”也许它是它的一个fork，这样里面就不会有垃圾，因为人们对他们想要里面有什么有一定的品味。所以你有你的纯AI Mathlib的fork，它就一直运行，不停。它不需要任何人检查它。它可以一直继续。它可能提出自己的猜想。它可能提出自己的理论和不同的定义。也许其中许多是无用的，但它只是有这棵无限的树可以生长。
那是数学拥有而其他任何东西都没有的非常独特的东西，你可以按下开始，把算力倾注进去，移开视线十年，然后回来说“你有什么？”总会有一些东西。然后有一个问题：它有用还是没用？你怎么弄清楚？能够这样做本身就是一件有趣的事。如果那没有从中产出某种有趣的数学洞见，那会非常令人惊讶。
在这个故事中，Lean重要的方式有两种不同。第一种是你如何可以放手，甚至不检查，而进展仍会被取得。你可以用围棋做到这一点。我不认为你可以用自然语言数学做到这一点。
Dwarkesh Patel:
这非常有意思。你看到Karpathy的自动研究想法了吗？他写了这一个Python文件，做基础的LLM训练，然后有一个仓库，让LLM智能体尝试对这个文件做修改，如果它加快了速度运行，修改就保留下来。
Eric Jang，他之前来讲解过AlphaGo是如何工作的，在他试图构建一个非常强的围棋机器人时做了类似的事情。他有很有意思的观察。它非常擅长运行一个实验并沿着那条路走下去，但它不擅长在死胡同上停下来，也不擅长做极度并行的事情。总之，这在未来可能会改变。
思考它在极限情况下是什么样子非常有意思。这从根本上就是人类数学研究制度的样子。它是一个以有趣和有用的方式扩展的库。这样你就没有任何基于结果的监督。没有你试图激励的结果，但你有一个过程。你知道步骤是正确的，你只是不知道它是否在朝一个有趣的方向走。
Grant Sanderson:
如果你在做那件事，你不想完全脱轨，在逻辑空间里做随机游走。你可能想要某种监督模型，试图提供关于它是否有用的启发式判断。你知道人们在研究这个。这是那种“五年之后”的事情之一，我会很好奇让未来版本的我们来谈论它。
也许那走不通，但Terry Tao谈到了一个研究项目，试图穷举搜索可能的代数结构的空间。你可以想象不同的公理，你把它应用到代数系统上。当我们提出群论时，有一个特定的公理系统，除非你知道动机，否则它看起来像任意规则。如果你把所有的都试一遍呢？其中任何一个能产生有用的东西吗？绝大多数在某种意义上就是垃圾。它全都坍缩成没有有趣的结果。
但时不时地，会有这么一个小岛，是一种完全不同类型的公理系统，至少从它能产生的定理数量来看似乎很丰富。这正是你会想象自动证明器擅长的事情：探索那个空间，看看其中哪一个最终成了某种东西。也许其中一个小岛实际上最终成了你可以追溯性地赋予动机的东西，说这就是它试图达到的那种结构。
就像你可以想象看着群的公理，不知道它是关于对称性的，但你追溯性地意识到这与研究对称性非常相关。你可以想象那种味道的结果，但不是仅仅探索可能的代数系统，而是探索任何种类公理的所有可能逻辑推论。
Dwarkesh Patel:
关于你是否能在没有Lean的情况下提供基于过程的监督这一点，DeepSeek有他们的DeepSeek Math模型。他们发表了一篇关于如何训练它的论文，相当有意思。
自然语言证明的问题是你不知道它是否正确。他们有一个验证器，而这个验证器是由一个元验证器训练的，元验证器确保：在解题过程中，针对他们训练这个模型去解决的所有问题，验证器都能给出良好反馈。它有效。有意思的是，带有某种元验证的自然语言验证在已发表的文献中到目前为止似乎有效。
它在我们正在使用的已发布产品中似乎也有效。如果你看编程智能体，它们在写干净代码和重构代码方面越来越好。我确信有基于过程的“LLM作为评判者”系统提供品味，说“这是写这个函数的干净方式吗？有没有同一种模块化形式的重复？”那对数学也应该有效，对吧？
Grant Sanderson:
对数学来说，这似乎比任何其他东西都更可信，即使你只在自然语言中工作，你也可以信任一个验证器。你和我之前谈过为什么它们不擅长写作。它们似乎是好的评判者。如果我给它们两篇学生写的文章，它们能说出哪一篇更准确、更有洞见。那么为什么你不能就让一个验证器说，“这是一篇好文章吗？”
也许那里的终极失败在于，即使它们擅长区分B级文章和A级文章，它们实际上并不擅长区分A级文章和你真正想读的东西，那种在Substack上可读且富有洞见的东西。它们实际上最终偏好没有洞见的文章。
在数学方面，仅仅知道一个证明是否正确这一步本身就适合自动验证器，即使在自然语言中也是如此。你可能仍然能取得大量进展。我仍然喜欢Lean的逻辑树，就因为你可以真正脱轨。对之前事物如何被表述的方式没有约束。每个人都谈论AlphaGo中的第37手。是什么东西适合走出先前的启发式？在那次探索中与世界其他地方断开连接似乎是有成效的，作为自然语言数学前沿的互补研究追求。
Lean的另一个相关性是，假设你有纯自然语言的RL环境和纯自然语言的证明集。人们说，“前进吧，AI数学家们”，它们每天生成十篇论文。如果那有任何错误率的话……Alex Kontorovich已经谈过这个。作为一个数学家，这变得令人难以忍受。每次你看到其中一篇，你都不知道它是否值得你花时间。即使100篇中有99篇是对的，我也不知道它是否值得我花时间，因为找出那个错误会是什么非常费力。把所有时间花在一篇垃圾论文上真的令人沮丧。
有某种东西能给你那个绿色对勾，说“即使这理解起来会很复杂，即使这会很痛苦，你至少知道它是正确的”，其他每个领域都会为这个拼命。数学有这个。如果模型也能把它们的自然语言证明形式化，那似乎是巨大的。每个领域都会喜欢有那样的东西。所以我认为你说得对，Lean作为数学总体进展的VR环境，其重要性也许被高估了。但我绝对不会把它从故事中划掉。
Dwarkesh Patel:
我也喜欢这个把Mathlib的扩展作为我们文明很快将要发生之事的隐喻。几千年来，人类建立了这个知识和理解的语料库，我们现在拥有的一切现在都被蒸馏进这些模型。在某个时候，模型会任意地扩展它。
好的写作需要AI仍然缺乏的心智理论
Dwarkesh Patel:
顺便说一句，在写作方面，我有一个关于为什么写作比这些其他领域进展更差的理论。一个原因是你说的，它们不擅长评判，不仅是A对B，而且它们会被B完全带偏，B是那种糟糕的文章，却命中了A应该命中的所有花哨之处。奖励作弊（reward hacking）就直接脱轨了。
但另一个重要的事情是，写作不像代码和数学那样模块化。你可以用许多不同的方式写一个函数，它们做同样的事情。你当然希望它干净，但归根结底，如果它能用，它就能用。数学中的引理也一样。你可以有一个与产生方式不同的最终产品。代码是产生某种最终产品的东西，你想要一个功能性的最终产品。
而在写作中，最终产品直接就是AI正在产生的东西。每个段落、句子和词都重要，因为那就是实质。它不是从写作中产生出来的某种分离的东西。它不能像代码那样是垃圾却仍然产生你想要的结果。
Grant Sanderson:
但你刚才指出我们实际上在智能体写代码方面已经好多了，不仅是功能性代码，还有干净代码。为什么同样的进展，让你从仅仅功能性到干净且可合并的PR，不会也导致更清晰的写作呢？
Dwarkesh Patel:
这是个好观点。而且，它难道没有吗？我同意在很多方面它们是糟糕的写作者。但对于我消费的很多写作，我发现直接把它复制粘贴到LLM里说“给我解释一下这个”更好。解释会比人类产生的东西更好。有趣的是我们说这些是这么糟糕的写作者，然而我的显示偏好是让LLM来解释它。
即使我在电话上实时与人类专家交谈，如果那是只有他们拥有的、没有编码在分布中的知识，我想让他们向我解释。但如果为了理解那个，我需要理解一个更基础的概念，我会更希望社会能接受我直接说，“我们在这里暂停一下。我就去问LLM那是怎么运作的，然后我们可以回到你那特别的知识。”
Grant Sanderson:
那就是蒸馏，一种解释。如果我考虑你作为散文写作者的水平——如果我给你一本书让你读，然后我想要一份读书报告——我可能会认为大语言模型给我的读书报告更好。但人们说它不好的时候，真正想说的是：写作是什么？它不只是对已有思想的蒸馏。它不只是你如何清晰地解释，因为它们是很擅长解释的。它关乎的是洞见是什么。
这就是自回归作为一种生成方式非常奇怪的地方。你在写作时，多少知道要想写得好，就必须有不可预测的元素。这不只是在心里调高温度。而是要确切知道在哪个正确的点上你想做出一个不可预测的举动，并且那将会是更有洞见的。即使它更擅长解释一个已有的东西，最初是什么生成了那本你想蒸馏的书？
它并非由大语言模型按你的需要生成。是某位作者，通过对世界上各种想法的大量探索，决定了哪些方面有趣，以及哪些呈现方式形成了一个连贯的、有充分动机的叙事。他们以某种方式把这一切组合在一起。如果他们是一位好作者，你大概会倾向于读他们的书，而不是读蒸馏版。
尽管如此，最初到底是什么让这件事值得探索、让人想要上传它？人们说大语言模型不擅长写作时，引用的正是这一面。正是那种不可预测性的元素，那种刻意选择某种新颖东西的做法，与事物通常被生产出来的方式非常直接地相矛盾。
Dwarkesh Patel:
这是个好观点。我认为它们也非常不擅长建立关于人的真正好的心智模型，而这是写作中一项非常重要的技能。Andy Matuschak和另一位合作者——我一时想不起名字了——做过一份有趣的报告，他们试图教大语言模型写出好的间隔重复提示。我非常喜欢这个，因为尽管它看起来像是一项完全随机的技能……就像，人们在谈论递归自我改进会在一年内实现，而我们却没法让这些东西写出好的抽认卡。这是怎么回事？
他们尝试了许多不同种类的技术，而且他们都是很老练的人。他们尝试对开源模型做强化学习。他们尝试了各种方法，包括思维链，以及给最好的闭源模型发一大段提示。在我看来，关键的约束在于，写一张好卡片关乎的是投射某个人三个月后的心智。他们会以什么方式联想到这个问题？他们在那一刻会想到什么样的答案？这种引出是否激发了你真正想从你试图为之制作卡片的段落中带走的细节？
我认为写作与此类似。如果你在写东西，它之所以是一个如此耗费精力、耗时如此之长的过程，是因为每写一个词或每一句话，你都必须思考：此刻我的读者脑中正在发生什么？
即使我把措辞调换一下，让结尾的短语放到开头，而这是你读到句子其余部分之前脑海中浮现的第一个意象……也许自回归在这方面不擅长。这也许是一种更像扩散的性质，考虑整体而不是逐句推进。但我也认为那需要大量的心智化，而这些模型奇怪地在这方面挣扎。
Grant Sanderson:
这是个有趣的问题。它们在这方面挣扎很奇怪吗？我可能会把这个说砸。你知道你引用你曾经读过的研究，也许那项研究并不是真的？有一项非常令人难忘的研究。假设你想测验人们的EQ。你展示一张某人面部表情的卡片，然后让人描述那种情绪。网上有非常好的测试，给出一张脸，然后有四种可能的情绪。要准确描述出正确的那种情绪出奇地难，但你也会感觉到确实有一个正确答案。如果你在你生活中的人身上试试这个，你会注意到那些社交上很敏锐的人做得非常好，而那些更偏左脑的人做得不好。这是一种你可以做的测试。
我隐约记得一个实验大致是这个效果：他们找来刚打过肉毒杆菌的人，做了一次前测和一次后测。后测时，他们解读他人表情的能力差了很多。这感觉很奇怪。
Dwarkesh Patel:
等等，他们打了肉毒杆菌？
Grant Sanderson:
是接受测试的人。你做了测试，然后你去打肉毒杆菌，你的脸全僵住了，现在你理解你所看到的表情的能力变差了。其想法是，理解你所看的情绪的一部分就是自己去做那个表情。在面部层面，你在动你的面部肌肉。你看到那个表情，你模仿它，然后你在某种非常潜意识的层面上想，“哦对，那是焦虑。”
所以从这个意义上说，如果模型确实有糟糕的心智理论，那当然，它们什么都知道，因为它们读过所有人写的东西。但在真正能够设身处地代入你的位置这个层面上——就像我的面部肌肉在模仿你的面部肌肉，那正是帮助我理解你感受的东西——这一点也不令人惊讶。它们没有面部肌肉。它们的大脑运作方式完全不同。这就像一个外星人试图共情。它怎么可能有心智理论？那会是一种非常涌现性的东西。
而我们则可以直接把它接入我们自己的心智。我们有现成的硬件可以把它放进去。从这个视角看，这并不那么令人惊讶。
为什么学习仍将依赖人类策展
Dwarkesh Patel:
关于用大语言模型来学习，你有什么建议？正如我描述的，对于很多众所周知的概念，我觉得它们非常有用。但往往再往下聊几条消息，我正试图理解某个东西，而它们自己就糊涂了，结果把我也弄糊涂了。它们没有用正确的方式解释。我知道和正确的人交谈可以在三分钟内澄清我的困惑。
我们会越来越想用这些东西来学习。人们谈论了很多关于教育和表征的事情。你有没有注意到更有效地用它们来理解概念的方法？
Grant Sanderson:
我很好奇想听听你的看法。我先说说我的。即使在大语言模型之前，我觉得学习中一个相关的洞见就是认识到“谁”比“什么”更重要。
我对任何大学生选课的建议是：少在意一点你已有的兴趣，因为它们现在多少有些随意，多在意一点教这门课的人是不是一位好的教育者、是不是你能产生共鸣的人。在选择读什么书时，作者是谁也许比它是否是你之前的兴趣更重要。如果有一本书你以前喜欢过，那就去读那位作者写的其他东西，而不是去读同一主题的另一本书。
我这就说到大语言模型了。试图从维基百科页面学习某样东西，与——如果是哲学话题——去斯坦福哲学百科全书，或者如果是数学话题，去*普林斯顿数学指南*，感觉是不同的。那里的区别在于，文章是由一个人刻意写的，他试图真正围绕它构建一种动机。
而在维基百科上，达到的是这种局部最小值，每一句话都必须正确。在一篇好的阐述中，你在过程中对正确性稍微不那么在意。你可以刻意构造一些稍微有点错的东西，然后在过程中纠正它，而在众包环境中这会被编辑掉。大语言模型的解释目前给我的感觉很像维基百科，也就是说，很棒。想象一下维基百科之前的世界，要找到并弄清一切得花多长时间。
但尽管如此，维基百科页面最有用的部分是什么？往往只是底部的参考文献。你看那些关键参考文献，然后去找它们，读它们。有时那会给出好得多的概览。所以我经常喜欢直接问大语言模型：“我应该读谁？”也许我甚至可以具体说明我想学习的方式。
实际上我有一次在试图学习半导体之类的东西时被这个忽悠了。我觉得这是一个非常视觉化的话题，但所有资源都是文字。我问：“有没有一个可视化很好的视频解释你提到的这些概念？”Claude说：“有，这里有几个，”而排第一的像是：“这是3Blue1Brown的一个”。我说：“我敢保证没有。”
那确实是一个真实的视频、一个真实的链接，但它只是把别人的东西错误地归给了别人。那个视频很好。我点过去看它来学习，比在那里继续追问问题的体验好得多。从这个意义上说，我基本上是在把它当作一个超级增强版的谷歌来用，以锁定正确的人类撰写的资源。你呢？你经常接触这些。用它们的最好方式是什么？
Dwarkesh Patel:
我觉得你说到点子上了。我最有成效的学习过程，是当有一个由人类产出的制品——无论是文章、书还是视频——以正确的方式组织了相关概念的时候。它会逐步建立起动机，说明为什么下一个想法会与你接下来要解决的问题相关，然后是再下一个想法，再下一个。然后你用LLM在这本书已经识别出的这个分支周围做一点修剪。我其实一直在读——我觉得可能是你推荐的——Steven Strogatz的那本教科书……
Grant Sanderson:
混沌那本？Nonlinear Dynamics and Chaos？我很喜欢那本书。
Dwarkesh Patel:
对，我当时在读它，那是一种极乐。就像你的视频变成了书的形式。超级有趣。我学习它的方式是，把他在大学的讲座放在屏幕的三分之一，教科书的那部分放在另外三分之一，LLM放在最后三分之一。我当时其实在想，如果我回到大学、现场看这个讲座，它完全会超出我的理解。这些孩子一定非常聪明，因为我在暂停、读教科书、和LLM对话，然后再重新开始。但有了他来策划理解概念的正确顺序，以及激发理解它们的正确问题……
还有一件事是LLM真的很不擅长的。一个非常优秀的人能做到的是，当你问一个问题时，一个人可以说：“其实，你思考这个主题的方式并不真正正确。你真正该问的问题，组织这些概念的正确方式，是X。”LLM就是真的做不到这一点。
Grant Sanderson:
它有点太安抚人了。这归根结底就是那种谄媚行为，它会说：“哦，多么有洞见的问题。”你想把这一层剥掉。这是个好观点，而且我觉得它触及了一点心理理论，就是认识到问出某种问题揭示了学生的心理结构与解释者的心理结构并不相同。
有时候人们做这件事会做过头。拿一位非常好的老师来说，假设你有一个初中数学课堂。如果一个学生问了一个问题，暗示他们是以不同的方式在思考它，那么在当下真正认真对待这一点、并在你说“别那样，我们这样做”之前先问“等等，你能用那种方式得到一个正确答案吗？”其实是很难的。真正优秀的老师能够借力打力，把学生思考它的那种创造性方式带进来。LLM并没有这样做。它们没有重新框定你的问题。相反，它们有点跑偏了。
至少，感觉这里有三个层次。LLM处于一个层次，一个好的解释者处于另一个层次，但A+级的解释者是那种能够借力打力地利用你的思维方式并说“那正是它有用的地方”的人。也许存在一个完整的循环，五年后，LLM会做到这一点，但是以更好的方式。
Dwarkesh Patel:
对于那些肯定一直给你发邮件问这个问题的学生，你有什么建议：“我对做数学很好奇。我真的很热爱这个学科，但看到AI正在取得的所有进展，我不知道把它作为职业是否还说得通。”这不仅与数学领域的人相关，也与任何注意到自己领域正从AI获得生产力提升的人相关。编程与这个非常相邻。你对人们有什么建议？
Grant Sanderson:
我不会信任我给出的任何建议。我会这样来铺垫。但即使在AI之前，对于你要从事的任何工作来说，真正理解……如果我们谈的是一份工作——而不是做一个与数学世界打交道的绅士科学家之类的——你就应该理解钱从哪里来、你实际在增加什么价值，以及这两者之间的联系。令人惊讶的是，人们对此投入的思考少得可怜，尤其是学生。
他们处在这样一种环境中：他们想进入数学，可能是因为他们一直擅长它。他们在人生中因为正确地穿过下一个圈而得到奖励。当他们觉得自己想成为数学家时，是因为他们认为这是继续参与那种事情的一种方式。他们想的是“人们在哪里能做这个？”，而不是想“我在为他人增加什么价值，以及在多大程度上这正是薪水流向我的原因？”
实际上，不同情况下这相当不同。在某些情况下，是一位非常有声望的数学家，他们在大学里的存在带来某种品牌价值，这就是大学想要他们的原因。在某些情况下，NSF的资助是因为我们对基础科学抱有公共利益的信念。你围绕这个有一套机构，以及一整套官僚体系作为我们所认为的那种公共利益的代理，还有一整套繁文缛节，围绕如何让他们正确预测你的进展会符合那种资助的精神。有时候就只是直接的教学。人们喜欢把孩子送到有专家教他们的机构。你作为专家提供品牌价值，作为教师提供直接价值。
无论AI是否在证明定理，无论我们谈的是2016年还是2026年，这都是那些想着“我想成为数学家”的学生中思考得不够多的一件事。我觉得这值得思考。对我来说，我未必在思考这件事，我是跌跌撞撞进入了一条职业道路，在这条路上数学探索可以作为娱乐被变现。我跌跌撞撞进入了它，我非常感激自己做到了，但那是个意外。它不是刻意的。如果我当时批判性地思考过它，我本可以避免依赖机缘，而更多地通过设计来做到这一点。
回到你的问题——如果我们有了几乎自动化的定理证明，并且假设它们也是非常好的解释者，以至于你甚至能得到人类的理解——我觉得数学家所服务的大量社会角色实际上并没有改变那么多。作为公众，我们仍然觉得基础科学有价值，我们信任数学家的判断来决定他们的时间最好花在哪里。声望来自那个社群内部。是其他成员说一个结果真的很好，而不是资助申请撰写者真正理解代数数论从而理解那是一个好结果。
会存在一种关于什么构成有价值贡献的内部文化。也许它会从定理证明转向好的定义撰写。也许就是那个博物馆策展人的想法。但只要整个社会仍然重视基础科学这个前提，你就会拥有同一个社群。而如果我们处在AI带来的丰裕世界里，从某种意义上说，朝那个方向的资助可能会更多。
在讲师是谁给机构带来声望这一方面，我实际上认为教学是后AGI时代最稳定的工作之一，因为它是如此具有关系性。如果父母拥有丰裕的财富，这就是他们想花钱的地方：花在好的教学和好的教育上。它远远超出解释。即使LLM是好的解释者，教师所做的事情是如此具有社会性、教练式、导师式的事情，以至于这可能是未来五十年里将要存在的最稳定的职业之一。
就许多数学家的角色与这一点重叠而言，作为进入这个领域的有志学生，你可以倾向于这一点。我实际上认为更多学生应该思考并认真对待仅仅做一名数学教育者的想法，以及这能为下一代服务的价值。
我再次铺垫一下，我不认为我是那个该说“来，有志的年轻数学家，这是你应该如何看待未来”的人，因为我是一个YouTuber。我不在他们正在考虑进入的那个机构里，所以我是作为一个局外人在往里看。但这感觉像是一般来说很好的、普适的建议：知道钱从哪里来，知道你在哪里接入其中。而如果你只是在问这些问题，你实际上已经领先于所有其他羽翼未丰的有志数学家好几步了。
Dwarkesh Patel:
事实上，想想那个疯狂的世界：在五年或十年内，AI不仅会提出千禧年大奖难题的解决方案，而且会首先提出全新的待解决问题、全新的数学领域和对象之类的东西。正是在那个世界里，首先，有大量的丰裕。第二，AI心智走得最远、将最远地超越我们视野的地方，将是数学。对“AI看到了什么？你能给我们解释一下吗？”的需求将会如此之大。
在那个世界里，如果还有什么工作的话，那么提炼AI所学到的东西肯定会是其中之一。
Grant Sanderson:
而且，这很有趣，因为所有这一切都预设了它是无用的。我们不是在谈论正在做的数学的实际应用。只要它有任何经济效用，你就会想象，那些理解它并能够做出它应该指向何方的决定的人，实际上会因为能够作为策展人做出那种判断、并把这个新数学的庞然大物指向一个有用的方向，而拥有多得多的经济价值。突然间，相比以前，这是一个杠杆大得多的举动。
Dwarkesh Patel:
我能问你关于这个吗？显然，AI用于数学的一个问题不仅是它能不能做，而且是它做得好不好？或者它对任何事情有用吗？
你之前描述了通过群论，我们试图弄清楚不同种类函数根的一些随机事实的各种方式，而现在这些在不同领域都有各种实际应用。你有没有某种感觉，如果我们完全达到人类数学领域被加速10倍或100倍、然后发生一些疯狂事情的地步，还是说我们只会被其他领域瓶颈所限制？
Grant Sanderson：
我认为有些领域很可能会。它是非常尖刺状的。在代数数论方面的进展，感觉不太可能就此解锁什么东西。但我记得和这位做更多动力学和偏微分方程求解类东西的数学家聊过。他提到他的团队有一些想法。让我看看我能不能把这个总结对。就像波音制造飞机的方式是，他们会把它造出来，做一堆测试，然后根据那些测试把它拆开再重新组装。他的团队本质上对如何在仿真中做更多事情有一些洞见，这样你就不必拆解再重建它。这为波音省了数十亿美元之类的，然后他们就开始资助那个团队了。
那明显更贴近应用，因为偏微分方程就是那样。在那个领域的进展，你会想象它确实解锁了一些东西。我不知道是不是这些阶跃式变化，但也许更多是发动机设计变得稍微更流畅一点，或者想出正确的机翼形状，而不是跑一大堆复杂的CFD。也许你能够加速你的CFD仿真，因为某些纯数学洞见让那些更高效。我敢打赌你会在那里看到很多很棒的渐进式改进。
数学上的重大突破立即变成这种重大经济突破，比如你解决了Navier-Stokes问题，然后这就解锁了模拟更多东西的能力，这看起来不太可能。但你很可能会在那些边缘处看到，一些有意义的纯数学洞见泄漏到其他东西里。有大量的人在研究AI工程、物理工程和材料科学之类的东西。你必须想象他们会处于一个很好的位置，能够审视AI数学洞见并判断它们是否在某种方式上相关。
这又是那种我不会坐在这里插旗预测一定会有的事情之一。但如果在未来五年内，没有直接可归因于AI在数学上进展的经济上有价值的改进被做出来，那会有点令人失望，也有点令人惊讶。如果只是解决了一堆Erdős问题，而它们没有一个在做任何真正直接触及物理世界的数学，那就会令人失望。
Dwarkesh Patel：
关于你提到的，数学史上的很多内容都是关于积累这些概念和联系的堆栈。有时这些堆栈会彼此连接，或者你在别处发现了一个应用。至少，你只是积累了这个巨大的堆栈。
然后随着奇点期间社会更广泛的进展发生，当我们到达奇点的工业部分时，你就拥有所有这些不同的想法，希望它们在世界其他地方有用。
Grant Sanderson：
正如我所说，正在发生的事情中一个有趣之处是，它促使人们退后一步问：“数学是什么？”也许其中一个尴尬的结论将是揭示它已经完全变得无用了。所被问的那类问题已经变得与物理上可应用的东西如此脱节，以至于这是数学家们不得不接受的事情之一。
每个人都会看着说：“等等，你们这些人不是应该……如果那里有10倍的进展，为什么我们在这边看不到？”然后数学家们就像：“呃。”每次我们写那些资助申请说“相信我们，椭圆曲线的进展会帮助密码学”，它就揭示了一个事实：也许它并不会。所以那是一种可能性。
Dwarkesh Patel：
Grant，这超级有趣。非常感谢你来做这个。
Grant Sanderson：
当然。我的荣幸。
本文由 AI 翻译。