AI 时代，纯数学研究的未来是什么？——沃尔夫勒姆讲读与问答
摘要
斯蒂芬·沃尔夫勒姆从 Mathematica 的历史经验出发，讨论人工智能将如何改变纯数学研究。他认为，AI 在检索数学知识、连接不同领域的结果、辅助计算与证明方面很有价值，但纯数学的核心还包括提出问题、创造概念，以及把这些概念纳入人类能够理解和共享的数学文化。计算不可约性保证了新事实与新结构的无穷涌现，却不能替人类决定哪些探索值得进行。随后的现场问答进一步涉及 AI 的可控性、怎样提出好问题、数学教育、长篇机器证明、计算语言和数学研究的就业前景。
概述
本期 Stephen Wolfram Readings 由沃尔夫勒姆先讲读同名博客，再回应观众的实时提问。讲读围绕“什么才算数学”展开：从公理和机械推导到高层概念，从自动形式化的准确性到可读的计算语言，再到数学目标、美学和社会价值。问答将这些主张延伸到教育与技术实践，讨论在计算和 AI 越来越强的时代，人应该学习什么、研究什么，以及如何判断机器生成的成果。
配套文章：《AI 时代，纯数学研究的未来是什么？》
目录
讲读
数学与 AI 的现状
大家好。我想谈谈我刚刚发表的一篇文章，题目是《AI 时代，纯数学研究的未来是什么？》。我先讲讲文章里说了些什么，然后我们可以一起讨论。
先谈新闻标题和历史。这样的新闻标题不断出现：某某 AI 系统解决了某某数学问题。
我越来越常听到有人说：“也许我们已经不需要人类来做数学研究了，也许干脆应该把它交给越来越强大的 AI。”
我得承认，某些说法让我有点不耐烦了。因为在我看来，它们往往涉及对数学究竟是什么的根本性误解；坦率地说，也涉及对 AI 究竟是什么的误解。
或许，我有一段独特的个人经历，使我形成了这样的看法。毕竟，早在 1988 年，我们首次推出 Mathematica 时，也有人说过类似的话，认为数学将被接管、变得毫无意义。当然，事情完全不是那样发展的。相反，Mathematica，也就是如今的 Wolfram Language，提升了人们所能开展的数学工作的层次，多年来催生了各种重要的新数学。
如果有人认为，做数学归根结底就是求符号积分，那么没错，Mathematica 基本上已经取代了这类工作。但尽管许多数学应用需要这样的解题能力，它并不是数学本身，也就是纯数学的核心。
纯数学是一项古老的事业，与文明史有着极为重要的交织。从柏拉图和欧几里得的时代起，纯数学就是最典型的例子，向我们展示了抽象的理性思维如何构筑出不断扩展的结构。经过几个世纪的发展，纯数学已经成为我们这个文明建造的最大的一座思想大厦。
它并非没有自己的弊病与局限。即使在建造这座大厦的人当中，也会有人对什么是重要的、应该怎样做事等问题产生误解。数学从根本上说，就是不惜一切手段地给出证明吗？数学的正当性，最终总要由应用来确立吗？是否存在一本注定如此的“正确答案之书”，而数学的目标就是发现它？我想，在这些问题上，我也有一些个人经历。我的基础科学研究，使我开始追问许多事物的根基，其中就包括数学。
因此，我研究过这样的问题：所有可能的数学体系构成了怎样的空间？所有定理组成的网络，其极限结构可能是什么？尤其是，在界定我们所说的“数学”时，人类究竟扮演着什么角色？接下来谈现代 AI 的价值。
稍后我会谈纯数学的一般特征与价值。不过在那之前，我们先来讨论眼下的问题：现代 AI 的作用。首先要说，它无疑很有用，有时甚至非常有用。对我来说，在数学活动中，它最大的用处是能够按主题挖掘人类的数学知识库。
从 20 世纪 70 年代开始，能够对科学文献进行关键词检索，就已经为我开展相当一部分研究提供了关键支持。而有了现代 AI，我们能做的事情多得多。因为在那些大语言模型（LLM）内部的某个地方，以一种我们在科学上还没有理解的方式，存在着某种相当于原始思想的表征，这些思想来自数以百万计的数学论文和书籍。发挥得最好时，它做的不只是检索，也会建立联系：它能看出，这里的一个结果可以与那里的一个结果组合起来，从而得到一个出人意料、又有用的结论。
人类也经常这么做，但他们通常只读过几百篇论文。AI 实际上读过数百万篇，而且尝试大量可能的组合，对它们而言成本很低。
那么，我们能不能直接让一个 AI 出发，期待它带着伟大的数学成果回来？我们将会谈到，伟大的数学，最重要的定义因素是它提出了什么问题。没错，AI 能够成功地将人类过去通常必须亲自完成的工作自动化。但我们也会谈到，纯数学的核心，是引导我们决定该提出什么问题的人类想象力。有必要弄清楚现代 AI 所做的事与纯粹计算所做的事之间的区别。现代 AI 首先是一种利用人类现有知识总库的方法。
现代 AI 的价值
而计算在发挥最大威力时，是一种开放式的方法，能够生成在根本上、不可约地全新的事物。
从某条规则或某个公理出发，不断执行应用它的计算。我一直最钟爱的计算不可约性现象，就保证了你会不断得到全新的结果，而要得到这些结果，除了完成所有那些计算步骤之外，别无他法。如果你对它还不太熟悉，计算不可约性是我在 20 世纪 80 年代提出的一个概念，描述的是这样一种情况：许多计算过程，即使由简单规则定义，也不存在普遍适用的捷径。要确定它们的结果，唯一的办法就是明确地运行每一步。
事实证明，这种现象在所有可能程序构成的计算宇宙中相当普遍，而且与科学诸多领域，以及哲学等领域中一长串基础性问题都有联系。所以，完全不需要涉及 AI，计算就能生成无穷无尽的新定理，对应无穷无尽的新事实，等等。在这些定理中，会有各种各样的原创性，也会有各种出人意料之处。
但这里有个问题。从某种意义上说，那些定理只是从计算宇宙中摘取出来的结果。因此，它们当然属于规则学这一新领域的研究范围。我在这个领域投入了大量精力，也认为它非常重要。但这些东西算数学吗？当然，这取决于数学究竟是什么，而这正是我们需要理解的。早期的数学被视为一种方法，用来对世界作出精确、形式化的陈述，例如关于算术或几何的陈述。
计算与 AI
但到了 19 世纪后半叶，数学已经达到了更高的抽象层次，不再受制于我们所体验到的世界的特征。一种日益形式主义的观点席卷了数学界：归根结底，数学不过是从某些公理，例如集合论公理，机械地，也就是通过计算，推导出的定理的集合。哥德尔定理给这幅图景带来了一点冲击。
但即使到了今天，如果追问下去，许多数学家仍会试图把数学定义为：对某些选定公理的推论进行形式化研究。不过，尽管他们可能会这样说，这却不能很好地描述他们实际所做的事情。绝大多数真正的纯数学研究，并不在公理和机械推导的层面上开展。它是在高得多的层次上，构建和研究抽象结构及其相互关系。这种做法能够成立，并不是显而易见的。事情本来可能是这样的：要在数学中得到正确答案，唯一的办法就是在最底层操作，比如直接诉诸公理。
但纯数学有一个至关重要、却通常不被明说的特征：在实践中，我们可以在例如勾股定理这样的层次上进行推理，而不必不断深入底层，去讨论例如实数的公理化定义。我最近提出，这之所以成立，与我们在物理学中能够成功地研究流体力学，而不必总是深入底层、追踪单个分子的碰撞，原因大致相同。流体最终确实由所有那些分子组成。但关键在于，像我们这样的观察者，通常只在更贴近人类的层次上对它进行取样，例如观察流体的整体运动等。
数学的本质
数学也是如此。人类数学家通常只以整体的、集体性的方式，通过某种人类层次的结构和概念，对底层公理推导构成的庞大元数学网络进行取样。
归根结底，数学与物理学中的情况似乎非常相似。在最底层，一切都充满了计算不可约性，所以，要弄清事情，只有机械地执行每一个计算步骤。但在这样的计算不可约性之中，总会存在一些计算可约性区域，在那里，可以用更高层次的方法跳过中间步骤，直接向前推进。我们的物理定律，以及处在人类层次上的数学，就存在于这些可约性区域之中。
我们可以把物理学，乃至整个自然科学，看作这样一种努力：面对自然世界的复杂性，寻找其中能够用叙事描述的某些方面，而这些叙事能够容纳在有限的人类心智之中。数学也可以用非常相似的方式来看待：面对元数学世界的复杂性，寻找其中能够用叙事描述的某些方面，只不过这次是数学叙事，同样能够容纳在有限的人类心智之中。
换言之，在某种层面上，推进纯数学的问题，与其说是向外拓展某种原始的元数学边界，不如说是找到符合人类思维的方式，来表征那里已经存在的东西。
人类数学的历史，一直以构筑越来越高的概念之塔为特征，这些概念承载着越来越高的抽象程度。人们也许会认为，这个过程最终必然会以某种方式“揭示全部数学”。但事情更加复杂。我们可以设想，作为一个终极极限，从所有可能的公理系统出发，生成所有可能的定理。这样得到的是一个唯一的对象，我称之为规则复合体（ruliad），它对应所有可能计算过程的纠缠极限。
但问题在于，像我们这样的有限心智，只能感知规则复合体中极小的一部分。这意味着，我们不可能拥有“绝对的数学”，只能拥有建立在我们如何对规则复合体取样之上的数学。我在别处论证过，这种取样的某些方面，是由我们作为规则复合体观察者的一般特征必然决定的。这会带来数学的某些普遍规律，例如，高层次数学本身竟然是可能的，至少对我们这样的观察者而言是如此。
对规则复合体取样
但取样的另一些方面，可以视为历史上的偶然：数学共同体选择朝某个方向探索，而不是另一个方向。这里还要再次强调，我们必须认识到，这样的选择不可避免。从某种意义上说，规则复合体实在太大，不可能有别的办法。我们有限的心智无法涵盖所有方向，因此只能选择其中一些。然后，我们还必须用有限的一组概念概括自己的发现，再用这些概念构建数学叙事。这和人类语言非常相似。
在所有可能性中，我们选择某些概念，用例如词语来表示。我们正是借助这些概念，把思想封装起来，才能以有限的方式交流它们，并让它们容纳在我们的心智之中。在原始的计算层面上，要开展相当于数学规则学的研究，并从公理出发生成大量前所未见的新定理，是很直接的事情。
但这样做，几乎必然只会把我们带向“异类数学”：它无法与我们所熟悉的数学建立有用的联系，甚至无法与任何我们能够视为高层次概念的东西建立有用的联系。
不过，假设我们使用的是现代 AI。难道它不能直接操作高层次的数学概念吗？
大语言模型当然能够处理人类语言。事实上，正如大语言模型能够成功学到人类语言中组合词语的一般模式，它们也能学到组合数学构造的一般模式。但生成有用的数学，比生成语言要严苛得多。写出来的一个故事，谈不上真的有“错误”；写出来的一段数学，却完全可能是错的。当然，如果大语言模型能够像人类一样调用 Wolfram Language，可靠地进行计算，那会大有帮助。
是的，顺便说一句，每个人都应该花上所需的那几秒钟，把自己的 AI 接到我们的 Wolfram MCP 系统上。
但一项严肃的数学研究，通常需要把许多部分组合起来，在论证中完成许多步骤，等等。问题在于，大语言模型的运作方式从根本上是统计性的，这就不可避免地导致：事情越复杂，它正确完成的可能性就越低。于是，试图找出大语言模型恰好做对的那些例子，可能会变成某种游戏。
可我们究竟怎么判断呢？这是当代令人沮丧的一种现象。像我这样的人，每天都会收到许多 AI 生成的文档，它们在统计特征上有着数学论文的质感，可我们至少会预期，它们在实质意义上正确的可能性很低。而且，可以想见，这些东西大多出自本身并不怎么懂数学的人之手，他们只是叫自己的 AI 替他们“做数学”。所以，没错，大语言模型确实可以借助人类层次的数学概念来工作，但它也伴随着那些同样会影响人类思维的不确定性与不精确性。
大语言模型的局限
那么，能否把这些人类层次的构造，转变成精确而形式化的东西，转变成更接近公理层次的东西呢？是的，我已经参与思考这类问题几十年了。最近，“自动形式化”这个想法颇令人兴奋：把人类层次的数学自动转化为形式化、公理化的东西，例如可以由证明助手系统来验证的东西。乍看之下，这是个好主意。但有一个问题。证明助手也许验证了一个证明，可它所证明的，真的是你以为它所证明的那个命题吗？
薄弱环节在于：如何确定对人类层次数学所作的形式化，确实准确表达了你想表达的意思。我现在已经有过好几次这样的经历：我尝试把某个东西自动形式化，AI 对我说：“我做到了。看，证明通过检查了。”但实际上，从某种意义上说，它作弊了。
它没有把我原本想表达的意思形式化，而是找了一种有时相当狡猾的解读方式，来解释我的要求，以便能够成功地证明它。然而，要发现它做了这样的事，往往很困难。其中一个重要原因是，形式化后的版本，例如在流行的证明助手系统中表达出来的版本，通常非常底层、非常冗长，也非常难以让我们人类理解。那么能怎么办？实际上，我认为我们可以做一件很有价值的事，它的核心，就是我们长期以来在 Wolfram Language 中建立起来的那座思想与技术之塔。
自动形式化的目标
我们对 Wolfram Language 的目标，一直是创造一种语言，或者说一种记法，让人类思考的事物能够用精确的计算形式表示出来。它不像编程语言那样，只是在表示计算机中的原始构造与操作。相反，它的基础是表示世界中真实的事物，以及我们实际思考的概念。而且，它也不只是告诉计算机该做什么的一种方式。它有点像对数学记号体系的巨大推广，是一种我们可以阅读、并借以思考的语言。
过去几年，一种强大而通用的工作流程出现了：把你的需求告诉 AI，再让 AI 编写 Wolfram Language，用精确的形式表达它所理解的你的意思。如果做得恰当，这种表示应该是你作为人类能够理解的，之后你就可以检查它，并按需要修改。
过去四十年来，我们不断扩展 Wolfram Language，使它覆盖众多领域，包括今天所谓“可应用的数学”中的大部分内容。而且，事实已经证明，Wolfram Language 的功能对纯数学研究极为有用。不过，在过去，尽管我们十多年前做过一些尝试，却一直未能找到足够充分的理由，专门为纯数学研究建设一整套广泛的功能。
但现在，一方面得益于 Wolfram Language 平台的整体进步，另一方面也得益于 AI 改变了开发工作的成本结构，我们正在开展一项规模非常大的工作，扩展 Wolfram Language 的设计，使之能够涵盖纯数学研究中的各种构造，从层、李群，到克利福德代数，等等。我们的目标是运用自己在计算语言设计方面的方法和长期经验，让纯数学能够广泛地以计算方式处理，而且人类和 AI 都能使用。
是的，到那时，我们终于可以期待这样的论文：每一个数学陈述之下，都有一个精确、无歧义的计算版本，能够系统地执行，并进行计算处理。同时，我们也会为自动形式化提供一个真正的目标，实际上就是人类数学、AI 与计算三者的交汇点。
那么，假设我们有一个陈述，它已经在我们为纯数学扩展后的 Wolfram Language 中，以人类能够理解的方式完成了形式化。在实践中，我们往往希望根据它计算出某个结果。但有时，遵循纯数学的传统，我们只是想抽象地证明它。
那么，我们能自动完成证明吗？有自动定理证明这回事，例如，Wolfram Language 就内置了很多类型的自动定理证明。有时，它实际上是隐含的，比如“通过 Solve 发现这个多项式没有实根”。有时，像使用 FindEquationalProof 时，它可以更加显式：证明中的所有步骤，都有精确、容易验证的符号表示。
人们也许会以为，这会成为纯数学中一种有着广泛威力的方法。但至少在过去几十年里，情况并非如此。一个主要原因是，很难把典型的研究级纯数学拆解到足够细致的公理层次，使这些方法能够适用。另一个原因则是，由于计算不可约性和不可判定性，证明可能长到根本无法企及。
事实上，我认为可以公允地说，在自动定理证明的全部历史中，真正能够合理地算作数学成果、此前并非已经被认为是正确的、而又首次通过自动定理证明发现的例子，其实只有一个。那是我在 2000 年所做的工作，找出布尔代数的最小公理系统。但这里还出现了另一个问题：找到的证明非常长、非常底层，也非常异质。过去 26 年里，无论借助 AI 还是其他手段，都始终没能找到它的任何人类层次的版本。
自动定理证明
实际上，就我们目前所知，它像是元数学宇宙中伸出的一个尖突，与现有的人类层次数学概念并不相连。当然，我们可以把这个证明的结果当作一块黑箱式的数学来使用。但如果数学的目标，是提供一套人类层次的数学叙事，那么，这里就出现了一处叙事上的缺口。
不过，假设你拿的是一个数学文献中已有的证明，再用某种方式把它形式化，无论是借助 AI，还是由人直接完成。如果这是一个复杂的证明，那当然是一项成就。而且，如果你能够确定自己形式化的确实是正确的对象，这就很好地核实了那个证明确实成立。但不应该指望这会带来新的理解，或者揭示新的、可重复利用的组成部分。此外，还有实际数学内容的问题。没错，一个形式化结果已经确立了，可它使用的底层公理系统究竟是什么？
而且，它最终所用的，很可能并不是像集合论这样熟悉的东西。值得一提的是，形式化证明本身也可以成为研究对象。例如，同一个定理有许多证明时，我们就可以开始研究证明空间的几何与拓扑。有了许多定理的证明，我们还可以开展某种实证元数学研究，来理解它们之间的根本联系。
我们将会谈到，纯数学中许多最重要的进展，来自新概念和新结构的发明，它们往往被封装在新的定义中。不过，运用已有的概念与结构，仍然有大量工作可做。有时目标是计算出一个答案，有时是找到一个证明，有时是找到一个例子或反例，有时则是弄清楚什么是真的。
对于所有这些情形，都有大量强大的算法计算可以使用，例如 Wolfram Language 中的计算，而且往往能非常直接、迅速地得到结果。AI 当然也能通过诸如 Wolfram MCP 这样的方式来使用这些计算。但现代 AI 本身可以直接作出什么贡献？我们可以设想，就像使用聊天机器人一样，直接要求它给出结果。很多时候，它确实会给出一个结果，可我们怎么知道它是对的？有时候，唯一的办法就是像前面讨论的那样，把获得这个结果的整个过程形式化。
但有时，我们只要拿着这个结果做一次计算，就能检验它是否正确。例如，假如 AI 声称求出了一个积分，我们只需对它给出的解求导，看看是否得到与原来的被积函数等价的表达式。或者，假如 AI 找到了某个命题的反例，我们也只需进行计算，就能检查它究竟是不是反例。
大语言模型给出结果时，其内部究竟发生了什么，我们知之甚少。但把它理解为这样一个过程，大概不失为一种合理的模型：它把训练时读过的数百万篇数学论文中，已经消化过的片段拼接起来。不过，它最终所做的事情，在算法上可能其实相当简单。AI 的优势是知识面非常广。在我的经验中，经常会发现，它找到的某个东西，只要你恰好看对了地方，就会显得十分简单，甚至显而易见。但一旦找到了它，就可以把它实现成一段纯粹的计算，例如用 Wolfram Language 实现，而不再需要任何 AI 在场。
解题与直觉
人类做数学、解决问题时，运用直觉往往是这个过程的重要部分。但直觉究竟是什么？在某种层面上，它似乎是一种“我知道接下来会怎样”的过程性模式匹配。说到直觉，我的直觉是，至少在基本形式上，这种能力并没有从根本上超出大语言模型的能力范围。但一个挑战在于，即使只是解决一个用现有数学概念表述的问题，我们也常常必须跳出原有体系，发明新概念。
一个经典例子是，即使要找三次方程的实数解，也需要用到复数。
在某种层面上，这也是计算不可约性的一种体现，体现了它如何限制任何一个给定的计算可约性区域。它带来的结果是：迫使看上去只是纯粹解题的工作，实际上常常也要包含新概念和新结构的发明。
那么，我们可以称作“开放式数学”的活动又如何呢？在规则学中，直接到计算宇宙中寻找有趣的东西，是非常常见的做法。但传统上，数学中并不常见这样的做法。当然，原则上完全可以设想，从某组公理出发，系统地枚举可能的定理，然后问：这些定理中，哪些是有趣的？
从实际操作的角度，可以这样问：如果要写一本书或者一篇论文，你会提及其中哪些定理？
多年前，我研究过一个非常简单的例子，也就是布尔代数中所有可能的定理，并通过实证发现了一个准则，能够判断其中哪些定理通常会在逻辑学教科书中获得专门的名称。基本上，它们就是这样的定理：把可能的定理按字典序排列后，它们不能由列表中排在它们前面的定理证明出来。或者从某种意义上说，它们是能够“提供新信息”的最简单的定理。
在更复杂的情形中，也许可以想象，一个 AI 在数以百万计的例子上接受训练，这些例子都是人们选择发表在数学文献中的定理，那么它应该能够把握人类判断“有趣”的标准。但在我的经验中，这个办法并不怎么奏效。我认为原因在于，除了最简单的情形之外，不能逐个定理地判断它是否有趣。相反，我们必须梳理某一数学领域的整个历史发展过程。然后，我们当然就可以追问：在这条发展轨迹中，哪些方面具有某种必然性，哪些只是历史偶然？
开放式数学
最近，我对生物进化也提出过一个有些相似的问题。在那个领域，我发现确实似乎存在一些从根本上基于计算的普遍原则。例如，按照一种计算能力有限的适应度函数进行的适应性进化，似乎相当普遍地会导致模块化结构出现，类似于细胞器、器官等。这些结构并没有附带关于自身是什么的解释，但它们实际上代表着原始的计算可约性区域。
在纯数学的发展中，识别新的结构和概念，显然是一件至关重要的事。从历史上看，结构和概念总是由人类引入的，因此实际上都附带着解释。不过，是否可以设想，例如由 AI 自动发现新的结构和概念？然后，我们能否用它们构建新的数学？事实证明，这是两个有些不同的问题。
至少在简单的层次上，要在神经网络中识别出特定的激活模式，例如通过研究自动编码器，是相当直接的事情。我们可以把这些模式视为对计算可约性区域的概括，或者说，它们实际上“表征了新概念”。但如果数学要做的是为我们构建数学叙事，这并不会立刻带来帮助。没错，AI 实际上可以识别出无数新概念，可人类心智能够处理的概念数量是有限的。
这和自然语言非常相似。我们可以设想，AI 考察人类话语的模式，找出无数可以引入的新词，来概括这些模式。但我们人类似乎只能掌握有限数量的不同词语，通常是几万个。那么，数学中的情况又如何？
原则上，AI 可以提出无数新数学概念的定义。但用这些概念构建出来的东西，必然会显得与从原始公理层次的数学构建出来的东西一样异质。这些构件也许更接近人类层次，可它们并不为我们人类所熟悉，因此我们无法轻易借助它们思考。当然，人类语言会引入新词，数学也会引入新概念。但这是一个渐进的过程，在实践中，往往涉及某种社会共识。
事实上，过去四十年里，在设计和发展 Wolfram Language 时，我一直非常明确地限制引入新概念的速度，确保人们能够跟得上。
建立数学文化
好吧，元数学宇宙中存在着许许多多可能的新概念和新结构，它们全都对应某些计算可约性区域。但在发展适合我们人类的数学时，我们永远只能探索其中极小的一部分。换言之，数学的发展不可避免地必须选择前进方向。它不可能有意义地同时追求所有可能性，必须有明确的目标。但纯数学的目标来自哪里？在技术开发中，目标通常相当直接地由人们觉得什么有用来决定。
在自然科学中，目标则由我们在自然界观察到什么，以及拥有怎样的工具来解释这些观察所决定。但在纯数学中，乍看之下，似乎并不存在这样显而易见的外部方式来界定目标。这使得已经开展的数学研究，看上去更多地取决于数学共同体及其领军人物的内部选择。不过，实际上，如果审视人类数学的历史发展轨迹，至少能看到一些明确的趋势。数学的旅程，始于对数、空间等事物进行基本的形式化；这些事物在某种程度上代表了人类对世界的日常感知。
尽管大约一个世纪前，数学似乎一心要推广到所有可能性，但在过去一个世纪里，数学发展中大部分最有力的路径，实际上一直更贴近人类能够直观理解和形象化的事物。数学往哪里走，仍有很大的自由。但要让它对我们人类有意义，无论作出怎样的选择，我们都必须以某种方式对所选择的东西具有一定的熟悉感。
没错，AI 可以随机选一个方向，或许还会参考从人类现有选择中观察到的统计规律。但这样一来，人类并没有什么理由去关心它。它与我们真实的数学经验并无关联。在更实际的层面上，做数学的一部分工作，是弄清楚如何实现已经设定的目标。我们可以想象 AI 来完成这项工作。但最终更重要的，是最初的目标设定。而几乎从定义上说，这些目标必须来自系统之外，尤其是来自我们。
一个值得注意的现象是，到目前为止，那些关于 AI 用于数学的最重要成功报道，往往来自一些最优秀的人类数学家。从某种意义上说，我们不该感到意外，因为设定目标，或者说知道该问什么问题，才是最重要、最独特的部分。事实上，往往一旦真正知道了该问什么问题，回答它所需的大部分工作就已经做完了。但在实践中，纯数学的目标究竟来自哪里？
往往有两个基本来源。一个相当于解题，另一个相当于创造性的构建。从某种意义上说，解题更加明确、可衡量，也更适合 AI。拿一个过去已经被提出、也已经研究了一段时间的问题，目标就是解决它。如果成功了，就可以明确地说，你完成了某件事，比如解决了一个埃尔德什问题，等等。尽管有时这看起来更像是一种竞技成就，而它最终在思想上的内涵，充其量也是模糊的。
但还有一种活动，可以称为“创造性的构建”：为数学提出新结构和新概念。在某个终极的元数学层次上，这些结构和概念，必定早已作为计算可约性区域存在于那里。因此，我们可以把目标理解为：识别出其中某些特定的结构和概念，把它们纳入我们谈论数学时所使用的“词汇表”。
设定数学目标
但在所有可能性中，我们究竟想要哪些？可以设想各种标准，但大体上，它们都归结为：希望创造出能够最好地统一、概括和简化不同事物的抽象。这样说来，人们也许会觉得，这是一个可以自动化的目标，比如交给 AI 来完成。但这里有个关键的复杂之处。你也许会想，如果某个东西表述起来更短，就可以把它定义为“更简单”。然而，表述一个东西需要多长，取决于用什么语言来表述。因此，这里同样没有什么直接的绝对标准；它不可避免地依赖一整段彼此关联的选择所构成的历史。
人们经常把这些选择描述为审美上的选择：是什么让一个结构更加优雅、更加完美，等等？
归根结底，这些东西以人类的偏好和经验为基础，再由我们可以称作人类主动性的东西加以扩展。但作出这些选择，真的需要人类吗？能不能换成某种以人类已有选择为训练材料的生成式 AI？问题在于，要为数学创造出有用的新构件，光发明新概念和新结构还不够；还必须把它们织入数学文化之中。这就像在人类语言里引入一个新词。要让这个词有用，它的含义就必须为足够多的人所知，才能被日常地用来指代一个特定概念。而传播这个含义，在某种层面上必然是一个社会过程。
数学中的新概念与新结构也是如此。如果数学的任务是为人类心智发展数学叙事，那么，概念和结构若要成为有用的构件，就必须得到共享。这有点像典型的自动化证明中遇到的问题。如果我们能够说，某一步来自“某某人的定理”，那就提供了一个概念上的锚点。但如果每一步在某种意义上都是专门定制的，最终得到的东西实际上就会显得异质而陌生。
那么，这意味着 AI 在数学中处于什么位置？它与 AI 在许多其他领域中的情况相似。目标界定得当，AI 就能很有帮助。没有目标，它就不知道该往哪里走。以规则学的方式探索各种可能性，实际上也就是开展实验数学，可以带来许多令人意外的新结果。但从某种意义上说，它们“生来就是异质的”，并不直接与我们通常所理解的数学相连。
好吧，AI 可以帮助拓展我们称为纯数学的事业，但这仍然不可避免地需要人类的努力与主动性。那么，为什么还要做这件事？一种常见的论点是，它最终会对某种实际事务有用。人们往往认为，纯数学以某种方式树立了一些灯塔，而科学与技术最终会抵达那些地方。但我认为，真实的情况恰恰有些相反。
我们创造的数学，提供了思考的方式。正是因为有了这些思考方式，我们才最终创造出利用它们的科学与技术。不是数学中已经完成的工作，与科学中发现的东西发生了汇合；而是我们所掌握的数学，引导着我们最终会在科学中寻找什么。
有时，人们认为我们在科学中发现的东西，在某种意义上是唯一而必然的。但从规则复合体的角度来思考，我们就会意识到，实际上存在无穷多种不同的计算可约性切片，每一种实际上都界定了它自己的一种科学视角。历史上似乎一再出现这样的情形：首先发展出一个概念框架，而且往往来自数学，然后人们才看清，存在某种相关的规律性可以考察，它会为某一部分科学指明道路。换言之，这并不是纯数学与科学之间的一种神秘汇合。
数学、科学与技术
而是因为有了那部分纯数学，相应的科学才得以发展。从某种意义上说，这使纯数学事业显得不那么像对未知应用的押注。我们并不是在做一块纯数学，然后寄希望于将来某一天有人会为它找到应用。相反，是做这块纯数学，发展出了一种思考方式，实际上揭示了一个可约性区域，从而让我们有机会创造出相应的应用。
一块纯数学，会不会到头来“根本没有用”？从某种意义上说，答案是否定的。因为只要有一块纯数学被成功地做出来，它就必定对应某个计算可约性区域。而任何计算可约性区域，都与某些规律性相联系，这些规律性最终必然是某种科学与某种技术的原材料。但问题在于，那可能是非常异质的科学与技术，与我们迄今考虑过的任何东西都相去甚远。并不是数学不能给我们带来科学与技术。
只是科学与技术的发展轨迹，或许还没有走到我们会关心它所带来之物的那个阶段。
在古代，数学对我们的思考方式作出的重大贡献，是演绎推理这个观念。在更近的时代，出现了围绕连续性、实数等的一系列观念。然后，在一个多世纪以前，抽象函数的观念出现了，接着又出现了计算的观念。
一旦抵达这个观念，它可能显得近乎显而易见。但从历史上看，为了达到它，需要一座高得令人惊讶的抽象数学思想之塔。没错，计算这个一般性概念具有巨大的实践价值。但正如我几十年来一直在探索的，它也构成了我们思考各种事物的一般方式的基础。纯数学一个显著的特点是，它涉及某种结构化思维，而这种思维方式长期以来一直被视为教育中的重要内容。
在某些方面，我认为计算，尤其是计算语言及其描述世界的方式，为学习结构化思维提供了另一条强有力的路径。但计算的基础研究远比数学年轻，也更直接地受到计算不可约性的限制。结果就是，现代纯数学建立起了一座高得多的结构化思维与形式化之塔。事实上，它的塔比任何其他领域都高。学会这座塔中的知识，需要巨大的投入，很少有人会这么做。那些愿意投入的人，有各种各样的动机。
对有些人而言，吸引力在于挑战；对另一些人而言，则更多地在于“从塔上望出去的风景”。在某些方面，AI 提供的自动化使挑战不那么诱人了。不过，就像国际象棋之类的活动一样，纯粹属于人类的成就仍然能够带来满足。但如果说的是风景，那么满足感就来自人类的审美体验，与自动化和 AI 并没有什么关系。
五百年前，数学挑战曾被办成供观众欣赏的竞技活动。今天，数学的挑战性已经不那么能吸引公众兴趣了。事实上，做数学的过程，通常根本不会向公众展示，只有以人物为中心的电影之类的作品，才会在很小的程度上让公众有所接触。当然，人们也许会问：有没有什么办法，能让做数学成为某种大众娱乐？我可以说，我自己已经做过不少相当成功的现场数学计算实验。
这座思想大厦的未来
疫情期间，我还直播过大量技术性很强的数理物理工作讨论，累计时长相当可观，观看量也大得出人意料。
那么，如果把数学看作一种本质上的审美活动，又如何呢？没错，对置身其中的人来说，它令人满足，也丰富了个人的精神生活。但整个社会能从中得到什么？就像艺术中有一小部分属于公共艺术一样，我们也可以问：能不能有公共数学？
偶尔，我们会看到以公共视觉艺术或雕塑形式呈现的数学，或者蕴含数学的建筑和音乐。
但现实地说，那并不是纯数学之塔顶端那个层次的数学。对于纯数学的高深领域，有一点需要理解：在相当令人惊讶的程度上，它一直是通过口头传统，以及人与人之间相连的传承链延续下来的。或许，这部分是学术界和学术出版结构所造成的结果。但事实依然是，要让纯数学的火种持续燃烧，似乎就需要有这样一个群体，其中的人不断积极地从事数学，并相互讨论数学是怎样做的。
换言之，即使他们个人的动机相当内在，他们的集体努力也具有长期的外部价值：让纯数学能够继续进步。有人也许会问，纯数学会不会在某个时候以某种方式“完成”？对此，我们可以明确回答：不会。计算不可约性确保，永远会有无穷无尽的数学事实，以及令人惊讶的东西，等待被发现。
而且，也会有无穷多个计算可约性区域，代表着新的数学概念和结构。纯数学是我们这个文明建造的最大的一座思想大厦。人类思想史上一些影响最深远的观念，就是从中诞生的，例如形式化、抽象和计算。
在现代，纯数学获得了一些加速器。实用计算是一个，AI 是另一个。采用规则学风格的实验数学，又是一个，不过它仍然有待充分发展。我也愿意相信，我们正在构建的纯数学语言，尤其当它与 AI 结合时，会成为又一个加速器。但纯数学的工作漫长而艰难。没错，这是计算不可约性带来的结果。不过，数千年来，它对我们文明核心思想发展的重要性一直非常巨大。毫无疑问，它还会带来更多。而且，即便今天的问题早已被遗忘，纯数学仍会继续闪耀，成为人类成就的灯塔。
因此，我们完全有理由期待，这项最为高深的人类探索之一，也就是纯数学研究，在如今多了 AI 的帮助之后，依然拥有光明的未来。
问答与结束语
以上就是我写好的内容。现在我很乐意回答大家的问题，听听大家的评论。
哎呀，显示相关内容的那个屏幕不见了。我看看能不能把它找回来，不然我就看不到你们的评论和问题了。好了。
AI 能否判断什么数学有用？
A 说：“有用的数学并不意味着人类能够理解它。为什么未来的 AI 不能也判断出什么数学是有用的？你认为人类在数学中承担的任何角色，将来都有可能由 AI 接手，而且做得更好。”
这涉及数学的目的是什么，尤其是纯数学的目的是什么。应用数学是用数学的方法和思想，解决来自其他领域的问题。
这当然是我们已经大量运用计算来做的事情，也可以让 AI 来帮忙。但这与构建纯数学那样的知识结构，并不是在解决同一个问题。比如自动定理证明，我在四分之一个世纪前证明的那个定理，你绝对可以用计算一路推进，得到答案。也许 AI 能提供一些帮助，不过我认为，在那个具体例子里，AI 能帮的忙不会特别多。
问题在于，你在那里完成的事情，并不属于我们通常所理解的纯数学的目标，也就是构建一种人类能够理解的结构。当然，有大量计算可以做，而且极其有用。每天用 Wolfram Language 完成的工作中，很大一部分就属于人类无法理解的那一类。只是，为了解决来自其他领域的问题，我们需要做这些计算。
但在数学这项事业内部，目标是创造一种人类能够理解的数学叙事。
AI 的能力与可控性
Trapathy 说：“关于 AI 安全、自主 AI 智能体，以及我们能否可靠地控制能力不断增强的系统，讨论越来越多。我很想听听你的看法。你认为，我们对这些系统的理解，足以让我们认定自己对它们有充分的控制吗？”
这件事从根本上说，是有些无望的。因为，如果一个系统在计算上充分发挥它的能力，那么它所做的事情就不可避免地具有计算不可约性。而一旦它所做的事情具有计算不可约性，就总会有出乎意料的情况。
只有当系统的整个运行过程在计算上是可约的，你才能跳到前面，检查它会不会做出什么不对的事情。只有在这种情况下，你才能真正提前做这种检查。但在某种意义上，一旦你能够跳到前面，检查它不会做错什么，那么它原本又为什么要去做这件事呢？这里存在一种权衡：一边是具有计算不可约性、尽可能充分发挥计算能力的过程；另一边是计算上可约、因而在能力上受到限制的过程。
所以归根结底，如果我们希望计算做到它能够做到的一切，获得计算的全部力量，就必须接受计算不可约性。
这有点像说，我们写代码时，就得接受代码会按照代码自身的方式运行，包括做出一些我们可能称之为“错误”的事情。即使我们有某种检查机制，能够确认“它不会做这件事”，我们也不可能想到它可能做出的所有事情。它总能产生出乎我们意料的结果。
超人类数学与好的数学问题
Terrun 问：“除了数据和算力之外，你认为是否还有第三个可以扩展的维度，能让大语言模型达到超人类的数学水平？”
我不这么认为。我认为这种说法没有意义。我觉得，超人类的数学就是“异类数学”，而那其实已经不再是数学了。
JS 问：“一个人怎样才能学会提出好的数学问题？”
这是个好问题。根据我的经验，一条普遍的原则是，始终努力追问正在发生的事情究竟有什么本质，尽量深入到最简单的基础。通常，最好的问题就在那些地方。
如果你漂浮在某个高度技术化领域的云端，大家似乎都熟悉其中的各个部分，而你只是在上面再添一块技术性的东西，那样得到的问题就不太容易成为好的数学问题。好的问题，在某种意义上，是那些一旦想到要问，就显得很自然、很明显的问题，让人觉得：“为什么之前没有人问过这个问题？”你通常会在事物的基础层面找到它们。从非常技术化的东西一路深挖到它的基础，往往并不容易。
另一个重要的方面，是弄清楚怎样解释正在发生的事情。我发现，这确实是引导自己提出好问题的一种方法：让我试着用尽可能简单的语言，说明这里究竟发生了什么。这往往会让人突然意识到：“等等，这里有个东西，我其实一直在不言自明地假定它成立。它真的成立吗？或者，我该怎样理解它？”我认为，这些都是很好的原则。
计算和 AI 将怎样改变数学教育？
Keen 博士问：“如果计算和 AI 承担了更多传统的问题求解工作，数学教育会发生什么变化？”
我们其实已经走过这条路了。Mathematica 在 1988 年问世，Wolfram|Alpha 在 2009 年问世。它们都把数学中很大一部分纯粹机械性的工作自动化了。
当时，人们也为此闹过一阵，说：“等等，那我们数学课还教什么？学生只要去 Wolfram|Alpha，就能得到答案，还能看到一步一步的计算过程。”顺便说一句，我们当时有意作了一个决定：不让 Wolfram|Alpha 把给出的步骤随机化。
这有点像我们自己的那种隐写标记，对应于现在人们谈论现代 AI 时所说的那些东西。基本上，你可以辨认一个答案是不是 Wolfram|Alpha 生成的，因为每次输入相同的问题，都会得到相同的一组求解步骤。我们本来很容易就能让它每次给出不同的步骤，但我们决定不这样做。
真正的重点是，随着自动化程度越来越高，无论是通过计算，还是通过现代 AI，教人做机械性的事情都越来越没有意义。一旦机器能够直接完成某件事，让人知道它具体是怎样完成的，就变得越来越不重要了。
当然，仍然需要一小部分人，打个比方说，去维护机器、建造下一代机器。但与所有可能去学习那些机械步骤的人相比，这只占极小的一部分。
不过也必须承认，学习如何精确地执行一套机械步骤，或者说，学习如何精确地思考任何事情，本身非常有用。这也是传统上通过数学教学来传授的一种能力。
但我不认为数学是唯一能教这种能力的地方。实际上，我觉得，编写计算语言可能是一种内容更丰富的教学方式，而且它还有一个特点：自带反馈机制。在数学课上，学生写下答案，教授说它错了。但如果没有这种外部反馈，学生并不知道答案错了，除非他去查书后的答案，或者做类似的事。
而在计算中，尤其是在使用计算语言时，你写一个程序，然后运行它。由你这个学生亲自运行。如果它没有做出正确的事情，你就知道自己犯了错误。这样，你在某种意义上可以自己不断迭代，而不只是由别人从外部告诉你：“这个答案错了。”
我认为，对于现代教育应该教什么这个整体问题，教授机械性的工作越来越没有意义，而教授如何思考，以及如何思考应该做什么工作，越来越有意义。这往往不那么容易教，因为它不像机械性的东西那样界限清楚、可以从外部明确规定。
它也没有同样的那种流水线性质。教人思考，必须利用他们已经具备的思考方式。我会说，与教授机械性的过程相比，这在某些方面必须更加因人而异。
那么，怎样学习思考呢？知道很多事情会有帮助，因为思维模式需要有素材可以加工。如果你知道很多事实，就可以思考这些事实。如果你什么事实都不知道，想在纯粹抽象的层面上思考，几乎是不可能的。思考必须围绕不同领域的实际事实不断运转。你了解的领域越多，就越有可能进行具有普遍性而又有力量的思考。
当然，也有一些关于如何思考的原则。例如，别人告诉你一件事时，你可以问自己：“怎样才能知道这件事是不是真的？”这是一个很好的问题。或者问：“最核心的意思是什么？怎样用最简单的方式说出来？这句话必不可少的部分有哪些？”这些都有助于让人领会如何思考。
但归根结底，我认为人们必须自己领会这些东西。怎样实施教育，才能让每个人都开始独立思考，这是一个很有意思的问题。比如在数学里，通常要求所有人对同一个问题给出相同的答案；而在写作里，最好不要所有人都写出一模一样的文章。我们已经有一些机制，可以应对每个人都有不同的具体内容要表达这一事实，但这些机制还没有被运用到那些更加形式化的领域中。
所以，我觉得未来的练习更应该是：“围绕这件事，有什么有趣的问题？写一篇计算文章，探索那个问题。”这相当于把人文学科中已经存在的某种做法引入 STEM 领域。而计算文章，正是把这两者连接起来的东西。
一篇计算文章结合了纯粹的英语文字和计算语言。对于前者，究竟什么才算正确答案，并没有那么明确；而对于后者，你写出来的东西也是供人阅读的。比如，一段 Wolfram Language 代码，和自然语言文字一样，是希望别人读懂的。但它又确实能够执行，你可以看到执行的结果，探索这些结果意味着什么。
所以，“这里有一个一般性的主题，请围绕它写一篇有趣的计算文章”，我认为这应该成为与数学教育相对应的未来教育的一部分。
关于数学教育，还有一点值得说。正如我反复强调的，数学是我们这个文明建造出来的最高大、最庞大的知识大厦。正如一个人会学习历史、地理以及其他各种事情一样，了解数学的一些情况，学习关于数学的事实，是一件好事。
把数学中的一些思想当作纯粹的思想来学习，也很有价值。你不一定要能够机械地操作它们，因为这种操作需要大量具体的技能，而你往往可以把它交给机器。
但了解某些一般性的概念，比如曲率，甚至证明这样的概念，我认为很有意义。这属于广泛了解不同种类的事物，并且在思考某个问题时，能够把这些知识调动进来的能力。
数学中有大量已经发展出来的思想，值得我们了解。有时，了解这些思想的一些历史也很有价值，因为思想的历史有助于我们理解这些思想所处的背景。通常的数学教学并不太教这些内容，而更像是在说：“这里是工具，这里是机制。这类答案就是这样算出来的。”
不过，学习某种要求精确性的东西，确实非常重要。不能只是随口抛出一些词，大致说到点子上就行。数学和计算一样，有正确答案，也有错误答案。为了得到正确答案，你必须精确，必须在思考中具备形式上的精确性。接触这种要求是一件好事。
至于特别详细的内容，例如某一种特定计算究竟该怎样做，就没那么重要了。几十年来，它都已经没那么重要了。我想，人们在很大程度上也已经跟上了这一变化。
但我们越能运用计算，越能运用 AI，就越有能力把现实世界中有趣的事情“数学化”，或者说“计算化”，以更加形式化的方式来探索它们。这是一种极其有用的技能。
如果一个人完成学校教育之后，知道如何把某个正在讨论的一般性问题，以计算或数学等方式加以形式化，那是非常重要、非常有用的。尤其是在今天，因为形式化之后的东西，很容易就能自动执行。
这就像突然获得了一种超能力。你把问题计算化以后，就能够向前跨出一大步，因为计算机可以帮助你处理已经计算化的内容。它让你能够实现远远超出单靠自己的头脑、单靠自己的双手所能做到的事情。
我认为，这些都是教育中重要的东西。在下一轮发展中，能够理解怎样把不同领域计算化的人，无疑会占据优势。如今，这也包括如何把 AI 应用到这些领域。但更一般地说，能够把问题计算化，能够以足够结构化、足够形式化的方式思考这些领域，从而有意义地把问题交给计算系统或 AI 系统处理，这种能力非常宝贵。
一千万步的证明有用吗？
Katie 问：“如果 AI 给你一个长达一千万步的证明，它真的有用吗？”
对于通常所理解的数学这项事业来说，没有。不过，有时候，举个例子，黎曼猜想。现在已经有不少人陷入了可怕的“AI 精神错乱”，因为 AI 对他们说，自己马上就能替他们证明黎曼猜想了。但也许，确实有可能找到一个非常庞大的证明。
如果那个证明本身长达一千万行，它大概不会给人带来多少启发。不过，在密码学以及其他很多事情中，人们确实会在不同情况下假定黎曼猜想成立。如果能知道“没错，我们可以依赖这个结论”，那会很不错。
不过，知道自己能否依赖它，也有点棘手。因为按通常的方式，一个数学证明是从某些公理出发的。那些公理，某种意义上是我们凭空选出来的。我们说，自己相信数学归纳法。
我们相信，如果你能够从 n 的情形证明 n + 1 的情形，同时又有一个成立的初始情形，那么结论对所有 n 都成立。但你可以想象一个世界，在那里，这个推论不一定成立。
而当我们谈到超限归纳法时，事情就更复杂了。你面对的不是 n、n + 1、n + 2 这样一条线性的序列，而是一整棵可能性的树，或者某种更加复杂的结构。这时，能不能作出那样的推断，就远没有那么显然了。
所以，当你说“我们证明了黎曼猜想”，那好，你用了哪一个公理系统？那个公理系统，与你打算怎样使用黎曼猜想，有什么关系？这是一个复杂的问题。它究竟能否很好地发挥作用，并不是显而易见的。
这里还有一些复杂之处。对于某些这样的命题，一旦能够表明它无法被证明，就会意味着那个命题是真的。这是因为，当你把那个数学结构建立起来时，它本身的设定就会让事情如此。
为计算而设计新的思维构件
Tiger 问：“人类怎样才能找到一种长篇形式的 AI 数学方法，来解决始终现实而合乎逻辑的问题？”
我不太确定该怎样理解这个问题。我想还是继续往下看吧。
Gareth 问：“如果我们最终会减少思考、增加计算，那么，创造一些帮助计算而不是帮助思考的新构件，有意义吗？”
某种意义上，这就是我一生所做的事情。构建 Wolfram Language，所做的就是寻找一些可用来思考计算的基本构件：弄清楚应该引入什么函数、什么构造，才能帮助人们思考怎样把计算组织起来。
只要我们人类仍然是人类，仍然有人类的体验，思考就是我们所具有的那种内部过程。我们希望找到组织思考的方式，让思考与计算联系起来。我们也可以说：“让我们把一切都自动化，然后在余下的永恒岁月里，什么也不想、什么也不做。”
但只要我们仍然设想自己处在需要思考的状态，那么，是的，拥有一些我们能够思考、又能直接映射到计算上的构件，绝对有意义。
这正是我们的计算语言的全部故事，而我已经花了四十多年时间来构建它。
知识图谱、大语言模型与 Wolfram MCP
Bob 问：“我们怎样才能把知识图谱接到大语言模型上，让它们既精确，又具有世界模型，同时还有直觉？”
我认为，知识图谱是一个非常贫乏的概念。世界上的大多数知识，并不是一张“这个与那个相连，那个又与另一个相连”的图。关于木星的知识，并不是一张告诉你“木星位于太阳系中”的图。它包含大量实际的计算，比如关于木星运动的计算，等等。
我认为，目前对大语言模型来说，最重要的是让它们能够调用 Wolfram Language，完成精确的计算，获取精确的事实。
我会说，这种整合正在变得越来越好。它还不完美，但 MCP 标准很有帮助。通过 MCP，基本上任何现代 AI 都非常容易连接到 Wolfram Language。如果你的计算机上安装了 Wolfram Engine，安装了 Wolfram|One 或 Mathematica，那么，你立刻就可以通过 MCP，把本地的任何一种 AI 客户端连接到那个 Wolfram Engine。真的只需要一秒钟：按一个按钮，就完成了。
如果你使用的是网页上的服务，也可以做类似的事。我们有一个基于云的 MCP 服务器，基本上是同一类东西。你可以把它看作面向 AI 的 Wolfram|Alpha。Wolfram|Alpha 是一种人人都可以免费使用的资源，你直接过去提问就行。
类似地，至少目前，我们也让 Wolfram MCP 系统供 AI 使用，至少是供由人类操作的 AI 使用。我们并不打算让 AI 自己不停地调用它，一口气跑上十亿次。但对于人在使用 AI 的这种模式，我们让 AI 免费访问我们的 MCP 服务器。
同样，配置非常简单，大概只需要两秒钟，而不是一秒钟。我认为，这才是目前理解 AI 与计算、计算知识等事物之间联系的正确方式。
面向未来，还有一个问题：在多大程度上，能够把实际的计算，与大语言模型内部发生的事情交织在一起？我认为这很难。因为，要让某种东西能够被训练，它就必须在一定程度上是浅层的。但计算按其定义，可以具有任意的深度。因此，在其中包含计算的情况下进行训练，就会变得困难。我不太确定，不过在人类身上，大概也有某些我们熟悉的体验与此对应。
我觉得，大语言模型与计算之间更紧密的连接，还有很多事情可以做。比如，大语言模型如果发展出了自己的语言，可以姑且称之为“神经语”，我们就可以问：它与我们为人类构建的计算语言是什么关系？
答案是，两者的目标有所不同。我们为人类构建的计算语言，对于现成的大语言模型也很好用，因为它们是用人类语言训练出来的，在使用这种语言时，具有与我们人类相同类型的特征。所以，对人类好用的东西，对大语言模型也好用。
这有点像人类的脑机接口问题。与其听一个人说了什么，不妨设想，我们能捕捉他大脑某个部位各种神经元的放电活动。这能帮助我们理解他吗？
我对此持怀疑态度。因为我认为，在一个人几乎准备好把想法说出来之前，大脑其实还没有把思想真正形成好。那里仍然是一千亿个神经元各干各的，处于一种缺乏连贯性的状态。只有到了最后，它们才汇聚到一起，形成一个组织完整、能够传达给别人的想法。
如果你在中间某一层介入，说“让我在它还不连贯的时候，把它提取出来”，那就是一件困难得多的事。我猜，深入大语言模型的神经网络层面去做类似的事，也会遇到同样的情况。
AI 会取代数学教授吗？
Bob 问：“你认为还要多久，AI 就会比雇一位数学教授更好、更便宜？科研经费会流向 AI，而不是数学教授吗？”
这取决于数学教授在做什么。如果他们真正是在创造新的思想、新的数学，而且这些数学是为了构成人类的叙事，那么，这件事就需要人来做。
这就像问，我们是不是要把所有创造性的工作都交给 AI。我们认为，创造性工作之所以重要，在于人类作出了选择，决定那项作品应当是什么。数学也是一样。
其实，早就已经有这种情况了。以前，你会雇人来做各种计算，而如今 Mathematica 和 Wolfram Language 直接就能完成。你不再需要雇一个专门做某类代数计算，或者做某部分计算几何工作的人，让他拿着铅笔之类的工具画出来。
那些事情都已经自动化了。确实，有很多工作，买一份 Wolfram Engine 就比雇一个人来做更合适。把它们自动化要好得多。过去几十年，我们公司一直在做的，就是不断增加自动化。
除了许多人类员工，我们还有高度的自动化。很多年来，我们都在一些事情上选择把钱花在自动化上，而不是花在雇人上。而这种自动化，又提高了人类能够从事的工作的层次。
我预期未来也会如此。用 Mathematica 等工具做数学研究时，已经发生了这样的变化；我认为，使用 AI 也会带来同样的变化，特别是在把数学文献不同部分中分散的线索汇集起来这件事上。
最希望 AI 完成哪一类证明？
“你最希望看到什么数学命题由 AI 证明，或者什么证明由 AI 检查？”
有一类证明，我确实一直认为自动形式化应该能做得很好，那就是计算通用性的证明。这些证明能够为计算等价性原理提供证据，当然，也可能提供反对它的证据。不过，我认为大多数结果会是支持性的。
问题是：给定一个简单系统，你怎样才能把任意程序编译到那个系统上？怎样构建一个编译器？怎样证明这个系统具有计算通用性？在这里，我真的相当期待形式化、自动形式化能够发挥作用。
这是一个真正重要的是答案本身的情形。证明可以在很大程度上是一个黑箱。而且，这里还有海量的证明“文书工作”要处理。通常，你会把问题拆成无数种情形，然后必须逐一检查，等等。这些正是 AI 非常擅长的事情。
不过，到目前为止，我在这方面的体验还算不上特别好。AI 经常会作弊。
就在昨天，我还收到了一封邮件。写信的人长期研究我们的东西，应该清楚自己在做什么。他说，自己已经开发出了一些方法，可以用 AI 来完成这类通用性证明。如果确实如此，那会非常令人兴奋。
过去一年，AI 与数学带来了什么意外？
Doctor 问：“过去十二个月，关于 AI 和数学，最让你惊讶的是什么？”
我觉得很有趣的是，那些想要宣传 AI 有多么惊人、解释为什么应该往里面投入一万亿美元的公司，居然挑中了数学，把它当作一面旗帜来挥舞：“看，AI 很聪明，它们会做数学！”
我认为，这种现象有一些好的方面，也有一些相当糟糕的方面。在计算机行业里，只要有人说“我有一个基准测试”，你基本就知道会发生什么。它有点像标准化考试：你可以专门针对考试来学，也可以专门针对基准测试来学。这些东西总会在某种程度上扭曲正在发生的事情，让人们说：“太惊人了，它完成了这个基准测试！”
但实际上，那个基准测试对于任何实际的事情，可能都没有人真正在乎。这又是另一个可以讨论的话题。
有人问到 AI 公司是否使用我们的技术。是的，不少公司都在用，只是用得没有本来可以做到的那么好。
我认为，一些人仍然相信：“我们只要构建一个更大的神经网络，它就能做所有事情。”持这种想法的，不是这些公司的领导者，而是公司里的一部分人。
于是就出现了这样的事情：这些公司会向我们购买训练数据，等等。在我看来，这很没有道理。因为事实上，我们生成的任何训练数据，本来都可以实时直接计算出来，而直接这样做要合理得多。
但如果整个叙事就是，把越来越多的钱投入到构建越来越大的神经网络中，那么这件事本身就会变成目的。它不一定能促成最理性的技术决策。
我觉得，我们正处在一个非理性表现得蔚为壮观的时期，至少现在相当一部分事情是这样。有时，看到某些新闻标题，我也只能觉得好笑，而有时候我还认识这些标题背后的人。围绕这些事情所做的、颇为有趣的宣传包装，其程度也很值得玩味。
我认为，强调不断推进技术前沿，是非常好的。但有时，为正在发生的事情所作的那些解释，如果你照着字面全盘相信，那恐怕就错了。
结束语
好了，看起来目前的问题和评论就是这些了。这也正好，因为我该回去做一点本职工作了。
谢谢大家参加。如果你正在使用 AI，希望它在数学、事实知识等方面做得更好，就把它连接到 Wolfram MCP 服务器上。操作非常简单。
有意思的是，AI 自己也能找到这个 MCP 服务器，但如果你告诉它们该去哪里找，会对它们有所帮助。关于我们 MCP 服务器的信息，究竟会通过人类之间的口口相传传播开来，还是通过 AI 之间的口口相传传播开来？看看哪一边胜出，哪一边带来更多的信息传播，会很有意思。
好了，对于在这里参与的人类（我想应该主要是人类），谢谢大家参加。我们下次再见。再见。
相关链接
- Wolfram Community
- Wolfram Research 博客
- Stephen Wolfram Writings
- Wolfram Research：X、Facebook、Instagram、LinkedIn
- Stephen Wolfram：X