莱顿宣言：人工智能与数学

前言 (Preamble)

技术的发展一再改变数学的实践。近期的人工智能技术，包括用于数学生成和形式化的符号与神经方法，可能已经在这段漫长的历史中开启了重要的一章。在研究人员中，人工智能引发了广泛的反应：对其带来新发现潜力的热情；对发展速度的畏惧；对这些快速变化的漠不关心；以及对其对数学及更广泛社会影响的担忧。

数学家们可以选择是否以及如何在他们的研究中采用人工智能。他们也有责任确保这门学科的持续繁荣。本宣言呼吁数学家履行这一责任，并为个人、机构、政府和行业提供建议。

尽管我们采用的是数学研究的视角，但我们所写的许多内容同样适用于数学的其他方面。这包括更广泛的数学科学领域的工作、教育、指导、出版、资金筹集、科学政策，以及数学在更广阔世界中的应用。

本宣言的构想旨在与面临类似挑战的其他研究工作和创意职业（无论是在学术界内外）团结一致。它补充了其他行动呼吁，如《乌普萨拉科学家伦理准则》、《旧金山科研评估宣言》、《联合国教科文组织开放科学建议书》以及《英国科学家通用伦理准则》。国际数学联盟出版委员会、工业与应用数学学会以及美国数学学会也发布了相关材料。

关于我们的价值观 (About our values)

我们的建议基于我们所认为的、且我们有共同利益去维护的数学研究的特征价值观。其中包括以下几点：

1. 从事数学研究的原因有很多，从求知欲到解决实际和社会问题的愿望不一而足。支撑许多数学工作的是证明活动。数学证明被认为能为其结论提供最高程度的确定性，并能让人理解为什么其结论是正确的。证明的这些特征支撑了数学的科学完整性。
2. 成果归属于特定的作者，他们因其发现而获得荣誉，并对其正确性承担责任。这些原则奠定了我们在数学研究中追求的基于价值（merit-based）的标准。
3. 数学论证被认为是透明的，并且可以接受独立验证。它们可能非常冗长或困难，但原则上不需要专有知识或设备来理解它们。
4. 数学家们共同关注如何根据共享的深度、难度和意义标准，对数学工作进行适当的评估。
5. 数学不仅产生了一系列成果，还在塑造这些成果的数学家社区中产生了理解力、清晰度和判断力，这通常是在他们自主指导的研究背景下进行的。这种专家知识至关重要，既能有效地应用数学，又能继续提出新的、有意义的研究问题。长期以来，该学科力量的一个关键来源是自主塑造研究方向以及追求这些方向所使用的方法。

这些将数学作为一门学科的特征，也与将数学理解为一种人类实践及其在世界上的地位相契合。作为数学家，同时也作为共享世界的居民，我们有责任关心他人和我们的环境。

潜在的威胁 (Potential threats)

近期人工智能的发展对这些价值观中的每一个都构成了威胁，其方式往往不成比例地影响着学生和处于职业生涯早期的数学家，从而影响该学科的长期未来。

1. 目前的自动化技术可能会产生看似合理但不可靠（甚至不正确）的论证，这些论证很难与正确的数学证明区分开来。这不仅适用于非正式论证，也适用于形式化，其中的困难在于计算机编码与人类概念表达之间的转译。这些快速发展的技术使我们目前的审查系统面临越来越大的压力，危及我们落实证明的正确性、透明度和独立可验证性等传统标准的能力。
2. 大量利用已出版的“数学公共资源”的技术破坏了传统的署名系统。在已出版作品上训练的模型经常返回一些输出，却未能恰当地引用它们所综合的人类作品。目前的许多模型还是建立在系统性利用许可和访问安排（这些安排并非为人工智能设计）而获得的数据之上的，甚至完全侵犯了版权保护。
3. 影响数学实践方式的技术可能会扰乱当前的激励机制。人工智能的使用——以及它可以解决的那类问题——可能会为了其自身的目的而受到激励，从而破坏我们在招聘、资助和认可方面的机制。这使得那些无法获得这些技术或相关决策权的、或者不愿意使用那些价值观与其不符的组织所控制的技术的研究人员处于劣势。
4. 如果成果通过新闻稿或博客文章等非正式渠道传播，而往往没有研究论文或其他进行科学评估所必需的信息披露，那么适当的评估就会受到威胁。这种做法在市场时间线上为新成果寻求宣传，抢在数学界公认的社区评估过程发生之前。在许多情况下，这会导致报告的简单化，例如过分强调自动化工具的意义，而低估了使这些工具成为可能的先前人类贡献。这种过度简化不仅有损害公众对数学的认知的风险，还会误导性地将特定的数学任务作为衡量商业产品通用推理能力的指标。
5. 这些发展使数学的自主性受到威胁。科技公司越来越多地参与数学研究，这增加了研究问题可能因为更易于被自动化数学处理而被优先考虑的风险，而不是基于专家对其更深层意义的判断。事实上，在这个自动化过程中，对该领域的更广泛理解可能会永久丧失。在大学预算面临压力的情况下，这种重塑也改变了职业激励机制，鼓励研究人员以不对等的条件与科技公司合作。如果不加制止，这些趋势不仅会威胁研究人员的自主性，还会影响数学研究本身的广度和深度。

所有这些挑战出现的时机，正值人们广泛讨论对人工智能的大规模投资在战争、大规模监控、政治破坏和环境破坏等方面的后果之际。这引发了严重的伦理担忧。如果不采取行动，我们就有可能成为支持那些不仅威胁数学实践的技术的帮凶。

因此，我们认为数学界迫切需要做出深思熟虑的回应。以下是可操作建议的简要描述。我们鼓励专业组织认可本宣言，并根据自身的价值观、优先事项和治理方式添加相关条款。

对个体数学家的建议 (Recommendations for individual mathematicians)

披露工具的使用

透明地披露自动化工具的使用情况，包括大型语言模型、机器学习系统、证明助手以及其他数学软件。在您的论文中加入“工具和计算资源披露”部分；许多期刊、出版商和专业组织已经为此制定了指南，尽管该部分的具体形式必然会发展，但我们鼓励作者秉承《联合国教科文组织开放科学建议书》和FAIR原则所反映的精神。在担任审稿人时，请遵守出版商的指导方针。如果允许使用人工智能，请透明地说明您是如何使用的，并对您提出的任何重大建议负责。

支持审查的需求

在准备论文时使用人工智能可能会引入使审查变得更加困难的材料。通过披露工具的使用、提供精确且完整的先前成果参考文献，并在可行和适当的情况下提供形式化证明，使您的同行更容易审查您的工作。

遵循开放科学原则

国际开放科学运动旨在使科学研究透明并向所有人开放。随着数学研究越来越依赖于数据和软件，请遵循开放科学原则。另请参阅《联合国教科文组织开放科学建议书》。

保留对正确性的责任

在发表的数学研究中使用自动化技术时，对论点和结果的正确性与充分性，以及对相关先前工作引用的完整性和准确性的责任，完全由人类作者承担。

确认作者身份的人性

在数学界，荣誉和责任仍然属于人类，不应赋予自动化系统。人工智能可能会掩盖但无法替代某项成果背后的人类集体劳动。

努力进行适当的署名

自动化工具在恰当归因想法方面存在已知局限，这相应地要求研究者有义务积极努力去寻找并标明使新成果成为可能的来源。如果无法进行令人满意的归因，请在出版物中明确声明这一点。

参与公共话语

数学家有责任支持严肃的科学新闻，并参与公共话语，以解释和阐明人工智能辅助方法和结果的背景。这对于我们自己的子领域内的工作尤为重要，因为评估关于结果的深度、难度和意义的声明需要专业知识。此外，我们鼓励数学家寻找机会，与面临类似挑战的其他研究人员和创意专业人士合作并提供支持。

随时了解新兴技术

根据您的兴趣和研究，随时了解计算机辅助数学工具的能力。这种了解对于指导我们的学科如何适应新技术以及参与治理和公共话语具有重要意义。

欢迎新贡献者

人工智能与数学日益增长的交叉融合继续吸引着其他学科的研究人员。我们欢迎我们社区的不断扩大以及这些贡献者带来的各种技能和观点。我们鼓励数学界积极与更广泛的社区接触，使我们的标准和实践变得明确和可及，并为有意义的参与创造途径。反过来，我们要求进入我们领域的人尊重我们的价值观，同时帮助我们适应和发展它们。

仔细考虑使用哪些工具

一些自动化工具及其开发者将与本宣言的条款保持一致，而另一些则不然。在决定使用哪些工具或是否使用它们时，请考虑到这一点。还要考虑非专有、节能或小规模系统是否足以完成您的任务。如果不足以完成，请考虑为了维护本宣言中阐述的价值观，推迟获取结果是否值得。

评估您工作的伦理后果，并采取相应行动

数学带来了极大地改善许多人日常生活的技术，但它也可应用于开发用于战争、压迫、大规模监控和破坏民主的技术。尽您所能评估您研究的伦理后果，必要时退出有害的工作。只参与尊重本宣言中所阐述价值观的外部合作。

对数学组织和非营利性研究资助者的建议 (Recommendations for mathematical organizations and not-for-profit research funders)

建立专业知识并进行战略规划

专业组织应及时了解技术发展，并主动向成员和更广泛的社区提供知情建议。它们应通力合作，指导学术出版、资助机构和政府制定政策。如果有人声称使用非常规手段取得了重大数学成果，它们也应积极准备介入。

在出版和审查政策方面发挥主导作用

数学领域的专业组织应在制定关于在出版和审查中使用自动化技术的指导方针方面发挥领导作用。这些方针可包括，例如：工具和计算资源披露、归因、与作者身份相关的规则，以及符合数学价值观的行为准则。这些将补充并支持出版商和期刊已经在制定的指导方针。

保持严谨的标准

在制定政策时，要求通过自动化技术获得的结果必须符合能够应对这些技术所带来风险的标准。这可能包括要求人类描述由自动化工具获得的核心论点，在适当的情况下坚持形式化验证，交叉验证理论和计算结果，或在提交前进行外部审查。

保护作者的权利

自动化数学对作者权利提出了新的挑战，各学会应主动制定样本许可协议来保护这些权利。特别是，未经同意不应将材料用作训练数据，出版协议应允许作者选择退出以此方式使用其作品。

坚持合适的出版渠道

要求数学成果继续在经过同行评审的渠道发表，如期刊、会议论文集和书籍。新闻稿或博客文章等非正式机制可以提供有价值的支持作用，但它们不能取代同行评审或社区监督。

支持公共研究实验室

支持建立致力于研究自动化数学的大学、国家或国际研究实验室，这些实验室在行政和财务上独立于工业界。支持使用个人研究人员可以访问的、资源消耗较少的技术。

提供合作框架

与工业界合作的数学家和学术组织往往在谈判地位上面临不对等，在获取法律资源或知识产权建议等专业支持方面也是如此。通过提供法律代理渠道，以及促进制定职业行为准则，支持参与此类合作的研究人员。

使资助与价值观保持一致

在评估和资助涉及学术界与工业界合作伙伴之间合作的项目时，应考虑到是否与本宣言的价值观保持一致。

对政府及其他领域决策者的建议 (Recommendations for policymakers in government and elsewhere)

保护作者的权利

加强对作者的法律保护，使之符合本宣言的精神。

不要相信炒作

目前科技行业有强烈的商业动机去夸大其产品的能力。在制定政策决策时应咨询专家（包括数学家），而不是依赖新闻稿或关于数学成果的大众报道。

监管人工智能行业

最近的发展不断凸显了监管科技行业符合强烈的公共利益，例如涉及参与军事和大规模监控项目、开发宣扬虚假信息和破坏民主的技术，以及环境成本。我们与其他人站在一起，呼吁大幅加强公众监督。

投资公共计算基础设施

时事说明了需要为专有技术提供公共替代方案，从用于在线协作的基础服务，到用于数学建模和机器学习应用的计算机集群。我们支持在大学、国家和国际层面资助公共基础设施。

对商业人工智能的建议 (Recommendations for commercial artificial intelligence)

虽然数学界在学术和公共政策制定方面具有公认的地位，但在对我们学科发挥日益重要作用的企业决策中，却没有同等的作用。尽管如此，最近的发展已经以多种方式将数学工作卷入了工业界的人工智能工作中。一种是在公共宣传和公关活动中，利用数学来宣传商业人工智能系统的能力。另一种是，人工智能开发者越来越多地将数学出版物和形式化的数学库作为训练数据源——不仅用于专门的数学模型，还用于更通用的人工智能。

目前使数学对通用人工智能开发具有吸引力的是，形式化证明的正确性可以被自动检查，而无需人工监督。这使得生成和检查大量问题（无论是人类撰写的还是计算机生成的）成为可能，从而为训练人工智能模型提供几乎无限的反馈源。这种策略的理由通常建立在一个进一步的假设上：通过证明数学定理发展出的能力将扩展到更广泛的通用推理。一些由此产生的通用模型正在被商业化，用于引发严重伦理担忧的应用中，包括前面提到的：战争、压迫、大规模监控和破坏民主。

我们认识到，工业界提供了丰厚的工作、金钱奖励、计算资源以及激发智力的机会，一些数学家觉得这很有吸引力。这一切发生在高等教育资金不足和学术就业不稳定的时代。我们也认识到，许多数学家并没有预料到他们的工作会卷入如此重大的社会和伦理影响之中，也没有预料到会被纳入用于他们可能感到深感不安的目的的系统中。

我们呼吁数学家与工业界之间的合作，至少遵守我们对同事所期望的、并在本宣言中描述的标准。这种合作必须尊重员工或贡献者的良知自由，使他们能够公开谈论企业的政策和优先事项。

工作组成员 (Members of the working group)

Jarod Alper，华盛顿大学 (University of Washington) Michael Barany，爱丁堡大学 (University of Edinburgh) Alain Chavarri Villarello，阿姆斯特丹自由大学 (Vrije Universiteit Amsterdam) Sander Dahmen，阿姆斯特丹自由大学 (Vrije Universiteit Amsterdam) Walter Dean，华威大学 (University of Warwick) Karthik Ganapathy，加州大学圣地亚哥分校 (University of California, San Diego) Michael Harris，哥伦比亚大学 (Columbia University) David Holmes，莱顿大学 (Leiden University) Mateja Jamnik，剑桥大学 (University of Cambridge) Steven Kelk，马斯特里赫特大学 (Maastricht University) Bryna Kra，西北大学 (Northwestern University) Ursula Martin，牛津大学 (University of Oxford) Bartosz Naskręcki，亚当·密茨凯维奇大学 (Adam Mickiewicz University) / 华沙理工大学 (Warsaw University of Technology) Rodrigo Ochigame，莱顿大学 (Leiden University) Jim Portegies，埃因霍温理工大学 (Eindhoven University of Technology) Johannes Schmitt，苏黎世联邦理工学院 (ETH Zurich)

---

重要术语及翻译对照表

英文原词	中文翻译	备注说明
Symbolic and neural methods	符号与神经方法	指代基于逻辑规则的符号AI和基于神经网络的深度学习AI方法。
Formalization	形式化	将数学概念、定理或证明转化为计算机可验证的严密逻辑代码的过程。
Proof	证明	数学活动的核心，为数学结论提供确定性的过程。
Proof assistants	证明助手	用于协助人类编写和自动验证形式化数学证明的软件系统。
Attribution / Credit	署名 / 归因 / 荣誉	在学术研究中，对思想来源和作者身份的正式承认与标明。
Open science	开放科学	旨在使科学研究和数据对所有人透明、可访问的国际运动。
Large language models	大型语言模型	指如ChatGPT等基于海量文本数据训练的先进自然语言处理模型。
General-purpose artificial intelligence	通用人工智能	设计用于执行广泛任务（而非单一专门任务）的AI系统。
Peer-reviewed venues	经过同行评审的渠道	指学术界公认的通过专家隐匿评审来把控质量的发表途径（如期刊）。
Mathematical commons	数学公共资源	指代人类长期以来公开出版、积累和共享的数学知识库与文献。
Proprietary knowledge/technologies	专有知识/专有技术	受版权、专利或商业秘密保护的，非公开或需要授权才能使用的技术与知识。