你好，我是 Andrew Mayne，欢迎收听 OpenAI Podcast。今天，我们的嘉宾是研究员 Sebastian Bubeck 和 Ernest Ryu，我们将讨论数学——它是如何从几乎可笑的水平发展到奥林匹克级别的，以及为什么你需要数学才能达到 AGI。过去几年的进展堪称奇迹。我们将能够让 LLM 解决需要超过 50 页思考过程的问题。数学正是过去四年里观察模型进步的完美基准。
Sebastian、Ernest，我想多了解一下你们。你们会如何描述自己的角色？好的。我从事数学研究已经快 20 年了。我曾致力于优化和机器学习理论方面的研究。我先在 Princeton 当了几年教授，之后加入 Microsoft，现在我是 OpenAI 的研究员。过去几年里，我一直在努力理解 AI 如何帮助数学，并真正评估我们在用 AI 解决难题方面取得的进展。
Ernest，你呢？是的，我最近以研究员身份加入 OpenAI，但在此之前，我是一名应用数学家，从事优化和机器学习理论方面的研究。在之前的工作中，我在 UCLA 数学系担任数学教授。我想很多人都有这样的印象：这些模型不擅长数学，它们叫什么来着，语言模型——这种情况是如何改变的？发生了什么？是的，我认为过去几年的进展堪称奇迹。重要的是要记住，就在两年前，我们甚至还没有推理模型，更不用说能够证明困难数学定理的模型了。而今天，仅仅两年后，这些模型已经能够在日常工作中帮助菲尔兹奖得主了。所以这种飞跃确实令人震惊。如果我可以再补充一点，重要的是要明白，每个人都对这一进展感到惊讶，包括我们自己。讲个故事：一年半前，我在一个会议的研讨会上与其他数学家同行在一起，我参与了一场辩论，议题是扩大 LLM 的规模是否能帮助我们解决重大开放性问题。那是一年半前的辩论，当时房间里意见非常分歧。事实上，他们在开头做了一个投票，我认为当时约有 80% 的人说不可能，这绝不会发生。然后辩论展开了，到最后变成了大概 50 对 50。所以在一个小时内算是相当不错的进展。但显然，事后看来这错得离谱。仅仅 8 个月后，模型就开始能够做研究级别的数学了。对你来说，意识到 AI 与数学之间存在非常好的结合点的突破时刻是什么？那是在 2025 年夏天，大新闻是 ChatGPT 在国际数学奥林匹克（International Math Olympiad）中达到了人类顶尖水平的表现，也就是金牌水平。这消息太惊人了，它证明至少在竞赛级别的数学上，模型具备非常高的能力，足以媲美顶尖的人类高中生选手。但是，竞赛题都是固定套路的题目。它们的解答相对较短，因为设计初衷就是要让人在几小时内解出来，而且它们并不新颖，因为既然有人出了题，就一定有解。所以这不是研究级别的数学。于是我很好奇，很多人也好奇：ChatGPT 能做研究级别的数学吗？网上有很多争论，然后我想，我何不拿自己的问题来试试。也许我该亲自尝试一下，自己形成判断，而不是听别人怎么说，因为我自己就是数学家。于是我选了一个优化理论中的经典开放问题，优化理论是我所从事的应用数学的一个分支。具体来说，有一个著名的算法叫 Nesterov accelerated gradient method，问题是它是否具有这种收敛行为，或者说在某些糟糕的情况下，是否可能出现某种发散行为？这个问题真正是开放的，因为人们知道在大多数情况下这个算法表现良好，是收敛的，但人们真的不知道是否存在一个糟糕的实例？在最坏情况下它会发散吗？结果答案是肯定的。而我发现这一点的方式我记得很清楚。我儿子的睡觉时间是晚上 8 点，我尽量不在午夜后还醒着。所以我通常有大约 4 小时的晚间时间可以专注做事。于是我决定花几天时间来研究这个问题。在 3 天的时间里，总共大概 12 小时。我就这个问题与 ChatGPT 互动。这并不是我简单地输入提示词就能得到答案。我扮演了验证者的角色。每当模型犯错，我就纠正它。我还试着把对话引导向我认为新颖的方法方向。过了一段时间，证明出来了，我检查了它。我还让 ChatGPT 再核对一遍，结果也是正确的。就这样，这个存在了 42 年的开放问题被解决了。得到这个解法后，我心想，用什么最有趣的方式公布这件事呢？因为我当然可以写一篇论文，但那就没那么好玩了。于是我决定，去 Twitter 上聊聊这件事吧。这很冒险，不过没错。但嗯，我玩得很开心。是的，人们很关注，我认为这是 AI 解决真正的数学开放问题的最早实例之一，而且嗯，人们非常喜欢这个话题，整个过程非常有趣。你提到这点很有意思。我们确实看到有时候有人说“嘿，我发现了一个很酷、很新颖的东西”，然后有时候它被批得体无完肤，有时候它站得住脚。在社交媒体上发声可能有点可怕，但听起来我们确实需要这种反馈循环。我想对我们很多人来说，部分挑战在于我们会听到一些术语，比如国际数学奥林匹克（International Math Olympiad），然后我们会想：“好吧，这在问题难度尺度上意味着什么？”你知道，我们理解加法、减法、乘法。你能不能举个例子，帮我们理解这个演进过程：从最初 ChatGPT 勉强能做点数学，到它能做数学题或使用工具，再到模型某种程度上内隐地理解数学？当 ChatGPT 在 2023 年初刚刚问世时，我就开始测试它，我非常好奇模型在常见数学问题上的表现如何。这些题目包括高中水平的数学题，也包括一些日常性质的数学问题。比如，想象一下这样的场景：我们三个一起去露营，然后我付了这笔钱、那笔钱……抱歉。然后 Andrew 你付了其他一些费用，最后我们不想一笔笔清账，而是想在最后均摊费用。ChatGPT 能帮我们做这些计算吗？如果你们购买了 17 样东西，这算是中等复杂的了。我记得在 2023 年、2024 年，甚至 2025 年初，模型还做不到这件事。另一个例子是，比如说我在韩国，Seb 在巴黎，Andrew，你在加利福尼亚，我们要安排一个 Zoom 会议。那么，选哪个时间段比较好呢？再说一次，2025 年初的时候，模型还做不到这个。但突然间情况就变了。当时我还没加入 OpenAI，所以完全不清楚你们具体做了什么，但模型突然开始能解 IMO 题目了，然后进一步地，开始能解决研究级别的数学问题。现在我大致是这样评估的：除非你是专业数学家，试图发现全新的数学理论；如果你只是物理学家或化学家，使用相对复杂的数学，比如微分方程、微分几何这类东西，但并不是在创造新的数学，那么 ChatGPT 能完成你需要的所有数学工作。所以，STEM 领域任何基本需要使用高等数学的人，现在都可以用 ChatGPT 来搞定数学部分。当然，你需要保持一定程度的谨慎，检查一下结果是否正确，跑跑仿真来复核。模型是会犯错的。但现在，对于你想解决的任何数学问题，对 99% 的人来说，模型都能做到。我在负责 GPT-4 发布的时候，曾用日程安排作为例子，我可以把三个人的时间放进日程里，让它找出合适的时段，但再往上增加难度就非常困难了。为什么会发生变化呢？Earnest 刚才提到他注意到所有这些能力都变强了。现在我们知道原因之一是工具使用，你可以让模型使用计算器，但模型本身也发生了一些变化。回到我刚才跟你们提到的那场争论，核心其实是：仅靠 scaling，仅靠 LLM 的 scaling，能否让你在数学研究上取得突破性进展。这种问法本身就是错误的。我们在 OpenAI 做了大量研究，是创新性的研究。这不仅仅是把模型做大这么简单。所以当你问发生了什么，或者说当你问去年年中模型为什么突然能解数学题了，其实是很多事情同时发生了。我们做了很多研究，而所有这些都必须同步推进。所以我没法指出某一个单一因素。但它在没有工具的情况下自己也能做到啊。是的，所以我认为非常有必要再强调一下 Ernest 刚才说的关于进步的部分，以及那时模型还做不到的日程安排问题。我说过，两年前我们还没有推理模型。那想想四年前吧。四年前，也就是 ChatGPT 出现之前，我记得 Google 推出过一个数学模型叫 Minerva。我当时震惊得从椅子上跌下来，印象太深刻了。我震惊什么呢？我给模型平面上几个点的坐标，它就能给我一条穿过这些点的直线。我现在这么说，你们可能几乎难以理解——你在说什么呢？模型 obviously 能做到这个啊。所以我觉得我们好像已经忘了事情进展得有多快。现在，Ernest 刚才说，基本已经到了这样一个阶段：除非你要创造新的数学，否则它已经差不多在正确的水平上了 [snorts]。而我想说，我们甚至已经能看到一些迹象，表明即便是在创造新数学方面，它也正在接近那个水平。那你能具体拆解一下吗？除了对那些想要开拓新数学领域或提出新证明的人之外，这对其他一切有什么影响？这对科学会产生什么影响？这对你们正在做的其他工作有什么影响？为什么这件事真的很重要，而不是仅仅“哦，真酷，它会做数学了”？我觉得“会算数真酷”这个层面是存在的。但在我们开发这些模型的过程中，数学之所以重要，是因为它成了衡量进步的好标准。数学的好处在于，问题非常清晰，没有歧义，大家都知道题目在问什么。这是第一点。第二点，你可以验证答案。一旦模型给出答案，大家都能一致判断它是对还是错。当然这一点可以暂时存疑，因为待会我们会聊到，在研究级别，评估已经不再那么简单了。但在研究级别之前，评估是非常容易的。所以数学在过去四年里成了观察模型进步的完美基准。现在可以说，我们在这一方面已经基本饱和了，然后你就会问：好吧，模型会数学了，我们明白了，那下一步呢？对于下一步，我想说，让我们的模型擅长数学，对很多其他事情也会大有裨益，我来解释一下原因。数学的一个关键特征是，要解决一个问题，你必须进行长时间的思考。可能是几天、几周，有时甚至几年。这种长时间的思考，不仅要求你持续想很久，还要求你在整个过程中保持一致性。如果在推理链条的某一点上出了错，整个论证就毁了。之后的一切即使全对也没用。只要有一个单点失效，整个论证就被推翻了。这个特性决定了这正是我们对推理模型所期望的：如果它们犯了错，能够自我纠正。所以我们希望，它们通过数学训练获得的这些特性，能够泛化到其他领域。顺便说一句，这和人类的情况完全一样。我们为什么要训练人类学数学？我是说，这是很有意思的学科，我喜欢数学，我们曾经以此为业，也许现在还在做一些。但我们为什么要训练人类学数学？原因完全相同。它赋予你这种非常逻辑化的思维方式。我们是否需要用新的方式来谈论这些发现？是的，所以我个人把这视为自己职责的一部分，那就是向研究界普及最新的进展，因为我有双重背景：曾经是一名数学家，现在又从事 AI 前沿工作。确实，像 Twitter 和社交媒体就是很好的平台，用来解释这些进展到底是什么，尤其是考虑到进展如此之快。所以，比如说，也许我们可以稍微聊聊 Erdos 问题。好的。以及围绕它产生的一些争议。最初有一个例子，也就是 Ernest 提到的那个例子，然后还有其他几个问题也被解决了。也请介绍一下 Paul Erdos，我觉得大家会很想知道他是谁，以及为什么他的问题这么有趣。当然。Paul Erdos 是上世纪最高产的数学家之一。他写了大概 1500 篇研究论文。他是一个反传统的人物，没有房子，也没有公寓，就是从一个大学跑到另一个大学，寻找新的合作者。每次他去到一个地方，基本上就是提出问题。他在提问方面极具天赋。当然，他提出的并非所有问题都有趣，这点我先说清楚。但这仍然非常高产，研究界和他合作发表了大量论文。甚至还有 Erdős 数这个概念，也就是说，在一串合作者链条中，你离和 Erdős 合著过论文有多远。我的 Erdős 数是 2，我和一位曾与 Erdős 合著过论文的人共同发表过论文。所以，是的，我对此挺满意的。我的数是 3。哦。有个玩笑是说，你可以和他一起坐火车，到下车时你们可能就合作了一篇论文，你的名字也就上了论文。确实，确实。我觉得 2 和 3 的区别基本上说明了我们各自的年龄。实际上就是这个意思。所以不管怎样，Erdős 留下了所有这些数学问题，Thomas Bloom 做了一个非常好的网站，专门追踪所有尚未解决的 Erdős 问题。嗯。我想那上面大概有大约一千个问题之类的。Thomas 本人做了整理工作，他是组合数学专家，所以他可以说，这个是未解决的，这个已经解决了，这个状态比较复杂，对每个问题都能给出判断。当然，他不一定知道所有问题的答案。所以如果某篇论文被标记为开放状态，并不一定意味着没有人知道如何解决。嗯。但这也是一个互动性很强的网站，人们可以在上面给每个问题添加评论，说明是否有解决方案等等。所以这是一个非常活跃、很棒的网站。因此，一旦我们开始让 GPT 能够解决研究级数学问题，这听起来就像是一座可以用来测试我们模型的宝藏。我们试了其中几个，让我们非常惊讶的是，模型对某些被标记为开放的问题给出了答案。所以我们对此非常兴奋。第一个我在推特上提到的，我不记得是什么时候了，可能是去年十月左右。那是一次深度文献检索的结果。我来解释一下这是什么意思。意思是 GPT 做了一个庞大的文献检索，试图扫描数千篇论文，然后在某个不相关的领域找到了问题的答案。现在非常重要的是要理解，在那个不相关的领域，作者并不是说“我要解决一个 Erdős 问题”。它是用完全不同的语言写的，是不同的数学。你需要做工作才能把这两部分联系起来，而 GPT 做到了。所以，那有点令人惊叹。而且这非常临时性，你知道，我们基本上就是在 ChatGPT 界面里手动尝试的。一旦我们看到这一点，我们团队里的 Mark Sellke 也决定采取更系统的方法，尝试所有的问题。他试了，然后模型给出了 10 个 Erdős 问题的解决方案。你要记住，在那个时候，关于这些模型是否能超越现有水平、发现并发明新的数学，仍然有一场非常活跃的讨论。所以我对这个结果非常兴奋，然后发了推特。你知道，那条推文后来有点臭名昭著，因为人们误解了它的意思，以为它真的找到了 10 个非常困难的开放问题的解决方案，而且这些解决方案完全是新的，文献中不存在。但事情不是这样的。当然，这与前面的案例有关，是一次深度文献检索。所以，我们和 Google 之间，你知道，和 Endemics 之间，关于这是否是谈论这类结果的正确方式，有一些争执。但现在，结局有点令人惊叹，也就是几个月后。再说一遍，我说过 10 个开放问题的解决方案，这些是文献中已有的解决方案。然后问题是，你能找到文献中没有的解决方案吗？到现在，我们已经有超过 10 个完全全新的实际解决方案，可以发表在组合数学的顶级期刊上，完全是由 ChatGPT 和我们的一些内部模型得到的。所以就在……这真的说明了加速的趋势。在短短几个月内，我们从……能解决 10 个 Erdős 问题之类的话听起来有点荒谬。到……这真的正在发生，而且正在加速。是的，这很通用，因为看起来第一步是让模型能够进行非常好的文献研究，已经有一些重要的论文和奖项颁给了那些仅仅做了文献检索、发现某个解决方案在这里已经被解决了、实际上可以应用到别处的人。所以，它能做到第一步是很棒的，但现在它实际上正在做原创性……
你知道，他们真正喜欢 AI 研究的一点是，它迫使我们面对关于智能、关于研究、关于进步以及我们如何发现新事物的大问题。特别是，有一个问题：我们在科学中看到的进步，是否只是把不同的碎片拼在一起，然后在上面做一点推理？还是说存在那些杰出的洞察火花？当然，每个人都会指向 Einstein 的相对论。说实话，我甚至不确定那是否真的算数。所以，我认为这个问题还没有定论：这种仅仅通过重组和一点点思考的过程，是否可以在没有限制的情况下增加人类知识，还是说你真的需要那些天才的火花，而那些火花不知为何只有人类才有？嗯，即使是他，也归功于某个人，我忘了是谁了，但就是那个想出那个类比、那个可视化方法的人。你知道，他说那不是他原创的，但指出了是谁做的，然后他显然又向前推进了一步。我觉得我们有时喜欢这些小小的故事，而实际情况要比那复杂得多。是的，确实如此。如果我们在 AI 中拥有更好的数学工具，这对科学整体意味着什么？它如何影响其他领域，比如生物学、材料科学？是的，那么再说一遍，它将如何影响科学的其他领域呢？关键是，我认为让每个人都理解这一点非常重要：我们并不是在做什么专门针对数学的非常特殊的事情。嗯。我们的技术，我们的训练技术，是非常通用的。它们适用于一切事物。所以，我们的预期是，我们在数学上看到更多进展，其中一个原因是它非常容易 benchmark。很容易看到那种进展。但我们完全预期这将在所有科学领域发生。它不会局限于数学。是的，如果一个系统非常擅长处理“如果这是真的，那么这也是真的”，并且能遍历一长串这类陈述，这似乎在很多其他地方都有应用。我们听说过 auto researcher 这个词。你能展开讲讲吗？现在，我们的工作方式正是 Ernest 所描述的那样，本质上是一种互动。这有点像教授和学生的互动，ChatGPT 是学生，教授给出第一个问题，学生回来，然后他们聊一会儿。学生再离开一周，再回来。当然，有一点是，它极大地压缩了这些时间线。在 Ernest 的经历中，你知道，他在 12 小时内解决了这个问题。我是说，我不知道，没有 ChatGPT 的话，你会花多长时间？嗯，我已经花了超过 40 小时，结果还是失败了……
没有 AI 的情况下，我不知道，也许一个月。对。是的。所以，所以，正是如此。所以，你知道，有这样一种压缩时间线的情况。现在，当我们谈到自动化研究者时，那是一个略有不同的愿景，即模型或一组模型能够长时间自主工作。如果我们想超越当前水平，这在某种程度上是必需的。目前的交互水平，你知道，那种教授与学生的互动模式，学生一周后回来反馈，很难通过这种交互模式实现真正的突破。要解决那些长期存在的研究问题，或者在生物学等非常困难的领域取得进展——在那些领域你需要与湿实验室互动并进行各种实验——一旦你想取得真正的突破，我们就需要在更长的时间线上工作，而这正是自动化研究者发挥作用的地方。或许让我换一种方式来说。我非常喜欢的一个概念是 AGI 时间。你可以有 AGI 秒、分钟、小时、天，等等。这实际上意味着你拥有一个人工智能，它能模拟人类思维，但能持续多久？正如 Ernest 所说，你知道，两年前，模型可能还在模拟一个高中生，他只花几分钟思考一个问题。现在我们可以模拟一个能够思考数小时、也许几天的研究者。我们真正想朝着这个方向前进，而这一进展已经持续了大约四年，非常稳定，我们确实从秒到分钟，到小时，到天，现在大概处于天/一周的水平。我们想推进到数周，甚至数月。这是开放性的研究。你知道，我认为地球上还没有人确切知道该如何做到。但话说回来，我们正在做大量研究、大量创新，我认为一旦所有东西整合在一起，我们就会看到这条进展弧线，在 AGI 时间上不断取得进步。但这正是自动化研究者的方向。所以，我与之交谈的其他数学家使用 AI 的方式是，他们打开 ChatGPT，然后在这个 context window 中与 ChatGPT 对话。你可以进行多次会话，但每次会话的上下文长度是有限的。大概相当于一篇数学论文的 50 页左右。嗯，这不足以实现真正深刻的、开创性的数学突破，因为很多数学论文都超过 50 页。而且，人类为写出比如说一篇 10 页或 30 页的论文所投入的思考，通常比最终产出要长好几个数量级。嗯，所以有限的 context window 存在局限。但对于用过 Codex 的用户来说，他们会知道你可以与 Codex 进行非常长时间的工作会话。所以你只是不断给出指令，说明你想写什么样的代码，而你所处理的代码本身，你正在工作的代码仓库——在数学领域做类比的话，那就相当于你写下的数学笔记。那可以非常非常长。嗯，但 Codex 很擅长处理这种情况。它偶尔会压缩它的对话，嗯，它有自己的方式，成为一个真正了不起的 agent，能够在巨大的代码仓库上完成非常复杂的工作，在非常长的对话上下文中。嗯，而且我相信这也会发生在数学研究中。因此，我们将能够让 LLM 解决那些不仅仅是……你知道，需要超过 50 页思考的问题。而人类就是这么做的，人类数学家就是这么做的。人们花一天时间思考某个问题，然后我们会总结想法，把它们记成笔记。第二天或下周我们再回来看，经过几个月，我们已经思考了很长时间，但这在某种程度上被总结了、被组织了，变得可管理，最终产出变成了一篇 30 页的论文，总结了历经数月甚至数年的思考。所以，是的，我认为这将会发生。周末我在研究一个对你们来说可能非常可笑的问题，用 LLM 来尝试解决，比如如何用一个小型 LLM 来做数学。在这个过程中我需要一个 benchmark，然后我发现了 easy math，这是一个面向小型 LLM 的 benchmark。但问题是有篇论文讲它，却没有太多数据，于是我在用 Codex 的过程中就说，你能帮我创建一个 benchmark 吗，直接生成数据。五分钟后我就拿到了。这对我来说很神奇，因为我正在做那个工具，本来会突然涉及到，好吧，我得花几个小时去写一个生成器，去生成这类东西。完全正确。是的，我的意思是，你所描述的正是我们当初发表论文时所追求的目标，那篇论文的标题是《early experiments in science acceleration with GPT-5》。就像你经历的那样，这是实实在在的加速。这在以前可能需要你花几天时间才能完成，或者什么的。可能就放弃了。是的。是的，这确实是一个很好的观点。你知道，我可能就会放弃。这真正让各地的科学家都能做到，比如数学家现在能够使用代码。我们大多数朋友都不会编程，你知道？而现在他们突然有了 Codex，就能做所有那些实验，你知道，以前他们总想找个倒霉的研究生替他们做实验。现在他们可以非常轻松地完成所有这些实验。当然，反过来说，各个学科的科学家现在也能借助 ChatGPT 使用更高级的数学了。我曾和 Bob Metcalfe 坐下来，向他展示如何用 Codex 做 R。他当时在做个项目，R 对他来说是新事物，他想学这个。是的。那是一种挺有趣的经历，面对一个极其聪明的人，告诉他："哦，你不必花大量时间去琢磨这个了，这里有这个工具给你用。"
但当然，正如你之前提到的，我们现在应该谈谈人类在这一切中的角色。人类的位置在哪里，特别是如果我们开始思考……你知道，让我们稍微想想未来。我不太喜欢试图预测未来。我喜欢解释我在做什么。但你认为会发生什么？嗯，我想，你知道，有感性的一面，也有理性的一面。所以我的头脑告诉我："看，过去四年进展一直非常稳定。从能解决需要花秒、分钟、小时、天的数学问题，我没有理由……任何人看了这个情况都会说：'好吧，一年后你就会有能思考数周的系统。两年后，有能思考数年的系统。'不仅如此，其实今天我们已经发现，我们的模型能够在某种意义上真正超越人类，它们能发现论文中的错误。嗯。你知道，我们在内部有过系统，有过 agent，能够找出论文并说：'嘿，其实这错了。这是正确答案。'不仅如此，人们开始倾向于认为 AI 只擅长回答问题。其实不，它也很擅长提问。当然，你需要……你知道，再说一次，你需要一些研究创新，而我们已经有了。"
现在我们的模型非常擅长提出问题。事实上，它们已经厉害到人类看到这些问题后会说：“嘿，也许我应该基于这个问题写篇论文。”所以，这种情况其实已经真的在发生了。我想表达的是，一年或两年后，模型基本上能够完成人类研究人员所做的几乎所有日常工作。那接下来呢？人类的角色是什么？我们为什么要做科学？意义何在？要知道，我认为意义不应该是为了解决问题而解决问题。我们解决问题是因为我们试图去理解某些事物。“理解”这一环至关重要。我们不是为了写论文而解决问题，不是为了说我们比隔壁课题组多发了十倍论文。那不是重点。你要是想竞争，可以去下竞技象棋。我们是试图真正理解更深层次的东西。那我们为什么要理解更深层次的东西？因为我们想要更好地掌控我们所处的环境。我们想要治愈疾病。我们想要把事情建造得更好、更快、更坚固、更可靠，诸如此类。所以我认为，只要人类保持掌控，并引导哪些才是真正重要的问题，我们就有可能看到一个极其光明的未来。要知道，AI 并不在乎治愈疾病。它们不会像我们一样患上那些疾病，但我们在乎。所以我们必须控制它们，引导它们去解决那些问题。在首批计算机问世的时候，当“计算机”从指代做计算的人变成真正做计算的机器时，你曾看到有人认为，也许我们都得从数学转向物理，因为那里才会有真正的难题，而数学里不会再有难题了，因为计算机能解决一切。那是在上世纪四五十年代，而事实证明并非如此。计算为数学开辟了一个全新的分支。这种情况还将继续——今天还在上高中的数学家，三十年后会因为正在发生的这一切而拥有一个非常令人兴奋的未来。我觉得数学会变得非常有意思。
［笑声］
是这样，数学家享受解题的过程，但在 AI 出现以前，我们可能会花上好几个月思考一道题，这当中当然有乐趣，但也相当艰苦。也有痛苦。有很多痛苦。而且当你真正找到解法时，会涌起一股巨大的多巴胺。这个过程将会被加速。会有更多解法，更多乐趣。此外，我认为数学会变得更加丰富，因为它会变得更加相互关联。因为在研究层面，很多数学领域都极其细分。当你写一篇论文时，你知道当下全世界可能只有五个活人会在意这篇论文。但你自己喜欢这个结果，所以还是把它发表了。然后另外五个人欣赏它，于是读了它。但二十年后，它可能就躺在某个档案库里，没人会再去读。但现在有了 AI，AI 会读过它。如果其中存在某种有用的关联——
对。正如 Sebastian 提到的，AI 会把它发掘出来。于是，一百年后的人们可能会发现它，并将其用于他们想用的任何地方。所以现在，如果我的研究成果就是这样直接发表出去，我会更有信心：只要未来有用处，它就会被用上。同时，我现在也能够以更广泛的方式接触数学了。有些领域我从未学习过，如果某个结果出现了，我过去仍然得去学习那个领域才能在我的研究中使用那个特定结果。但如果没有 AI 的帮助，我根本不可能找到那个结果，而现在它变得可触及了。模型会告诉我：“嘿，你可以用这个来解决你的问题。”那好，我就去尝试使用它。所以数学将会变成一个相互关联得多的事业。另外，验证数学的正确性实际上绝非易事。想象一下，有人写了一个长达三百页的证明，声称解决了一个非常重要的问题。而这个人声望很高，论文表面看起来也合理。你怎么知道它对不对？验证这个过程往往要花上数年时间。而且光是某个人读过还不够，需要很多人去读、去尝试延伸它、去深入细节。这是一个需要数年的过程。有时候，一些存在根本性错误的证明也会被发表出来。所以这个领域最初接受某个结果，但后来发现它完全不可挽救，于是又需要把它剔除出去，这个过程也非常缓慢。而有了 AI，这一切都会被大大加速。目前 ChatGPT 和我们的 AI 模型在验证数学方面还不算完美，但已经做得非常好了。而且它们比人类有耐心得多。
［笑声］
对。事实上，大量已发表的数学成果中存在一些小错误，其中不少还有重大错误——我们知道这一点，因为我们用模型测试过。但我认为，数学更丰富的未来在于，这一切将通过 AI 验证来完成。我们对哪些结果正确、哪些结果错误会有更大的把握。而且反馈会快得多。一周前发表的论文，我们就能得到验证，然后可以信赖它并在此基础上继续推进，而不是等上五年才能真正确定其正确性。总的来说，数学会变得更有意思，联系会更加紧密。我们会更能够信赖结果，进展会更快。数学家们会解决更难、更有趣的问题。所以，也许我想补充一点：我完全同意你刚才说的所有内容。这将会非常有趣，但我也想谈谈当前进展的一个潜在危险。那就是我们可能会把城堡的钥匙交给 AI，而人类开始过度信任这些系统，不再去做那些艰难的功课——那种我们为了真正掌握技能、拥有独立验证能力而付出的努力，不再愿意日复一日、甚至数周数周地耐心坐下来，深入理解一个结果，而只是让 ChatGPT 用更简单的语言解释给我们听。所以，我担心的基本上是因为过度依赖工具，我们对事物的理解会变得更浅薄。因此，我认为对听众、对所有听到我们谈话的人来说，真正重要的是明白：专业知识比以往任何时候都更有价值。我们之所以能够从 ChatGPT 中挖掘出这些结果，正是因为那么多年的训练积累，以及我们对这门学科的深刻理解。如果没有这些，我们根本无法推动最前沿的进展。而且我们也看到了，并不是成千上万个非数学家突然就能证明新定理了。事实上，要说有什么现象的话，我们最近在社交媒体上看到过这样的例子：一些非数学专业人士试图用这些工具去证明定理，写出了好几十页的证明，最后却发现完全是错的。所以，这是我们必须正视的危险。这似乎会在很多领域都成为一个问题。人们使用当前的模型，而这些模型往往只是在强化你想听到的内容，然后你就会产生一种错觉，觉得我要提出某种统一理论之类的。但事实是，这远比想象中困难。是的，我是说，这种思维能力退化的问题，如果你愿意这么说的话，我认为在编程领域同样非常突出。我不是计算机科学专业的，但我修过一些计算机科学课程，我自己动手写过代码，也曾与调试器苦苦搏斗，我这个年纪的大多数人都经历过这些。但如今，你在大学课程里已经不必再经历这些了，我觉得这非常危险。我听到一些科学界人士看到这些进展后非常乐观，说什么以后不再需要科学家了，不再需要这些了。不。是啊，不。哇，这太可怕了。
所以，我真的要确保任何听到这番话的人都知道，千万别这么说。这恰恰与我们的实际需求背道而驰。我们比以往任何时候都更需要科学家。科学家将会更高效、更有能力，他们会做出更出色的成果，但我们需要他们真正精通自己的技艺。显然，OpenAI 无法包办一切，这一点我必须明说。而现有的机构在这方面恰恰可以发挥非常重要的作用。学术界既要理解技术进步的速度，要明白这一切发展得有多快，同时也要在这一过程中重新找回自己的角色。是的，我希望并期待看到更多人投身科学领域，因为如果你在人生的较晚阶段决定进入这一行，只要你有决心，就更容易赶上来，因为你拥有世界上最出色的导师。OpenAI 刚刚在 ChatGPT 里加入了一个可视化解释工具，可以帮助你理解各种概念。我认为，仅仅因为某个 AI 模型突然在某个基准测试上刷出了满分，并不意味着你就可以说："好了，我们搞定了。我们解决了小学数学问题。恭喜大家，AI 大功告成了。"并非如此，还有下一个层级，再下一个层级，而且你仍然需要人才。是的，我认为这能帮助年轻一代更快地掌握科学知识，这是肯定的。我无法想象，如果我青少年时期就有 ChatGPT 会是什么样。我记得当年看着麦克斯韦方程组，心里纳闷："这到底是什么意思？他们是怎么想出这些东西的？"而现在，你直接问它，它就能给你非常漂亮的解释。这确实意义重大，但你仍然需要在此基础上付出艰苦的努力。不过，随着越来越多的人试图构建数学证明，而他们并不真正清楚自己在做什么，也许也没有投入应有的学术严谨性来确保正确性，我们在代码仓库等领域也看到了类似情况，人们提交的修复方案并非真正的修复，诸如此类。这该怎么解决？如果我是现在从事数学研究的人，或者是某本期刊的负责人，我会感到有些害怕。是的，所以我认为 Anna 的意思是，AI 也能在这方面帮上忙。我们可以在这些系统的另一侧部署 AI agent，由它们审查所有内容，尽可能地进行验证。再者，我们并不想完全信任 AI 来验证并接收论文或代码提交，但我们可以让 AI agent 标记出潜在的具体问题。也就是说，把它们推到台前，比如，"嘿，我对这部分不太确定。"这样就能加速进程，也能帮助人类减少需要验证的工作量。而且我认为，数学界或者说代码界的社会结构必须发生一些变化，具体而言，提交代码的人或控制 agent 的人需要承担责任。在数学领域，其实已经存在一种文化：如果你发布了一个错误的证明，那会有损你的声誉。当你以自己的名字发表论文时，你就是在拿自己的声誉做担保。我认为我们需要更多这样的机制。如果你对数学有好奇心，有人在看或听这个节目，也许他们对数学感兴趣，但也许觉得自己不是学数学的料，却又有点好奇想入门，你会告诉他们什么？去和 ChatGPT 聊聊。
如果你对学习感兴趣，那它会非常有帮助。即使在研究层面，当我需要学习一个新概念时，我也会习惯性地先去看 Wikipedia，但上面的内容非常密集。于是大概 30 秒后我就想，好吧，让我问问 ChatGPT。然后我会向它提问，还会追问。这样做的时候，它会给我提供更多更有用的信息，这些信息会针对我知识中缺失的部分量身定制，因为我的问题本身就是有针对性的。你可以想象向 ChatGPT 说明你的数学背景，你读过的书，你学过的内容，然后让它提出一个既是开放性的、又在你专业水平范围内能够理解的问题。Sebastian 提到过这一点。我觉得人们还没有充分意识到这些 LLM 能够提出好问题，但我认为它们确实可以。拥有这样一个可以陪你聊数学、讨论问题的伙伴，你可以请它帮你解题，一旦有了答案，你们可以继续聊下去，想出下一个问题，或者类似问题的变体。尽管你仍然独自坐在房间里，但这会让整个过程不再那么孤独，而这正是数学的乐趣所在，因为我认为数学本质上是一项社会性的事业。完全同意。我觉得趣味问题很有趣，我会告诉人们，你可以从类似"你的浴缸里能装多少颗 M&M's"这样的问题开始。听起来很傻，你会开始这样问自己，然后你会想，"你去年读了多少个字？"你怎么算出这个答案？然后你就可以开始一段非常精彩的对话，开始提出这些问题。不知不觉中，你就会开始做越来越复杂的数学，并意识到它对你有多大的影响。是的。各位，这太棒了。Sebastian、Ernest，非常感谢你们。谢谢。谢谢邀请我们。