所以，今年终于算是计算超级周期真正开始的时候了。过去三年里，每个月都有人说我们已经碰到了瓶颈。但看看这些模型是怎么生产出来的，每个环节都还有巨大的改进空间。整个流程还很原始，是靠胶带、竭尽全力、苦干和熬夜才勉强拼起来的，每个部分都还有很长的路要走。我认为值得大声疾呼的是，任何我们能够衡量的指标似乎都在非常迅速地提升。押注指数增长吧。嗨，我是 FirstMark 的 Matt Turck。欢迎来到《Matt Podcast》的特别节目，本周 Claude Sonnet 4.5 发布，我们请到了 Anthropic 的顶尖 AI 研究员 Sholto Douglas。在这次对话中，我们将幕后揭秘 Sonnet 4.5 如何成为世界上最好的编程模型，以及当你让 AI agent 连续工作 30 小时会发生什么。在发布期间，我们聊了很多关于前沿 AI、大型 AI 实验室如何运作，以及我们在通往 AGI 的路上已经走了多远的话题。应我的要求，Sholto 让这次对话变得非常通俗易懂，用平实的英语拆解了 reinforcement learning、computer use 和 AI benchmarks 等许多关键概念，没有使用任何行话。请欣赏与 Sholto 的精彩对谈。 Sholto，欢迎。你好吗？很高兴来到这里。恭喜你们发布 Sonnet 4.5，这是本周的重磅消息。我在准备这次访谈时回顾了一下，Anthropic 的发布节奏让我印象深刻。特别是 Sonnet 3.7，当时可是件大事，在我的印象中，如果你问我，我会说：“哦不，那是去年的事了吧。”但事实上，它就在今年二月。你怎么看待这个发布节奏？这是否意味着进步正在加速？是的，我认为这反映了几件事。一是现在存在一种“双范式”机制，以前你只进行 pre-training scaling 和 reinforcement learning scaling，而现在我们基本上处于两者的混合阶段。因此，我认为这给了你更多更新模型的机会，因为这意味着你可以在多个前沿同时取得进展，然后这就导致你最终发布得更频繁。我认为这也反映了一个事实：现在距离 Chat GPT 发布已经大约两年，或者说两年半了，后 Chat GPT 的投资周期终于开始显现效果，计算资源的可用性正在增加，等等。因此，这意味着你应该预期实际进展的速度会……因为采购芯片基本上是有前置周期的。所以，即使去年你非常想要芯片，也不可能拿到，因为 TSMC 已经排满了之类的。所以，今年终于算是计算超级周期真正开始启动的时候了。实际上，是的。好的，太好了。也许为了让听众有个基本了解，Sonnet、Opus，还有你们的 Haiku，能否介绍一下这些模型之间的区别？是的，我们沿着三个类别、三个层级发布模型。Opus 是最聪明的模型，Sonnet 是中端模型，Haiku 则是最快、最便宜的模型。这次最新发布的一个有趣之处在于，实际上 Sonnet 比 Opus 更聪明。这种情况以前也发生过，事实上去年就发生过。这反映了快速进步，因为你知道，训练中端模型比训练大模型更便宜。所以发生的情况是，你在较小模型上取得了大量进展。最终，你需要选择何时进行 scale up，并在模型中获得规模带来的好处。但通常你的进展速度如此之快，以至于你的中端模型本身就已经非常棒了。而且它实际上比你之前做的大规模模型还要好。我认为这也某种程度上反映了 reinforcement learning 的范式，你可以拿一个模型来训练它。你知道，基本上就是通过 reinforcement learning 进行扩展。这使得你可以拿一个中端模型，把它做到和六个月前或三个月前的大型模型一样好。好的，在我们深入讨论所有这些细节之前，我很好奇你的经历，你是怎么加入 Anthropic 的，以及你目前在 Anthropic 做什么，你会如何描述自己的角色。好的。你想让我从多早开始讲？从最初开始，是的。有几个方面。一是在澳大利亚长大，你能走的路非常传统。你可以当律师、当医生，或者进入金融行业。澳大利亚在很多方面都是一个很棒的国家。尤其是生活质量非常高，这意味着人们往往会选择这些默认路径，过着精彩的生活。而我在某些方面非常幸运。我妈妈其实一直壮志未酬。这意味着我一生中都有这样一位完美的导师。她学过医，后来去南非做了急诊医学，但始终没能以她想要的方式进入公共卫生领域——她想做公共卫生领域的系统性变革。而在那个时代，作为一名女性要做到这一点非常困难。所以反过来，我得到了她全部的关注。这很棒。比如在我成长过程中，去中国做交换生时，我得到了这么厚的一沓资料，关于中国的政治经济、当前创业生态中的不同参与者等等。所以我接受了这种精彩且持续不断的教育，方式非常支持、非常美好。我也很幸运地接触了击剑。通过击剑，我有了通过反复努力成为世界上某项运动最优秀选手之一的经历。我最好的时候排到了世界前 50，具体是第 43 名。这在一定程度上，或者说很大程度上，是因为我有一位世界上最好的教练和完美的指导。他因为妻子是罗马尼亚人而搬到了澳大利亚。他刚刚带领意大利队在奥运会上夺得金牌。搬到澳大利亚是因为他的妻子是罗马尼亚人，她在意大利面临歧视。所以我一方面拥有完美的学术指导，另一方面拥有完美的体育指导。而且这是一个验证场——从小在 YouTube 上看这些人，然后自己也能成为世界上某项运动最优秀的人之一。这算是早期接触了 reinforcement learning 吧。就像这样做，别那样做。从某种角度来说是的。或者换个角度说，这让我认识到，你可以在 YouTube 上看这些人，分析他们做了什么才成为现在的自己，然后复制这种做法。而且你也可以进入那个世界。所需要的只是极其大量的努力。我觉得很迷人的一点是，无论在哪个领域，YouTube 都产生了根本性的影响。而且事实是，无论你看哪个领域，每个孩子似乎都比上一代强得多。我不知道这是否有人研究过，但至少这是你的经历。是的，我是说，我认为我们在 AI 上也应该会看到同样的现象，对吧？就像以后每个人都会有一位完美的导师。后来我确实在 AI 上再次拥有了那种经历。击剑并不是我想长期从事的事情。我想冲击一下奥运会，然后尝试进入科技行业工作，基本上是这样。我很幸运读到了 Gwern 写的关于 scaling 的文章，他在文中基本阐述了 scaling hypothesis。读完之后，我心想：“天哪，这绝对很清楚，未来十年 AGI 的进展将成为全世界最有意义的工作之一，能够在最宏大的层面上真正推动世界前进。”于是，我开始在夜间和周末做自己的研究。
——那时你多大？
——大概是在本科最后一年，或者毕业后的那一年。
——本科期间你学的是计算机科学和机器人？
——我从小到大一直有点模糊地崇拜 Elon Musk 这类人。我想去造火箭、去 Tesla，但我并没有明确自己到底想解决什么具体问题。读到那篇文章是一个关键的转折点：AGI 在这个十年内是可能的，它似乎是世界上最值得做的事情，我需要想清楚如何证明我应该从事这个领域。当时我正在做机器人操作方面的研究，于是我开始着手扩大机器人操作的规模。我试图在卧室里训练通用的机器人 foundation models。这在现在已经是件大事了，有很多公司都在做通用的机器人 foundation models。但在那时还有点早。我自己搭建了模拟器，收集了大量遥操作数据，训练模型，还从 Google 借到了一批 TPU。最终，Google 的一些人注意到了我做的工作，说：“嘿，这工作很棒，你愿意来和我们一起干吗？”这其实非常幸运，因为我没考上我想去的 PhD 项目。本科毕业后我申请了几个 PhD 项目，没被录取。但我很幸运，我的工作引起了 Google 的共鸣，于是他们主动联系了我。
——这是一个很有意思的现象：你本可能在学术道路上遇到阻碍，但仍然取得了如今的成功。对于 AI 研究领域之外的人来说，似乎往往是学术最优秀的人获胜。但这是否说明，学术表现出色和成为一名出色的 Anthropic 研究员是两回事，需要稍微不同的素质？
——我认为这两者高度相关，但通常用来筛选学术界的 signals 存在问题：满足“真正高效”这一标准的人，远远多于拥有正确 signals、从而能进入学术生涯下一阶段的人。例如，在美国，你作为本科生就能做出能发 NeurIPS 或 ICLR 论文的研究。而在澳大利亚，情况完全不是这样。我记得 Peter Abbeel 曾经来过我们在澳大利亚的实验室，问有没有人要去 NeurIPS，没人举手，连 PhD 学生都没有。这意味着你缺乏同样重要的 mentorship，也就没有机会在重要的问题上培养 problem taste，因此你并不具备那些能表明你在学术界具有高潜力的正确 signals。实际上，我认为现在我们寻找的很多 signals 并不是传统的 PhD 学位之类的。这些显然很有用，但最快、最直接的途径是，当我们看到一篇非常好的 blog post，有人以独立的方式完成了惊人的工作量，这是 highest signal 的事情之一。我很喜欢举的一个例子是 Simon Boehm，他是 Anthropic 性能团队的负责人之一，他发表了迄今为止关于如何在 GPU 上优化 CUDA matmul 的最佳指南。这简直就是世界上最好的 CUDA matmul 指南。还没有人针对 attention 做过这样的事。如果有人做了，我们第二天就会发出面试邀请。事实上，前几天有人针对 TPU 和某种 attention 做了类似的事，我们想：就是这个人。我们立刻就发出了面试请求。所以我认为，现在其实很缺乏 agency，很缺乏 taste，但仍然有很多方式可以展示这些，通常是通过以独立的方式产出一个世界级的 artifact。
——是的。结合这次对话和 YouTube 上的讨论，你认为 AI 研究领域的人才储备，无论是学院派认可的，还是更 indie 的，是否在增长？
——是的，我认为增长得非常显著。我也觉得我们在培养人才方面做得相当不错。我是说，Anthropic 已经带了很多资历较浅的人，把他们培养成了非常出色的研究员和工程师，而且是以一种相当有目的性的方式。所以我认为肯定在增长。
——那 Google 注意到你之后，发生了什么？
——Google 注意到我之后，我大概在 ChatGPT 发布前一个月入职。那其实是个加入 Google 的绝佳时机，因为整个公司突然被迫立即做出反应，通过 Gemini 项目参与竞争。这意味着当时的典型指挥结构等并不适合那场特定的战斗。那不是一个预先存在的组织，Gemini 某种程度上是从 Brain 和 DeepMind 的合并中锻造出来的。这意味着在 agency 方面存在巨大的缺口：弄清楚我们需要做什么，尽快去做，组织人们一起攻克重要的问题。因此，我一方面通过在 Gemini 早期与人们密切合作，获得了大量培养 problem taste 的机会；另一方面也很快获得了站出来领导各部分工作的机会。一个例子是，我们当时完全没有适合现代 LLM 世界的 inference stack。我们必须意识到这一点，从零开始设计。现在很多你在 SG Langs 之类的东西里看到的特性，都是当时我们必须从 first principles 推导出来的。我们写了自己的 inference stack，仅在头六个月就省下了数亿美元。这也意味着我随后被信任去解决既困难的技术问题，也解决复杂的组织政治问题。因为 inference stack 问题的一个有趣之处在于，它既是巨大的技术挑战，也是巨大的组织政治挑战，因为原有 stack 的所有权分散在五六个不同团队手中，实际上推动变革相当困难。所以这是多维度上的挑战。这让我获得了信任，去解决 ML stack 其他部分类似的问题。例如，后来 thinking strike 启动了，也就是 reasoning strike，我负责那部分的研究基础设施，为我们搭建了一个 RL code base，让我们能够进行 large-scale RL 和 reasoning 等工作。
——很好。那后来为什么去了 Anthropic？
——去 Anthropic。我是今年二月加入 Anthropic 的。我认为这出于几个原因。最让我兴奋的一点是，公司里的每一个人都深切地关心未来会如何发展。我认为有一点特别打动我：Anthropic 的每个人都能清晰地阐述一套理论，说明他们正在做的工作为何能为更美好的未来做出贡献。无论是研发能在各方面帮助人们改善生活的 AI，还是研发更安全、可控、符合我们文明利益的 AI，还是仅仅更深入地理解这款 AI 内部究竟在发生什么、试图更好地预测进展曲线以及我们认为实际将走向何方，又或者在诸多方面积极倡导政策——Anthropic 在政策层面就是这样一位强有力的倡导者。这个想法本身就很有意思。话说回来，如果从外部观察那些大型 AI 研究实验室，一个问题在于：它们到底有多大不同？看起来每个人都非常聪明，每个人都拥有相同的资源。方向上大致相同，大家似乎在关注同样的问题，然后你会看到某个模型发布了，性能更好，一周后又有一家实验室发布了新模型，性能又超越了前者。但从你的经验来看，你在文化和目标方面看到了真正的差异。是的，我认为确实存在。比如 DeepMind，如果你想用 AI 解决科学问题，那是世界上最好的地方。我认为 DeepMind 将通过 AI 直接促成比任何其他机构都多的科学发现，绝对如此。我认为它在方方面面都为这件事做了极佳的部署。你既有像 AlphaFold、材料科学工作这类直接的科学努力，也有大体量的 AI 研究，比如打造 AI 科学家等等。而 Anthropic 则一直高度聚焦于两件事：一是长期的 AI alignment，二是短期的经济影响。因此 Anthropic 一直高度聚焦于编程、计算机使用等领域，我们认为这些能在未来六个月内对经济产生直接影响。与 DeepMind 和 OpenAI 相比，Anthropic 明显没有聚焦的一点是数学推理。DeepMind 和 OpenAI 一直在推进数学推理，因为它对科学和科学进步有重要意义，也因为我觉得那里有很多人发自内心地热爱数学，希望看到这个领域进步。我们不得不忍痛牺牲了对那方面的聚焦，因为我们想专注于……原因有很多，但我们想用模型聚焦短期的经济影响。而且我们在其他维度上的大量研究，是的，也都聚焦于此。我们稍后再深入探讨这一点，但在此之前，你几次提到了 taste 这个词。是的。这是 2025 年的重要词汇之一。在 AI 研究中，taste 意味着什么？是的。我和一位生物学的朋友就这个话题进行过非常有趣的讨论，当时我们在比较生物学研究和 ML 中的 taste。我认为最重要的一点是对你想要做的事情在机制层面有精确的理解，并拥有一个重要的简洁性正则化。当你想到 ML 中的 taste 时，它往往是一个关键要素，让你在信息不完善的情况下决定大型训练 run 中该加入什么。因为我们可以非常深入地研究架构变更的影响，对吧？但超过某个点，超过一定规模之后，你必须猜测那次变更的影响是否会与其他变更产生复合效应，是否会冲突，因为你不可能把全规模跑 N 次，对吧？你只有一次机会。因此，taste 很大程度上来源于能够做出良好推断：我们最终是否认为这会带来规模报酬递增。另外一点在于，我是否认为这个研究方向值得追求？因为 ML 中我们的基线往往已经调得非常好，所以即使理论上更好的方法也很难击败它们，因为要让机器学习方法奏效需要很多小技巧。它们可能因为各种原因失败。这不像建桥，你能很好地理解为什么某个特定的剪切力被降低了；它可能是各种怪癖导致的。所以，知道是该沿着那个方向推进，还是放弃并尝试别的东西，这是另一个 taste 问题。我认为它最终总是回到简洁性正则化——人们喜欢耍小聪明，我们都一样。而这在某种程度上就是 "bitter lesson" 所表达的，也许是对这一点最好的诠释：一代又一代人开发了各种精巧的方法，将他们关于人工智能应该如何推理的先验编码进去。是的。把它们编码进模型，而这一切都会被规模抹平，通过……你知道的，planning，基本上就是 search 和 learning。而规模被应用到这两件事上。是的。"bitter lesson" 就是那篇 Richard Sutton 的文章，AI 圈人人都知道，但也许不是所有人都读过。不是每个人都听说过，它描述的正是你刚才说的那个观点：generalization 和计算最终会胜出。是的，完全正确。能够利用计算的方法，特别是 search 和 learning，会冲刷掉所有微调。我想我可以举几个例子，让这一点更具体一些。卷积神经网络之所以更有效的原因之一，是它们在多方面编码了一种先验。你可以把它想象成一个小方块在图像上滑动，也就是说，相邻像素彼此相关。这是一个非常合理的先验，对吧？因为如果你把一张图片扔给 AI 模型，却不告诉它关于世界的任何信息，它必须先学会相邻像素形成曲线，再形成其他东西。于是就有了这种抽象层次。但最终，这并不适用于所有图像。因此，在一定规模之内，卷积神经网络对绝大多数图像都会比更通用的 vision transformer 更好。但超过某个点之后，你实际上需要能够灵活地整合整幅图像的信息。语言方面也有类似的例子：我们对语法了解很多，所以你可能想把句子分解成组成部分，比如动词、名词以及它们如何相互关联等等，然后把这种显式结构提供给你的 AI 算法。但当你想让模型写诗呢？或者写代码呢？突然间这些假设就必须被抛弃。于是你就无法跨诗歌、代码和写作进行泛化。回到 taste 的讨论，也就是这其中艺术 versus 科学的部分。所以你的意思是，至少在预测训练 run 会如何发展方面，这更多是直觉而非真实数据？在一定程度上你可以依赖真实数据。说明这一点的好方法是：你在多个规模层级上测试系统。其实类比生物学的话，你想想，可能会在细胞、小鼠和模式生物中测试一种新疗法。但这并不能保证它在人体上有效，对吧？所以你会在多个不同规模和多种模式生物上进行测试，它在基础单细胞细菌中似乎有效，在小鼠中似乎有效，在猴子身上可能也有效。这让你有很大把握它会在人体上起效，但并非绝对保证。所以在那个阶段，你需要理解其背后的机制，这东西究竟是怎么运作的？比如它结合了什么受体等等。在机器学习（ML）领域也完全一样，对吧？你有不同的模型规模，然后你发现，嗯，在这些模型规模上它确实带来了收益，而且我认为它应该能奏效，因为从机制上讲，我理解它对模型的学习动态（learning dynamics）产生了什么影响。这样一来，你才能有信心它会奏效。但如果是那种"啊，这是个取巧的招数，我们不太理解它为什么有效，而且它非常复杂，在代码里引入了各种东西"的情况，那么……
一个想法在像 Anthropic 这样的公司里，失败的频率有多高？嗯，或者一般来说。对，或者说在一般情况下。我觉得这里有个很好的例子，我曾经问过 Noam Shazeer 这个问题。他当时说："是啊，大概我10%的想法能成吧。" 那可是 Noam 啊。对吧？你知道，他绝对是个天才，是这个领域最顶尖的人之一。是的。所以如果连他的想法也只有10%能成功，那我觉得这就为想法的成功率设定了一个上限。大多数想法都不会成功。那么 Anthropic 或 DeepMind 这样的机构之所以能成功，部分原因是否在于它们鼓励人们反复不断地做实验？而且我的意思是，这些实验运行的成本非常高。所以……那些公司之所以需要注入巨额资本，最明显的重要原因之一就是算力非常昂贵。是的。我很好奇，从文化上来说，这里存在一种张力：一方面你需要产出成果，因为涉及的资金数额巨大；另一方面则是，不，你应该保持自由开放的思维，放手去干。嗯，这正是 Anthropic 和 DeepMind 都努力营造的东西之一，也就是一种安全实验的文化，在这种文化里，人们被信任可以在很长一段时间内自由地在实际环境中探索想法。因为你通常需要数月独立的深入研究，才能真正验证一个全新的、截然不同的研究方向。这很难。特别是我觉得难点其实不在于实验的算力成本，更多在于时间和专注力的成本，因为即便是在现有的架构和范式中，我想仍然有大量唾手可得的成果等着你，或者说低垂的果实太多了。对吧？真正高投资回报率的时间利用方式，可能就是去审视数据，认真思考模型究竟在学习什么或在做什么，然后对此做一些微调，也就是说哪怕是最简单的东西也能带来巨大的提升。因此，给人们时间和空间去喘息，让他们说："我们知道你可以去做一些短期见效的事，但实际上我们想尝试开发一种更通用、更基础的技术，让你未来能够可扩展地做这件事"——这很重要。这就有点像做可扩展的事和做不可扩展的事之间的张力，对吧？我觉得 Anthropic 或其他地方也有人在深入研究完全不同的方向。比如非 transformer、非 RL（强化学习）。是的。我觉得这是 Anthropic 和 DeepMind 略有不同的另一个方面。Anthropic 是一个非常聚焦的赌注。我们认为，AGI 在未来几年内是可达的。我们认为现有的范式，或者与之相差不太远的东西……也许会有新东西，但我们并不认为存在某种天马行空的外部研究项目能成事，对吧？说真的，过去五六年 Anthropic 的理念一直是用现有这套技术路线大规模扩展算力（scaling compute），AGI 在这个范围内是可解的。DeepMind 拥有广阔得多的科学文化，因为它有资源这么做，对吧？Anthropic 必须是一场聚焦的赌注。DeepMind 则有时间和空间说："我们很乐意押注一些完全跳出当前范式的东西。" 而且我觉得取决于你想问哪种问题，你认为这种极度聚焦的赌注更好，还是对不同新颖架构进行广泛探索更好。这可以说是研究理念上的差异之一。比如说。并不是说 Gemini 不是……Gemini 本身就是一个非常聚焦的赌注。但如果你看 Gemini，它大概涉及一千人。而 DeepMind 仍然有一万多人从事各种真正长期的、基础性的研究。明白。懂了。所以回到你之前提到的一些话题，为什么 Anthropic 如此专注于编程？是的。我们专注于编程有两个原因。第一，我认为它是……我该怎么说呢？它是能让我们最快地在 AI 研究中自助的东西。所以有一种"自动化 AI 研究"的概念，对吧？以及那方面的工作。我们认为最重要的信号之一，关于我们是否……基本上起飞的速度、进步的速度，取决于 AI 能在多大程度上辅助 AI 研究。所以我们认为提前布局这一点非常重要。其次，我们认为从经济影响来看，这是近期内最可解的问题领域……要让 Anthropic 成为一个可持续的研究项目，能够研究我们认为重要的东西，就需要经济上的回报。而编程是一个巨大的市场，里面有非常非常多热心的早期采用者，他们喜欢尝试和切换各种工具，非常兴奋地摆弄新工具。需求巨大无比，世界上对软件的需求远远超过优质软件的供给。我们在每一次前代技术迭代中都看到了这一点，无论是编译器还是类似一般的网页指令等等。对软件的需求正在爆炸式增长。所以……我的意思是，是的。基本上模型在编程方面比其他任何东西都更早地变得更好，因为从某些方面来说，编程对我们现有的技术而言是一个独特且可解的问题，数据在很多方面都已存在。你可以把东西容器化并并行运行。你可以跑单元测试，所以你能验证……
……这样你就知道它什么时候有效，什么时候……你知道它什么时候有效。你知道自动驾驶就难得多了，对吧？你需要汽车第一次就得完美运作，有点像是……
是的。而编程的话，模型可以失败一百次，只要成功一次那就行了。所以有这种可解性，有这种可重复性，这是其他某种程度上接触现实世界的领域所不具备的。比如你不会想要一个 AI 律师为你辩护，对吧？因为万一它搞错了案子怎么办？抱歉抱歉，这不太好。所以随着技术发展，编程是独特地可解的。而且你能看到这一点，对吧？比如人们已经……我自己在使用 AI 工具写代码时，效率就已经显著提高了。而且我有个朋友同时管理着九个 Claude Code，这数字简直疯狂。我不知道他是怎么做到的。我只能应付两个，所以可能是我个人能力不足吧。好吧。那么 Sonnet 4。这款模型被誉为目前世界上最优秀的编程 agent。能否为我们详细讲讲，包括它在 SWE-bench 基准测试上的表现？我想先了解事实，然后再探讨它的工作原理。
SWE-bench 是目前我们在业界衡量编程进展的基准测试，各家公司都用它来相互评估。它在很多方面并不完美，对吧？比如其中大概 50% 都是某个特定的 Web 框架之类的内容。但它确实采用了现实世界中的工作场景：人们提交一个 pull request，也就是对代码库进行更改。
——就是 GitHub 上的那些内容。
——对。然后它检查模型是否能完成同样的 pull request，并通过同样的测试。这最终成了一个相当不错的替代指标，大致相当于一名软件工程师几个小时的工作量。这些变更并非极其复杂，但属于合理复杂程度，需要几个小时来完成。我们最近在 SWE-bench 上从大约 72 分提升到了约 78 分，这是一个相当大的进步。我想指出的是，就在一年前，我们这个领域的水平大概还在 20% 以下。所以，模型完成软件工程师这种工作单元的能力已经取得了巨大进步。我认为 SWE-bench 在很多方面都不完美，而且可能已经接近我们所说的“饱和”状态。你看，观察 AI 基准测试有个有趣的现象：过了某个点之后，它们就失去了效用，因为无法再有效区分不同高能力模型之间的差异。但这款模型在 SWE-bench 上是世界最佳，这是个不错的替代指标。不过我想我们更兴奋的是，很多客户和合作伙伴对这款模型感到非常兴奋。比如一个例子是 Cognition 团队和 Devin，他们发现这款模型非常有用，以至于不得不围绕它重建架构。
——是的，他们就此写了一篇很棒的博客文章。就是那篇很棒的博客文章，对吧？我认为衡量模型好坏的真正标准是，它是否能让人们做到以前做不到的事。过去一整年，编程领域整体上已经以这种方式发生了转变。让我们回溯一年，看看 3.5 Sonnet。它是第一款真正强大的 agentic 编程模型，第一款你可以要求它在你面前执行任务、它能与你电脑上的代码库交互并执行的模型。在很多方面，正是这款模型让 Cursor 实现了 PMF。Cursor 借助 3.5 Sonnet 像火箭一样腾飞，因为他们身处正确的位置，能够利用这款模型提供一种前所未有的编程体验。然后 Cognition 和 Windsurf 实际上设定了更宏大的目标。这里存在一种 agentic 程度的光谱：你可以要求它做 30 秒的工作，或者几分钟的工作。Windsurf 这家公司的成立，部分原因就是更激进地押注 3.5 Sonnet 的 agentic 能力。然后今年……顺便说一句，这也是 2025 年创业圈的关键教训之一：押注模型在 6 个月后能做到什么。
——没错，完全正确。押注指数增长。所以很多编程初创公司现在都在问自己：既然模型能够独立追求目标的时间远超以往，它们现在能做什么？以前你每 30 秒就得监督一次模型。再过几个月，你可能最终会进入只需要每 10 分钟或 20 分钟左右监督一次模型的情境。视任务复杂度而定，这是一个相当巨大的变化。我们甚至有几个例子，博客文章里应该提到过：我们让它构建一个大致类似聊天应用的东西，比如 Slack 之类的。模型就这样连续工作了 30 个小时——它在一台电脑上不停运转了 30 个小时，最终交付了一个非常好用的、类似 Slack 或 Teams 的应用。相当不可思议。这还远未被整合进任何现有产品中。也许 Cognition……我认为 Cognition 一直押注于运行时间更长、更独立的 agentic 套件，也许这一刻对他们来说才真正实现了 PMF。是的。我们来拆解一下这个 30 小时的维度，这非常吸引人。首先给观众厘清一下：这是 computer use，不只是编程。这个 agent 在 30 小时里具体做什么？是在点击各种东西吗？
——对。它就在那里，读取文件、编写代码、运行测试。它做事的方式和人类完全一样。基本上，你可以把模型想象成在一个循环中运行，不断决定下一步做什么。人们经常提到 tool use（工具使用），顾名思义，在这种情况下，它可以使用诸如读取文件、写入文件等工具，或者在终端中运行代码。它就坐在一台电脑的终端里，处于循环中，不断查看当前代码，判断：哦，这个还没搞定，所以接下来我先做这个。特别是在要运行 30 小时的情况下，它经常会制定计划。我们最近几次发布中比较满意的一点是，我们终于教会了模型使用所谓的 memory（记忆）。我们把它内置到了 agentic 框架中。所以它能够创建 markdown 格式的待办事项文件，记录它认为重要的事项，勾选完成，着手处理，并检查是否已做完。这几乎形成了一个自我验证的循环。大概一年前左右，人们曾担心语言模型会偏离正轨，无法自我纠正，而这基本上会毁掉其实用性。我认为当前这一代 agent 令人瞩目的地方在于，它们能够自我纠正。事实上，它们在自我纠正方面惊人地出色。这种涌现能力非常有帮助。要拆解的东西太多了。我记得你过去谈到过两个维度，一个是 raw intelligence（原始智能），另一个是 agent 能运行多长时间。那么从根本上说，突破点是不是非常简单：如果你能运行更长时间，基本上你就拥有了一个非常聪明的 AI，它可以工作得更久。
——对，完全正确。如果你能保持 long-term coherency（长期一致性），模型就能做到以前根本不可能做到的事。如果我让你在单一思路中直接写出一个能用的 Slack 或 Microsoft Teams，你根本做不到，对吧？你必须坐在那里，做笔记，建立这种闭环反馈系统。所以长期一致性非常重要，我们认为这极其关键。我觉得衡量这一点的一个好方法是看 meter evals。这可能是我目前最喜欢的 eval。这个评估采用了一系列人类实际执行的任务，特别是在机器学习或编程领域，并标注了人类在这些任务上达到强性能所需的时间，然后让 AI 模型去完成。他们发现，进展与AI能够完成任务的时间跨度之间存在着非常强的关联。我认为大概每隔几个月，AI所能覆盖的时间跨度就会翻一番，速度快得惊人。也许每六个月就会翻倍一次，这简直太疯狂了。话说回来，和所有基准测试一样，这个也并不完美。它只衡量相当简单的任务，而且我认为它只要求任务达到50%左右的成功率，而非99%。但它是一个不错的方向性指标。这确实与我的个人体验相符——在使用近期这些模型的过程中，我开始觉得，如果我把一切设置妥当，完全可以把它丢在那里跑一整夜，让它持续运转，第二天早上它很可能会给我产出相当有用的东西。有哪些任务是能在30小时内完成、却无法在更短时间内完成的呢？我觉得……哦，在这种情况下，那个类似Slack的东西就是个很好的例子。它是一款相当重要的软件，真的是一个端到端、可实际运行的软件，这通常需要花一些时间，不是那种MVP演示版。其他我觉得有趣的是，比如机器学习实验之类的事情。你需要的是一个能够提出实验方案、写一些代码、运行一些初始任务，然后过段时间再回来看结果的东西，等等。这在很大程度上打开了新的可能性。我认为关键在于真正可运行的软件，而不是演示版。太迷人了。当然，我并不是说这些模型现在就能立刻给你搭建出一套完整可用的软件。它不会给你造出一个Slack的竞争对手来。不过你们做的那个Claude AI演示还是相当酷的，对吧？我认为我们正在见证——对于还没看过的人来说，它展示了模型的演进过程，以及复刻一个网站是如何从基本上不可能，到只能画出类似 caricature 的线框图，再到现在能够自主搭建一个功能完整的网站。而且它具备一些相当复杂的功能，比如Artifacts。Artifacts是一项功能，模型可以编写代码，然后代码的运行结果会显示在网页浏览器中。而在这个演示中，模型用Artifacts和其他所有功能复刻了flood.ai。我不太记得那次花了多长时间，可能是几个小时。但基本上可以把这看作是这方面最初的、蹒跚的起步。你知道，它有时能运行，有时不行。在接下来的六个月到一年里，这方面预计会有巨大进展。看看我们现在所处的位置，再对比一年前的位置，我预期在突破性进展上也会有同样的差距。所以Sonnet 4.1大概能连续运行7小时，而这一次是30小时。我明白这并不适用于所有任务，但那是你的上限。你之前提到了记忆能力的一些演进，包括上下文，还有自我纠错的能力。能否更详细地解释一下，究竟是哪些进步促成了这个跃升到30小时？我的意思是，我认为这里最关键的问题，或者说我们经常问自己的问题是：到底是什么在阻止模型基本上工作更长时间？或者说，你什么时候需要介入干预？我很喜欢用Tesla的方式来理解干预，举个例子。因为现在你需要相当频繁地进行干预，但通常这关乎品味问题，而不是原始编程能力的问题。并不是说模型在决定要做正确的事情之后却做不到。但你知道，有时模型会走捷径，有时会忘记自己正在做的整体结构，然后在某种程度上在上下文中迷失了自己。它做出的改动在局部看来是合理的，但实际上放在它试图实现的全局目标中却说不通。所以我认为，我们已经做出的以及未来仍要做的许多改进，基本上都在于品味和上下文。在于让模型更好地对即将编写的程序的整体结构做出明智的决策，并且不要走捷径，写出合理优质的代码。那记忆呢？记忆也非常重要，因为你知道，模型最终会用尽上下文。能够随着时间推移管理记忆，甚至我认为从经验中学习，这些可能都会带来很大的帮助。你不会希望模型不断重新去发现某个特定系统或代码库是如何运作的。而这其实是一个涉及品味问题或者说经验教训的领域，因为你可以想象，我们可能会投入巨大精力去教代码模型何为编程品味。这可能是解决品味问题的一种方式：让大量人类软件工程师来判断，这个好，那个不好，诸如此类。软件工程中的品味从何而来，或者说我们所谓的品味是什么？通常是指它能让你日后轻松进行修改，等等；或者多个agents之间能够轻松沟通与协作。好的抽象通常意味着，你和我可以在同一个代码库上协作而不会互相冲突。于是这就出现了一个问题：你是应该通过让软件工程师来判断好坏，从而把重点放在教模型编程品味上；还是应该创建一个模型社会，让它们必须一起编写一个庞大的monolithic code base，如果它们觉得哪里不好就会争论……你可以想象这一系列潜在策略的光谱，而在其中选出正确的策略是一件困难的事。回到性能跃升的话题，无论是去年到今年，还是实际上从Sonnet 4.1到4.5，再次谈到进展速度正在加快这一点。有哪些突破性的进展？这个我不太方便说。是的，我的意思是，我认为重要的是要认识到，这实际上并不是某一项单独的突破。这是许多人对整个技术栈各个方面持续应用大量不同成果的结果，而且在很多方面，这主要只是算力的函数。显然存在一些单独的突破，但从根本上说，进展一直相当平稳。比如在meter eval上，如果你看过去两年的进展，完全可以用一条直线来描绘。所以这类似于过去的Moore定律之类的东西，甚至Moore定律也是由大量个体改进累积而成的，并非某一个关键突破，而是大量工作的积累，在一个有算力这种外生力量推动进步的环境中。好的，那也许我们可以更抽象地谈谈进展，但结合2025年的现实来谈。讨论中很大一部分似乎是关于从侧重pre-training转向RL的演变，这一点我们之前已经提到过几次。谈谈RL的影响，以及为什么RL在今天成为对话中如此重要的一部分？对于听众来说，一个很好的高层次理解pre-training与RL区别的方式是：pre-training就像是快速翻阅现存的所有教科书。
RL 就像是做那些已有解答的例题，然后获得反馈，告诉你是对是错。实际上有很多东西只能通过 RL 来学习。一个很好的例子就是，针对一个问题回答“我不知道”这项技能。因为在预训练阶段，你要记住，你其实是在建模——你试图预测在这些教材、整个互联网和全世界所有文本中，接下来会出现什么内容。所以，作为一个预训练模型，你之所以会说“我不知道”，唯一的原因是你认为你所建模的文本中的那个角色会说“我不知道”。就像这是一个概率很高的补全，对吧？不是因为你事实上不知道，而是因为你认为，就像你从所能建模的这群角色中抽出的那个特定角色，会说“我不知道”。而在强化学习中，理论上你可以设计一系列测试，其中包含模型知道和不知道的东西，然后对它本应知道的问题答对给予奖励，对它不知道却错误作答的情况进行惩罚。这样一来，它就能学会去自身内部查找信息，并评估自己对是否掌握该信息的置信度。所以说，学会说“我不知道”，或者说解决幻觉问题，在很多时候本质上就需要——
学会说“我不知道”，或者说解决幻觉问题，在很多时候本质上就需要 RL。这就是其中一个例子。还有很多东西是你在其他情况下无法知道的。我认为，在这个推理模型和面向语言模型的 RL 的时代，还有一个重要的变化，那就是去年年末，面向语言模型的 RL 终于开始奏效了。我觉得 OpenAI 值得高度赞扬，因为他们发布了第一个真正严肃的 RL 加 LLM 的成果，也就是 O1。我认为这真正开启了一场相当重大的变革，因为它开辟了一条新的 scaling 维度，对吧？以前只有预训练 scaling，而现在有了 test time compute 和 RL scaling。我觉得所有研究实验室其实早就在研究这个方向了。DeepSeek 之所以能这么快跟上，原因之一就是他们此前其实已经发表过关于在语言模型上做 RL 的论文。所以这个想法其实已经流传开来，但 OpenAI 值得称赞的地方在于，他们将其具体化、发布了出来，并且首次公开揭示了那些 scaling laws。也许为了让这部分内容更具教育意义——test time compute 和 RL 是如何……哦，有意思，它们有重叠吗？对，是的。一种理解方式是，test time compute 是进行大量推理，而 RL 则是针对这些推理是对是错的反馈信号。所以，test time compute 是一种用来回答那些对你而言很难的问题的方式。比如说，我问你一个你信手拈来的问题，基本上就是你了如指掌的东西。这就像来自你非常熟悉的领域，无论你之前用过什么启发式方法，都已经融入了你的肌肉记忆。但对于那些需要你真正去思考和学习的题目，就像你刚开始学数学时，如果我现在问你一道基础乘法表，你可以脱口而出。但如果你是个孩子，你就得把计算过程做出来，等等。你需要通过推理链来学习它，然后得到反馈，知道是对是错。所以 test time compute 让你能够解决那些比你目前信手拈来能解决的更难的题目。而 RL 则允许你将这些能力蒸馏回模型中。这几乎就像一架梯子，你可以不断去做稍微难一点的题目，因为你正在学习解决越来越难问题的策略。
RL 并不是一个新概念。我们说的 Richard Sutton，他在这个领域已经工作了几十年，其他人也是如此。然后还有 AlphaGo，那一整系列非常成功、令人印象深刻的基于 RL 的成果。那么为什么到了 2025 年，将这些应用于 LLM 似乎有了突破？是的。某种程度上这挺有意思的。很多……好吧，我该怎么说呢？就拿 DeepSeek 的论文来说吧。在那篇论文中，他们详细描述了一种有效的方法，以及很多无效的方法。实际上，有些无效的方法正是 AlphaGo 取得成功所采用的方法。关于语言模型上的 RL，尤其是在基于可验证奖励的 RL 范式中，最疯狂的一点是，它几乎是最简单的东西，简单到几乎让人觉得不可能奏效。这又回到了那个关于“品味”的问题，真的，我觉得很多人都认为这太简单了，不可能管用。所以他们尝试了更复杂的方法，结果却更难奏效。那些复杂方法可能仍有潜力，但先把简单的东西做好其实非常重要。所以我认为，人们最初尝试的 RL 策略几乎过于雄心勃勃了。我认为 LLM 的质量也存在一个最低门槛。你需要模型能够解决真正有难度的编程和数学问题，然后才能形成这样的反馈循环：这些你做对了，那些你做错了，对吧？另外，我觉得还有一点可能不太直观，那就是那些由 token 组成的推理链。很长一段时间里，人们认为需要做一些巧妙的设计才能让模型具备长期连贯性。你得记住，两年前，8000 token 对语言模型来说还不算长上下文；两年半前，8000 token 算是长的。而现在模型会用 8000 甚至 30000 个 token 来对某个问题进行推理，对吧？所以这里有一个真正的范式转变：语言模型的底层先验已经足够聪明，可以解决相当难的问题；它们在更长上下文中的连贯性实际上比我们预想的要好。而且，这种用长链 token 进行推理的能力，在正确的反馈信号下可以自然涌现。嗯。我觉得这有点反直觉。大多数人一开始大概不会预料到推理能力会自然涌现。当时很多人认为，你必须给它构建结构，必须提供推理策略，必须搭建各种东西，比如提示它、引导它，等等。结果事实证明，不，你给它数学题，告诉它做对还是做错，模型就会学会。这归根结底是一个关于规模和搜索的教训：就是让模型去搜索，给它足够的算力去运行实验，模型最终会找出一套非常有效且合理的策略。这就是现在正在发生的事，对吧？各大实验室基本上都在给 RL 投入更多算力。是的。他们看到的是——
基础模型质量的最低门槛、RL 所需的最低算力、对长期连贯能力的一种信任，以及做那些简单有效的事。这些听起来都很显然，但实际上有时候有点反直觉。嗯，你刚才提到了 AGI 这个词。那么你个人的观点是，越来越强大的 LLM 加上 RL，就能让我们到达那里吗？是的，我认为这已经足够了。当然，附带一个显而易见的问题：那个“那里”究竟意味着什么，以及今天 AGI 又意味着什么。这可以用几种定义来衡量。我觉得一个实用的定义是：在大多数需要面对计算机完成的任务上，比大多数人类做得更好。因为我认为，这对世界来说是一个非常重要的时刻——我们会意识到，智力劳动可以通过这类算法来解决。而这将彻底改变世界。我认为还有其他更严格的标准可以使用。其中之一是——
更严格？你刚才那个已经很强了。抱歉，抱歉，我是说更难达到。对，对。因为你可能做到了这一点，但它仍然不像人类那样高效地学习，对吧？我们能从极少数例子中学习和泛化。我们拥有极高的所谓 sample efficiency。而 AI 模型需要多出数十万倍的经验——基本上相当于数十万个人生——才能学会我们学会的东西。不过，在这成千上万个人生中，它们确实能以极高的精确度掌握我们所掌握的技能。我认为过去一年最重要的变化之一是，RL 终于让我们拥有了一种算法，可以把反馈循环转化为模型，使其在特定狭窄领域至少不逊色于最优秀的人类。你已经在数学和竞赛编程这两个最适用该方法的领域看到了这一点——模型正迅速成为极其出色的竞赛数学家和竞赛程序员，对吧？竞赛编程和数学本身并没有什么本质不同。只是它们非常适合用 RL。而任何其他领域——重要的是，它们证明了模型并不存在智力上限，对吧？只要给对了反馈循环，它们就能进行非常困难的推理。因此我们认为，同样的方法可以推广到人类几乎所有智力活动领域。只要给对了反馈循环，这些模型就会进步到足以在特定领域至少媲美最优秀的人类。然后，一旦你拥有某个至少和最优秀人类一样强的系统，你就可以让一千个它并行运行，或者把速度提高一百倍，那么仅仅在这个条件下，你就会得到某个比任何单个人类都聪明得多的东西。而这还完全撇开了“是否可能造出比人类更聪明的东西”这个问题。这看起来完全是有可能的，对吧？大脑归根结底是一台生物计算机。似乎有可能造出一台更好的。但这样做的影响相当惊人，对吧？也就是说，在未来两三年里，只要有合适的反馈循环，有正确的拼劲和方法，我们认为整个 AI 行业都有望创造出某种系统，它在大多数需要面对计算机完成的任务上至少具备大多数人类的能力，当然还有一些它做不到的事情。但世界将会因此改变。你怎么看那种反对观点？比如 Rich Sutton 或 Yann LeCun 似乎在说需要不同的方法，或者只靠 RL。你怎么看待这场争论？嗯。我认为，我们的模型确实远不如人类学得高效，对吧？它们需要上千个人生才能学会。但我觉得这没问题，因为它们可以同时过这上千个人生——无论是在模拟环境中，还是在数千家公司里工作，等等。也许我可以把这两个论点分开来看。一个是说 transformer 架构本身不够用。我不这么认为。我认为我们尚未发现任何 transformer 在拥有足够数据和算力的情况下无法建模的东西。我认为 RL 作为一种目标函数是非常强大的。Rich Sutton 其实非常推崇把 RL 作为目标，他只是觉得我们在预训练阶段编码了太多先验知识，这种做法并不能充分表征世界。对，它无法充分表征世界。我认为目前的证据表明，我们的现有方法尚未遇到哪个问题领域是在足够投入后仍无法攻克的。 嗯，能让我收回这些话的情况是：如果我们对某个领域投入了大量精力，却毫无进展。比如 benchmark 完全没有提升，整整一年我们都无法取得任何进步。那我就会说，好吧，这里确实存在某种根本性限制。对。但实际上，我一直在看到的是：每当我们设计出一个衡量我们关心之事的 benchmark，相关进展都非常迅速。我觉得这一点值得大声疾呼：各位，任何我们能够测量的东西似乎都在飞速进步。两三年后会发展到什么程度？我不敢说。但我认为，值得把这一点纳入各自的世界观中——我们有相当大的机会能得到某种 AGI。所以你认为人们并没有意识到？这总是很有趣，对吧？因为你看过去三四个月网上的言论，到处都是“我们已经到达瓶颈期”的论调。但你基本上在说相反的观点，对吧？我们正处于指数级曲线上，而很多人没有意识到这一点。完全正确。我是说，过去三年里，每个月都有人说我们遇到了瓶颈。但如果你看看这三年来的进展，那是惊人的。还有一个让我觉得我们离瓶颈远得很的原因，是我观察这些模型的生产流程。每个环节都有巨大的改进空间。那是一条原始的 pipeline，靠胶带、拼劲、苦干和熬夜勉强维系。天哪，它实际上……
实际上，我记得几个月前我和几个朋友去驾帆船。那艘船设计得太精妙了，显然是数千年——或者说数百年——人类设计成果与心血积累的产物。我当时就想，哇，这就是身处大量人类努力结晶之中的感觉，对吧？如今最顶尖的帆船设计确实很难被超越。但当我看 LLM 的 training pipeline 时，它不过是两年半的拼劲、临时抱佛脚和绝望中的努力。每个环节都有巨大的成长空间。首先，Sonnet 4.5 被描述为世界上最好的编程模型，但它似乎在许多其他领域也表现出色，比如经济学研究和金融。所以它已经……
对，有一件事让我特别兴奋，就是 OpenAI 发布的那个 GDP eval。我是说，Sonnet 4.5 刚刚发布，所以还没加入测试。但 4.1 Opus 在那个 eval 上是领先的模型。我认为这是一个非常有趣且非常好的 eval，因为它展示了涵盖经济各个领域的广泛任务。这是一个横跨经济各领域的 eval，对吧？包括制造业等等。基本上，他们召集了一批专家来描述怎样才算成功。对。而现在，模型将不仅仅在编程或某些有限任务上被衡量，而是在所有领域被衡量。这么说公平吗？嗯，我一直希望有人能做这件事。你知道，以美国劳工统计局为例，我认为对政策而言最重要的参考就是：拿美国劳工统计局的数据，把那里所有的职业都列出来，拆解成具体任务，看看模型是否能完成这些任务，并随着时间的推移衡量进展，对吧？这显然会是一个不完美的衡量标准。我们可能在做 GDP 评估时达到超越人类的水平，但从经济角度看这不会改变什么，因为真正关键的是所有衔接环节，还有你知道的，上下文，实际上任务本身也可能不具代表性。但话说回来，我们会找到更好的方法来衡量这些难点，而且你知道，我们会不断推动基准测试。我一直希望有人能做这件事。我真的很高兴他们做了。我真的很高兴我们的模型具备通用性，而且你知道，总体上很强，基本上在所有领域都名列前茅。我认为政策制定者真的应该关注这一点，并将其扩展，真的应该努力投入资源去弄清楚我们是否正在朝着我一直声称的方向前进，对吧？这是可以衡量的。是的。嗯，而且我们确实应该这样做。是的。那么，就最后这个主题收个尾吧。嗯，太棒了，一切都非常令人兴奋。呃，我们该怎么做？如何为这个似乎即将到来的世界做好准备？是的。我认为最具可操作性的建议是：持续规划一个你作为个体拥有更大影响力的世界。对吧？现在，我可以使用两个编程 agent 来完成以前两倍的工作量。如果编程 agent 如我所言在一两年内继续进步，你将能够基本上管理一个为你全天候工作的团队。我认为，我们应该预期在未来几年内，个体在数字领域的影响力将大幅提升。嗯，到那时，许多极其重要的问题将得到解决。比如我们的世界在很多方面都非常不完美。嗯，人们仍然生活在不稳定的贫困中，你知道，健康和医学问题尚未解决，住房问题也你知道，完全没有解决。这个世界本可以在许多不同的方面好上百万倍。而我希望的是，人们能够利用——最初是模型赋予我们对数字世界的影响力，然后希望是通过机器人技术让模型赋予我们对物理世界的影响力——来极大地改善它。嗯，这正在发生吗？机器人技术，这似乎是另一个关键主题，但另一方面——实际上用“手”这个词来说——人们似乎仍在努力让手动起来，对吧。以正确的方式。所以，物理机制似乎才是限制因素。是的，有个东西叫 Moravec's paradox，对吧？也就是说，那些我们觉得很轻松的事，比如操作、抓取物体，对 AI 来说真的很难；而那些我们觉得很难的事，比如通过数学问题进行推理，却可能很容易。呃，实际上我认为 Moravec's paradox 有点站不住脚，我认为这主要是一个数据可得性的问题，还有你知道的，RL signal 之类的。嗯，而且我认为一个有趣的关注点是，如果你看看机器人的 locomotion——也就是机器人四处走动和保持平衡的能力。看看 Unitree 机器人的视频。现在和两年前的差别太疯狂了。这些东西非常敏捷。有一段视频，我想是有人踢倒了一个，它真的像《黑客帝国》里那样做了一个起身动作，太疯狂了。嗯，这说明 locomotion 是一个很容易获取的 RL signal。说实话，现在用基本的 RL，locomotion 基本上已经解决了。嗯，manipulation 要难一些。但有几件事让我觉得机器人技术将会成功。首先，今年我看到机器人实验室取得了惊人的进步。真的，它们已经能够做到相当有趣的、你知道的，基本的物理任务了。其次是存在一种巨大的生成式验证器差距。嗯，也就是说，改进我们的模型之所以困难，原因之一是我们不断需要找到——你知道的——能在我们想改进的方面击败模型的人。但在机器人领域，我们正在构建非常聪明的通用模型。所以实际上可以这样设计：如果我说，“嘿，把红色方块堆到蓝色方块上面”，然后我们可以问语言模型，“它是否按要求堆好了方块？”如果是，就给它奖励；如果不是，就不给。嗯，所以你可以利用这种生成式验证器差距来给机器人提供反馈。嗯，最后，长期以来在机器人领域，人们认为必须解决长期连贯性和规划问题。而语言模型也让这件事变得更容易了。它们能把任务分解成多个步骤。所以所有机器人实验室现在都非常专注于开发出色的 motor policy，而且它们进展惊人。我认为这主要是一个数据和反馈循环的问题。好了，各位。这次对话非常精彩。我现在还能想到另外 40 个问题想问你，但你的时间已经非常慷慨了。非常感谢。这次访谈太棒了。真的非常感谢。这是我的荣幸。非常感谢你。嗨，我是 Matt Turk。感谢收听本期 MAD podcast。如果你喜欢本期节目，如果你还没有订阅，希望你能考虑订阅，或者在你观看或收听本期节目的平台上留下正面评价或评论，我们将不胜感激。这真的有助于我们打造播客并邀请到优秀的嘉宾。谢谢，下期再见。