Oriel Vignal 与 Nome Shazir 和 Jeff Dean 共同领导 Gemini 项目。他在 AI 领域有着非凡的职业生涯，过去十年间开创了深度学习领域的诸多突破。在 Google IO 之后能与他坐下来对谈，实在是一件非常愉快的事。如果你一直在关注 Google IO，他们基本上在 AI 的众多有趣领域发布了一系列产品。因此，Oriel 和我逐一讨论了这些产品。我们探讨了多模态模型要进一步发展还需要什么，以及什么能让这些 world models 真正变得可用。我们讨论了内存的增加、内存的重要性，以及未来几年这方面的进展将如何呈现为推理能力，还有 Oreal 认为的前进方向是什么。我们也谈到了当下 scaffolding 的现状、大家在构建什么，以及 Oriel 认为什么会持续存在。能把所有创始人和投资者都在思考的关键问题直接抛给 Oriel，这非常有趣。我相信大家会很喜欢这次对话。话不多说，有请 Oriel。L'Oreal，非常感谢你来参加播客。是的，很高兴来到这里。谢谢，Jacob。是啊，在 IO 结束后的第二天邀请到你，非常令人兴奋。我知道最近很忙，但我对这次对话期待已久，因为你是最直接塑造当今模型前沿的人物之一，你在 Google 的工作至关重要。而且显然，在昨天 IO 的发布中，它们几乎涵盖了人们在这个领域思考的所有主题，涉及这些产品和模型的发展方向。因此，我觉得我们今天的目标就是探讨这些发布背后的研究。你知道，这一切将走向何方，RL 和后训练的未来路径，以及你对整个领域的判断。我想先从 world models 谈起，因为我觉得这是昨天发布中非常令人印象深刻的一部分，而且也是 Google 与业内许多其他公司相当不同的一个领域。你们昨天在 Omni 中发布了这个令人印象深刻的 world model，而且我认为 Demis 多次谈到将 world models 视为通往 AGI 的路径。这很有意思，因为其他实验室似乎更关注代码，以及如何实现递归自我改进。所以我想知道这种描述是否公允，以及为什么你认为你和 Google 团队会相对独特地聚焦于 world models 这个领域。首先，我认为编码或者说自我改进的角度其实属于稍微不同的层面，对吧？所以你完全可以相信这些模型能够重新编程并自我改进，这也是我目前实际上在积极研究的方向。但它们所改进的对象——这个模型本身——无论是多模态模型，还是更接近我们所说的 world model，甚至如何定义它都从一开始就带有些抽象性。而且在 Gemini 项目真正启动之前很久，我们就已经在研究不仅仅是语言，还包括理解视觉世界，以及在视觉、视频等语境下联合建模语言。所以我认为这一部分一直是 Gemini 的核心，也是我们之前研究的核心。也许可以这样概括：语言显然承载了大量关于世界的集体信息，所以这显然带来了巨大的回报。我们某种程度上将所有已书写和正在书写的知识蒸馏到了这些权重中。我们把所有内容都放到互联网上，这确实很方便。 是的，完全正确。而且现在用户也参与其中，对吧？显然存在一种飞轮效应，但同时，视频和图像中也蕴含大量知识。我想说这方面的进展虽然存在，但比较温和。我觉得可能会有一个重大时刻：如果你浏览了所有视频和图像，你会获得大量知识，而这些内容当然也已经用在了我们的训练 mixture 中，但如何让这些知识以某种方式为语言组件增添价值和效率？我认为我们已经看到了从一种模态到另一种模态的建设性迁移学习，我们看到了这种现象，也看到了泛化能力。但或许被我称为“视频和图像的 GPT 时刻”的东西，我不确定我们是否真正已经看到。对于视频和图像的“GPT 时刻”会是什么样的，你有没有什么想法？你直觉上觉得那个时刻还没有到来。有的。目前我们训练所有模态，将它们混合在一起，并持续优化配方。Omni 是观察这一进展的很好例证：我们不仅输入视频和图像，在长上下文理解等方面也看到了惊人的能力。而且我们现在不仅能够输出，还能通过语言与之进行非常自然的交互，编辑它，将各种模态以几乎神奇的方式结合起来。所以这种进展绝对存在。但也许深度学习的梦想之一——甚至可能是在大语言模型出现之前的最初梦想——是：我能否仅用所有图像数据来训练，不使用任何文本，作为一项艰巨的挑战，仍然从该模态或这组模态以及海量数据中提取出全部含义和细微差别？对吧？那么我们能否用有史以来所有制作过的视频和图像来训练，并达到与语言模型通过语言所达到的理解水平相当的程度——尽管可能略显肤浅，且在因果关系等方面缺少一些环节，比如 Demis 经常谈到的那些——那个时刻，我是否见过？大概没有。而且最有可能的是，我们拥有最先进或之一最先进的多模态配方，混合了所有东西，但那种纯粹的迁移我认为是过去十多年机器学习的核心追求之一。我的意思是，在你可以谈论的范围内，我很好奇你能否给我们的听众一些背景：围绕这个问题还有哪些关键难题需要解决？或者说，你正在努力攻克哪些类型的问题，以进一步推动这一领域的发展？ 很难描述具体的解决方案空间，但思路是——你可以想象通过观察或从所有视频数据中学习，然后以某种方式推导出引力规则，这是一个经常被提到的例子，对吧？比如，你如何仅基于图像精确描述世界的运作方式？所以问题在于，在没有显式语言链接的情况下，将语言或这些概念（我们有时这么称呼）与你图像中看到的内容关联起来，这是相当棘手的，对吧？因此，你最终不得不尝试显式地创建数据集，让图像、视频与某种语言（比如标签或描述等）之间存在某种相关性或连接。但当然，这样一来你能使用的数据量就会少得多，因为我们并没有清晰地描述和转录世界上的每一媒体内容。所以我认为，以最纯粹的形式提取这些概念，而不仅仅是通过我们关联到词语和所见内容的某种语言，将会非常强大。关于离散表示和表征学习，已经有很多早期研究，我的意思是，这大概是还处于相当研究阶段的事项之一。所以这并不是我们能够单纯通过 scale up 实现的东西，但我认为这或许是——我不确定它是否真的必要。我是说，无论我们是否认同这一点，那是另一个问题；但如果它被解锁，影响将是巨大的。你提到了 world model 这个词，它被到处滥用，而且显然，Omni 在某种程度上被定位成一个 world model。我很好奇你怎么看这种分类——显然你们已经有很好的视频模型有一段时间了——是什么让 Omni 像一个 world model？它与你们一直在做的那类视频生成模型有什么不同？我猜 world model 的一个纯粹层面应该是 representation learning，对吧？所以你可以想象，我们把视频这类模态——也就是一系列图像，或者仅仅是图像——压缩成一套概念，以及其中的运动、物体等等。这就是所谓的 representation learning，它以一种非常紧凑的方式对世界建模，把可能不相关的信息压缩掉。所以这可能是更经典意义上的定义，但可能也不完全是我们与 Omni 交互时所说的、所见的或所感受到的意思。你在 Omni 上看到的更多在于：你能够真正改变视频的行为方式，或者你让一张初始图像动起来后得到的视频类型。你可以明确要求所有动作，甚至像“向前移动”这样的具体行为，而且你能看到它被精确地模拟出来。因此，这更像是 world model 本身充当了世界的渲染器，你只需要用语言就能改变它。而除了作为一个好玩的产品之外——当然我们喜欢生成各种截然不同的运动或情境，而且生成得很规整——它也可能在意义上增加一个模拟维度，让我们得以在采取行动之前进行预测。当然，这类 3D 或视频 world model 的明显应用显然包括自动驾驶汽车或机器人。这似乎与机器人学高度相关，感觉大家仍在试图弄清楚模拟数据与 teleop 数据、egocentric 视频数据之间的正确配比。但随着这些模拟变得越来越好，把它纳入数据组合似乎越来越有吸引力。我很好奇，这项工作是否直接与你们正在做的更广泛的机器人学工作相交叉？以及你怎么看要把机器人动作附加到这类模型上究竟需要什么？这里也存在一种很妙的联系。因为当然，如果我们获取更多由机器人采集的数据——即便这显然更昂贵或更耗时，但我们确实在投入——这些数据可以进入模型，增强 world model 本身的能力。而另一个方向，可能也是你想问的，就是：现在我们可以进行模拟，可以创造大量不同的场景，让这些机器人，或者不管什么一维三维群体等等，在其中训练，而无需承担物理世界的成本和时间延迟。所以，要让后者更好地发挥作用，我的意思是，这仍然是一个非常开放的问题，迁移方面也存在着各种问题。但随着这些模型变得越来越强大，显然会有一个拐点，到了那个点事情就开始值得做了，我们可能会看到机器人学的加速。事实上，我们在硬件领域确实看到了大量投资，所以那边正在加速发展。但对于 world model 要变得有用，至少据我所知——当然我有机会与这些系统交互并观察它们——哪怕只是抓取一个模型的精度，这是我们人类视为理所当然的，那种视觉上的、确切的手感，这是我们目前显然甚至没有数据对应的模态，还有精确的力、物体将如何移动，这些都需要非常非常高的准确度。所以这就是差距所在，也许仍然需要一些创造力和研究，以及多年来在机器人学上的大量投入。但这是有前景的，在某种程度上，也许不是在精确的运动控制层面，而是在规划和粗略动作层面，我们将开始看到这些模型如何加速我们在机器人学探索上的进展。这些模型很大一部分在于通过消费大量视频数据来隐式地学习物理。所以我想你提到过重力是人们寻找的典型例子。你身处这些模型的一线，有没有什么直觉，觉得这在 world model 中什么时候会成为一个已解决的问题？是的，这确实是个好问题。你让我想到了评估，对吧？就是如果你训练了一个非常好的视频模型，你要怎么评估？对。你怎么评估模型中的物理？这确实是个好问题。你可以想象，问题在于一旦你加入了语言，那些知识就突然存在于 weights 之中了。所以如果你问关于重力的基础问题，它当然能回答，因为它在网上读到过相关解释等等。因此，你需要以某种方式把 world model 中可能存在也可能不存在的“重力”概念，连接并解码成一种解释，这种解释要能令人满意——也许最初是一些基础解释，后来甚至能推导出方程式等等。这就是你可以构建 eval 的方式。据我所知，我们还没有从这个角度思考过。当然，早期确实有很多关于 unsupervised machine translation 的研究，你会尝试翻译一种在训练中从未见过的语言，而且你可以对齐 representation。所以也许有一些思路是：你有一个能说话的语言模型，或者你可以从中解码；你有一个 world model，它能产生这种概念层面的理解；然后把两者对齐。有一些论文，我是说这些都是老论文了，我记得 Stefan Gaus 等人有一篇 2014 年的论文。然后你可以尝试开始解码那个，并将其转化为 eval，这看起来似乎是一个微不足道的步骤。但同样，这些从应用的角度来看需要是有意义的。所以，归根结底你也可以说，我们有了一个世界模型，能不能从它的表征中解码出、或者甚至诱导出复杂系统中的运动，举个例子，对吧？那会是另一种间接评估。想法很多，但它们确实始终都很重要。转换一下话题，聊聊你们昨天发布的其他东西。我当然想谈谈 agent。你们在 Spark 里发布了一些非常有趣的消费级 agent，对吧，作为 IO 的一部分。我觉得这非常有趣，因为至少从外部来看，它像是你们 2024 年在 Project Mariner 以及这类计算机使用工作中探索过的东西的一个大幅改进版本。所以能力上确实感觉有了真正的阶跃变化。我很想听你随便聊聊，促成这一点的研究突破是什么，以及人们应该怎么看待这些 agent 如今能做什么、不能做什么。我们知道那将是一种非常重要的模态——行动，对吧，对一台数字计算机执行操作并改变其状态。然后我认为，随着你不断进化、让模型变得更好，你会逐渐意识到——你把模型做得非常好之后，就会专注于围绕模型构建系统，然后尽可能联合优化系统和模型，如此往复。所以，就能力上的 delta 或提升而言，这主要关乎发布节奏的排序。而且在某种意义上，模型能力需要达到某个水平，你才能去设想下一阶段的能力是什么，模型接下来可能会做什么。是的。我想消费者场景中有趣的一点是，人们想用它做的事情实在太多了。所以我想知道，到目前为止，以及随着时间的推移，这种模型加系统的工作你怎么看——它对于人们想做的各类子问题来说有多定制化？还是说极其通用，也就是说你只是在优化一套系统和模型的组合，它能覆盖你在 Spark 里几乎想做的所有事？总会存在一个先后顺序：先专注于某些感觉可控且已经非常有用的东西。你看 Spark，它能访问所需的信息，从而协助你安排日程、规划一天，甚至思考该如何应对不同问题，因为它拥有非常丰富的上下文。所以，把系统围绕你非常关心的某些东西做得稍微窄一点是有用的。但如果你回顾机器学习和深度学习的历史，我们构建的组件从来都是通用的。而且有一个很重要的假设——其实和世界模型那个观点也相关——那就是联合训练所有数据一定比只狭隘地聚焦单一领域更好。所以即使从建模角度，这一点也非常明确。即使从系统角度也是如此：先做一个相当通用的系统，然后基于你如何指示它或如何与它交互，它自然会进入这样一种状态——“这个用户想做这件事，但我有这些能力，让我想想该用哪些”——训练时不一定是为了这个而构建，而是构建通用的东西，然后专业化是通过一层智能来实现的，对吧，通过模型和系统的通用性。我觉得这已经相当明显了。然后在实践中，有时为了限制范围或提升效率，做专业化仍然有意义。但从专业化到通用化，我们看到它一直在发生，甚至从架构层面也是如此——transformer 最初只是机器翻译的神经网络，现在它什么都做，从 omni 到控制你的电脑。所以我觉得这是我预期的方向。多年来你一直对 bitter lesson 直言不讳。我很好奇，当你放眼整个领域，有没有哪些地方你觉得目前大家并没有遵循它？或者基本上，哪些地方你看到了某种结构或巧妙的脚手架，而你认为 scale 最终会把它们淘汰掉？是的，我觉得有。有一个让我很兴奋的领域，已经有一些相关研究发表了——从长远来看，我们现在构建的系统，有时候是通过在模型周围编写复杂的脚手架来实现的，比如 multi-agent、sub-agent、任务委派、长时间运行等，这个系统本身就是一段代码，而最终模型本身可以实时写出它，对吧？所以你可以想象，不一定非要有一个非常通用的系统，实际上甚至可能不需要系统，模型自己就能根据被问到的任务实时写出这些。就像围绕一组问题，几乎是最 token 高效、输出质量最高的一套 sub-agent 或其他任何东西。是的，完全正确。我的意思是，我们在过去一年半左右看到的一种范式转变中也观察到了这一点，当然就是 reasoning models——它们可以在 token 空间中长时间推理，但最终更重要的是，你是否应该推理，应该推理多久，基于用户问题的复杂度增加那种智能层级，会让它更高效。所以我觉得，围绕这些系统你所做的——会有某种程度，我不确定是会从零开始写出来，还是通过某种自动化——让它能够智能地为合适的任务创建合适的脚手架。在 agent 这边，我觉得所有人都在尝试和实验构建这种长时间运行的 agent，显然他们会遇到各种各样的问题，试图让它们在数百个步骤中保持稳定。你如何看待要实现更高 agent 可靠性所需要的东西？我认为，这些问题最明显的答案某种程度上是同时改进模型周围的脚手架。如果你想想如何训练神经网络，它是在某些任务分布、模态分布，或者如何把不同词汇与视频等关联起来的数据上训练的，对吧？所有这些都关乎你如何训练，或者 pre-train 或 post-train 这些权重。所以如果你认为存在一种新型工作或模态，需要这些长时间运行的系统，它们必须以某种方式从非常长的上下文中学习——而这也是我们一直在创新并推动的，1.5 在某种程度上就是我们的长上下文突破——那么很明显，模型也会跟上，以满足用户和未来主义的使用场景。而这正是研究人员面临的挑战，对吧？预测什么是可能的，然后不仅专注于构建一个对此具有鲁棒性的系统，还要关注当你塞进所有这些上下文、做所有这些疯狂操作时，权重会如何变得更“高兴”或没那么“不高兴”，而不是仅仅寄希望于从诱导该行为的 prompt 中泛化出来。每个人都在试图弄清楚的一个模式是记忆，对吧？以及如何在这些 agent 之间解决这个问题。你对此有什么直觉吗？你认为它最终会在哪里得到解决？嗯，我的意思是，记忆非常迷人。我想从很早的时候起，对吧？你可以这样理解，我想我们最初对此进行定性，这可能实际上是因为 Demis 的影响——他的博士研究的是大脑中的记忆系统，对吧？但你知道，关于记忆有几种思考方式，不过我喜欢的一种更简单的分类是，你知道，就是工作记忆——那些因为我们正在做或正在谈论的事情而非常当下的东西；然后是所谓的情景记忆，它更像是一种你可以访问的检索系统，可能没那么精确，但当然上下文更长，或者潜在地包含了你或我愿意整体性记住的所有上下文，连同我们积累的所有经验。当然，记忆不只有这两个层级，但用这种层级来思考记忆是很有用的——计算机也有类似的结构，比如 L1、L2 缓存等等。所以，说到模型，我认为工作记忆，因为 transformer 等等的存在，我们有一种非常强大的机制来利用这种记忆，拥有成百上千甚至数百万的 token 供我们调用来修改那段记忆，然后用它做出惊人的事情。证明复杂的定理，你知道，金牌级别的数学等等。而我认为现在我看到很多势头的地方在于，我们如何将之前在不同交互中发生的事情，或者一段可能比工作记忆能容纳的还要长的交互过程中发生的事情，进行巩固。我们如何存储这些知识，你知道，通过不同的实验，我想现在标准的名称，就是我们所说的 skills，但它比那更广义——因为这是一个 agent，我们确实可以访问一个记忆系统，那就是计算机本身。所以你可以开始考虑把你的想法写入文件，组织到目录或文件夹中，无论你是与同一个用户进行多次交互，还是一次非常长的交互。所以目前这种机制已经相当不错了，但同样，我认为模型的权重还没有完全跟上，这就是将这种知识库加入文件系统，或任何可存储、可修改、可通过某种基本检索机制读取的格式。所以这已经非常强大了，但我觉得还有很多潜力未被挖掘。我想我们很多人都把这称为一种 continual learning。但我认为我希望它起作用的机制，或者说它显然会越来越好地运作的机制，是这种文件系统式的、non-parametric 的方式。这比把这些知识整合回权重中要方便一些，因为即使从实际角度来看，我们试图规模化地 serve 一个模型。如果必须为不同记忆的用户服务同一个模型，那真的会非常痛苦。所以即使从实际角度出发，我认为我们会看到更好的评估方式，以及这些模型在交互过程中积累知识的方式，我认为这在某种程度上也是范式转变，类似于大约一年半前我们看到的推理能力的发展。那这意味着每个人都会拥有带有各自独立文件系统的模型，还是你认为随着时间推移，人们会拥有基于其所作所为而权重不同的模型？嗯，就像我说的，权重不同会是一个挑战。是的。很难 serve。是的，我的意思是，如果这是最好的方式，那我们总会找到办法的，对吧？通过硬件来实现——当然我们在硬件设计上也投入了很多，这会让你能拥有更个性化的权重，可以这么说。但至少，你当然会拥有属于自己的知识库，也许是只属于你的。在 LLM 领域，你已经看到过去这几年里有很多这样的例子实现了。然后也许还有另一层知识，对某个给定模型的所有用户来说更为共通，你可以想象模型能够访问它，并在不触及权重的情况下丰富或增强自身能力。所以这非常有趣，如果能实现这一点就太棒了。我觉得 continual learning 一直是热门话题，大家都在谈论它。而且你也看到了，现在有一些很有趣的、引人注目的例子，就是一些人从 OpenAI 或其他地方出来，说，你看，当然，你可以继续扩展我们现在在做的事情。我想没人否认那些 scaling law 的存在，但他们说，感觉你需要几乎一个全新的研究赌注，才能实现真正的 continual learning。而且也许有必要在持续改进这些核心 LLM 的路径之外去追求它。我很好奇你如何看待这种动态，以及你对这件事的反思。我很早就在 Google Brain，然后在 2016 年加入了 DeepMind。目前我认为，你知道，这既是挑战也是机遇——你显然希望研究一些问题，这些问题可能不适合那种“未来三个月就要进入下一轮训练”的节奏。但同时，这也不能与 LLM 发展的最前沿脱节。我的意思是，我们在改进 Gemini，看到 Flash 的性能超过了仅仅几个月前的 Pro，这太迷人了，而且这种情况一直在发生。所以，保持在能力最前沿——这可能会使能或限制某些研究——同时又要保护研究空间，当然这不再是多年周期的事了，一切都发展得很快。但将这两者结合起来，正是构建这些组织的魔力所在，我们所有人当然都有不同的角度，可以去思考如何弥合这两者，发现机会，这正是需要做的，对吧？我的意思是，无法完全洞察一切，因为组织太大了，但要有一些直觉，然后能够急切地吸纳这些想法，有时仅仅是因为感觉这样做是对的。所以这正是定义这种级别组织的特质，对吧？从研究的角度来看。所以我可以看到，从机器人领域的投资，到当然 LLM 的顶峰，再到那些已经落地或终将落地的研究，对吧？但这很有挑战性。资源是有限的。所以这是一个有趣的权衡，而且并不总是能做对。我的意思是，这是一个迷人的研究角度，不仅仅是什么想法能进入下一篇论文或下一个模型，而是如何组织这整个组织。这很迷人，对于身处你这样角色的人来说，这感觉是最有趣的问题之一，因为你很难不对今天能用这些模型推进的这么多事情感到兴奋，而且显然正在发生很多事情。我觉得，你看，即使是像 OpenAI 这样的组织，他们也在摇摆不定：一边是，我们应该去做，AI 方面有太多低垂果实和事情要做；另一边是现在的这种更聚焦的时刻，就是，天哪，我们真的必须把代码做好，追上 Claude Code。我想知道你是如何看待这种权衡的：是专注于一件事、让所有人齐心协力朝一个方向努力，还是覆盖更广的领域，而这些方向其实都非常有意思。你知道，Google 所处的位置很独特，有几个原因。首先，我们目前确实在 Gemini 上覆盖了很大的面积，对吧？它实际上在驱动一切。但我们有一个优势，那就是组织中的其他部门已经完全接受了 LLM 时代。所以，从某种角度看，他们会采用模型，然后可能会基于它做一些事。但如果你觉得那不是推进前沿能力的下一步方向，那你可以放心，会有一支非常优秀的团队把模型带到它该去的地方。同时，我们在硬件采购方面有稳定性，而且显然在资本投入方面也是如此，因为我们在收入流等方面是非常端到端的。所以，在某些研究领域，你或许可以把冒险推得更远一点，当然这也需要有品位地去做。因此，你拥有的这种布局，它不算专注，但因为 Google 的组织方式，它是可扩展的，而且你仍然可以投入创新，而这正是我们一直以来最核心的东西。我是说，如果看看 Brain 和 DeepMind 这两个我曾经参与的组织，现在合称 Google DeepMind，我很欣赏这一点，因为我显然在不同时间段都待过两者。我认为不断创新就写在我们的 DNA 里。但与此同时，我认为 Gemini 创造了一种专注且统一的力量，做到这一点非常令人着迷。我和 Jeff 相识多年，还曾一起出游，纯粹是为了好玩，这非常有帮助，对吧？所以我认为那段时间非常特别，我认为核心就是 Gemini 这种核心建模工作，非常专注于前沿能力，然后拥有这些输入和输出，这是一种相当合理的方式，既能保持专注，又能利用一定程度的探索——这种探索可能仍然需要，也可能不需要。我是说，我认为我们需要 world models 吗？如果我们能让它奏效，那肯定需要。如果我们做不到，也许也没关系，但把赌注下对地方也是好事。说到模型方面，也许我们换个话题，聊聊 Gemini 模型以及未来的道路。你之前说过 post training 在很大程度上仍是一片 green field。我觉得我们目前显然已经看到，post training 结合 RL 在编程和数学上取得了惊人进展。就在我们录制这期播客的几小时前，好像刚有一个新的数学问题被解决了。大家都在试图弄清楚，而我很好奇你的直觉是什么——下一批 RL 真正能起飞的领域具备什么特征。感觉我们在编程和数学方面正走在一条疯狂的指数级道路上，我很好奇你对于其他哪些领域也适合应用 RL 有什么直觉。是的，这是个好问题。我觉得必须保持谦逊，因为这些模型在很多方面已经非常厉害了。所以很难说——
厉害得不可思议。对啊，完全不是说这根本不行。我是说，几乎只要最基础的提示，再加上一些巧妙的提示工程，也许搭建一个合适的系统，就能做出很多惊人的事情。至少在我称之为数字世界的地方，如果你愿意，可以说是 digital AGI，都非常令人印象深刻，对吧？所以，当我说 post training 是 green field 时，我觉得这与其说是关于某种能力——我觉得这种能力离"这相当智能、相当先进"的可接受水平还很远——不如说是更机制性地看待，其他一些利用模仿学习或 pre-training 加 post-training 的努力，在 post training 上投入了多少计算资源，而相比之下，当今模型目前使用的量相对较小。我是说，原因其实比较清楚，而且不确定是否容易解决，但事实是，即使在一个非常窄的领域，比如围棋，当你在强化学习中下棋时，你现在有一个系统能下棋，它走了几步，而仅仅走了几步之后，那个局面、那盘棋就是独一无二的了，你从未见过那种特定的配置。所以随着你下棋，环境的复杂性让训练数据免费变得无限，对吧？我是说你走了几步，现在就处于一个新局面，你可以从中学习，你下得越多，在 RL 算法上投入的时间越多，你获得的知识就越多。这就是我们在游戏强化学习时代看到的情况。而在 LLM 中，我们受限于数据，无限复杂性的来源并不那么清楚。我是说有一些想法，但我认为破解这个配方可能会很重要，至少从算法的优美性来说。如果知道过去这招是怎么奏效的，现在又在其他 LLM 上看到它奏效，那会令人满意得多。但这是必需的吗？能力还没达到吗？这很难说。不过既然你问的是哪些能力，我认为就模型所做的事而言，最吸引我的是那些我称之为 meta capabilities 的东西。不是数学或编程，而是更像是智能的特征或属性是什么，以及这些模型能不能做到。对吧？所以实际上，持续学习或非常高效地从经验中学习的能力会是其中之一，也就是 in-context learning，我们以前称之为 meta-learning，随便怎么叫。这是一种我可以某种程度上衡量或感受到的能力，可能目前还不是特别好。比如，当然，instruction following 可以说是一种终极能力，因为如果我问一个模型或 AI，它要么执行那个指令，要么不执行，对吧？但我是说，我试图关注的是那些不那么局限于某个特定领域或垂直领域的能力，而更像是"这就是智能行为"。所以，学习和适应的能力，而不是成为职业棋手或 IMO 金牌得主之类的能力，才是我在看到新发布的模型，以及每次我们训练出新模型接触到之后，最着迷的东西。你有没有一个常用的方法来测试这个？我喜欢用游戏。所以我通常会在上下文中定义一种新游戏，对吧？或者你知道，这是一种相当经典的做法。当然，你需要小心，因为如果游戏已经在权重里了，如果其他人在网上放过这个游戏，那你就麻烦了。是的，但我记得好像有一个 eval。这跟我用的方法不完全一样。是啊。实际上我意识到让你谈这个有点失礼，因为这期播客会公开，然后下一代模型就会知道怎么做了。没事。是啊，也许吧。希望我们——除非我们需要破解模型，对吧，除非它被完整转录了，我相信肯定会。所以也许我们连那个都不需要。但我真的很喜欢一个 eval。我觉得这个 eval 其实非常古老，比 LLM 早得多，大概得说 2015 年之前，可能早在 2015 年以前，而且这个 eval 很简单。你给它们《Civilization》这款游戏的说明书，我想是这样，然后它们应该就能直接玩了，对吧。所以我很喜欢这种风格，你可以用不同的方式来做这种测试。但这是我用来测试模型的一个方法，而它们表现并不太好，尤其是当游戏变成我自己凭空设计出来的那种时。这种能力是双重的，对吧：首先，你能理解说明书吗？然后你能按照说明去玩游戏吗？但还有另一个维度，就是在玩的过程中你会越玩越好。你觉得这在实践中会发生吗？这很令人印象深刻，但话说回来，如果你玩的游戏非常 out of distribution——它可能是真实存在的游戏，但不在训练数据中——那么这个测试对模型来说就不容易通过。还有很多其他测试，但我真的很喜欢这个，因为它以一种有用的方式把游戏引入进来。而且你完全不会在这个游戏上进行训练。这不是像 Go 那样只训练 Go，而是恰恰相反。但从评估能力的角度来看，我喜欢这种思路。显然，感觉上人们已经付出了很多努力，游戏可以说是可验证领域的第一个经典例子，现在编程和数学也是如此。我在想，这个领域一个很大的未解问题是，我们能在多大程度上看到 RL 中的泛化。感觉有时候这些模型在我们做 RL 的领域里 hill climb 得非常好，而你对这是否能渗透到模型的其他方面会有更深入的洞察。但感觉在某种程度上，这几乎有点像我们之前聊过的最通用的"bitter lesson"那样的时刻。这是一个在特定领域找到数据，针对这些数据做 RL，然后只提升模型在这件事上的表现的时刻。我很好奇，这算是对当下情况的一个公正描述吗？你有没有看到那种泛化的迹象？是的，你会努力寻找那些能引发深度推理的难题来源，而我们确实看到了由此带来的泛化。比如推理模型主要就是通过编程和数学来进行推理的，但你会看到它们如何处理各种各样的问题——比如我最近刚搬回美国，问了很多关于搬家、税务之类的问题，你能看到它们的推理相当不错，而且很难想象它们曾经针对这类问题做过训练。所以我们确实看到了泛化。你会创造性地尝试获取更多能引发深度推理的数据，还有真正能引发 agentic behavior 的数据，对吧？我们最近看到的一些进步，部分就在于找到这些来源。但仅仅局限于可验证性肯定是不够的，因为大多数时候，对于我希望模型做的事情，即使给我世界上所有的时间，我也写不出一个验证器。所以，我觉得创造解决方案和评估解决方案之间存在着某种不对称性，如果评估解决方案确实比创造解决方案更简单——想想那些 NP-hard 问题，生成解非常困难，但验证却很简单——这让我抱希望：模型本身能够做出判断，即使没有完全可验证的方式来判断一段代码是否创造了一款优美的游戏或一款引人入胜的游戏等等。我认为这是一个非常有趣的研究方向，而且在实践中，这类想法已经产生了很大影响。所以我们做得越多，就能在更多领域进行训练。问题是，你真的需要这样做吗？还是仅仅专注于某些数学和编程问题就足以引发这种解决问题的 meta capability？我不知道。我觉得两种可能性都存在。你有没有什么直觉，倾向于哪一边？我愿意相信你需要在 broad distribution 上训练，这应该会对模型有帮助。但通过预训练获得的泛化能力也非常强。所以这可能取决于你对超人类水平的野心有多大，或者说这些模型能达到的上限是什么。但最终我觉得，在机器学习中，尽可能多地做 in-distribution 的训练似乎是可取的。所以这是研究人员在未来几个月甚至几年里要攻克的目标之一。我们的很多听众，也就是那些创始人或正在创业的人，都在思考一个问题：他们应该在多大程度上做模型层的工作，还是纯粹在之上构建应用。所以我在想，现在明显有一种趋势，一些公司在现有模型之上做自己的 RL，说"嘿，我们可以解决这一特定类的问题"，或者甚至，最明显的大概就是 Cursor，在编程领域，他们觉得需要自己去训练基础模型。我很好奇你的直觉是，什么时候这样做是有意义的，什么时候可能有意义，什么时候没有意义。我想告诉人们的是，evaluations 的价值——我们之前稍微聊过——以及数据的价值，这两者基本上是紧密相连的，其中有巨大的价值。所以即使你不自己构建模型，因为可能还处于非常早期的阶段，或者你无法获得人才资源等等，非常仔细地思考如何评估你在做的事情的进展，实际上会非常有价值，而且这甚至可能成为一套 standard eval，像我们这样的人也可能会采纳或关注。当然，数据的价值是巨大的，鉴于我们刚才讨论的 post-training，以及足够数据的稀缺性——要知道几年前我们还能 happily 地进行长达数月的 Go 训练。所以我想说，机会就在那里。而且我知道这个领域也有很多人正在建设，充满活力。同时，我认为在模型之上构建产品，即使模型能力会不断提升，而且显然我并不是专业投资人或产品人，但即使你只是专注于自己真正相信的事情，也可能为你创造机会，让你拥有那个空间，理解它，获取用户，达到 critical mass。如果这是其他人——比如大公司——没有关注的东西，我觉得即使只是做产品层面的专业化，也能创造很大价值，哪怕你完全不碰其他事情。没错，看起来在早期你肯定是先专注于产品，在模型之上构建，达到一定规模，学会 evals，然后我想很多公司开始试图弄清楚：我们要不要利用这些去 post-train 一个模型，或者去做些别的什么。显然，其中的权衡在于，随着这些模型泛化能力增强、性能不断提升，它们永远无法像那些最大的实验室那样，在极其广泛的领域上进行训练。因此，你可能陷入一种每过两三个月就要重来一次的跑步机式循环——即使你在 state-of-the-art 上稍微领先一点，可能也得不断地重新做。是的。或许这里的角度——也是我们之前讨论过的另一个话题——在于，随着这些模型具备更强的持续学习能力，或是能够使用可能非常复杂的知识库，那么为某个特定应用构建知识库也不像训练权重，它的效率会更高一些。不过，你可能会在其中加入大量独特的元素，这或许正好能保护你，让你免受竞争压力，比如说，那些没有花大量时间仔细思考如何与当前模型交互的人。而且，这种能力只会越来越强。所以，对于那些早期入局的玩家来说，这个角度或许也更具可扩展性。我是说，显然我们聊到的这么多研究方向似乎都有着令人信服的前进路径。那么，哪项能力是你最不确定如何从现在达成的？我猜是那些你目前还没看到研究路径、但又觉得相当重要的能力。我觉得我看得见不少能力的研究路径（笑）。我是说，多年来最吸引我的一项——尤其是2016年加入 DeepMind 时——就是元学习（meta-learning），或者说模型学习的能力。这是一项非常迷人的能力，因为你从事的就是机器学习。所以我觉得这条路径是存在的，现在已经有一些基线了，而且会持续改进。但也许另一项我觉得……我是说，可能也有路径，但目前不太确定其实用性的是，人们会提到：这些模型能真正创新吗？我觉得这部分很重要，因为比如说，当你在研究“能不能在机器学习领域提出新想法，然后我们去实现、编码很棒、部署上线”这类问题时，我们确实在做这些实验。很多人其实是在运用我们现有的全部知识进行创新。而品味（taste）这种东西，即使对人类来说也很难得，相当特殊，而且说实话，有时候是随机的。并不是说“这个人太聪明了”，而是你一万人都在尝试，你自然选出了那个对的，然后把他捧上天，对吧？所以我认为这种能力对某些事情——比如自我改进——可能相当重要。然而，这显然很难去评估，而某件事如果难以评估，大概也意味着很难以此进行爬坡迭代。因此，在任何方面创新的能力，尤其是科学领域，是一个很好的方向，我认为还需要更多进展。显然，我觉得“第37步”在这个前 LLM 时代就是一个典型的例子。那最近你有没有看到什么最接近这种情况的东西？我是说，就在我们开始录制之前，OpenAI 也谈到了他们刚解决的那个组合几何问题。但如果我们回看机器学习本身，这恰恰就是重点所在。我觉得目前还没看到模型真正生成过什么特别杰出的想法，但我确信很快就会看到。因为模型确实展现出一些洞察力和理解方式，比如在理解模型是如何被训练的这件事上，它们的表现几乎是超人类的，因为在机制层面，这些模型拥有我们无法企及的信息带宽。所以也许这部分是令人印象深刻的。但我希望在想法层面也能看到同样令人印象深刻的水平，而机器学习显然是我最能……当然。更准确地评估，对吧？所以是的，还有很多工作要做。是的。你是怎么思考这个问题的——当我们达到这种真正洞察机器学习研究的水平，进入那种递归式自我改进的世界时，我很好奇你是怎么推理的，甚至你如何看待它随时间演化的样子。哪怕是一些基本问题，比如“bitter lesson”还成立吗？或者当我们进入那个世界后会发生什么？我很想听你随意聊聊。某些效率层面大概会得到提升。我是说，作为研究者或工程师，你会在一定程度上利用这些工具来提升自己的生产力。我们已经看到很多这样的情况了。不得不说，与某个前沿领域的顶尖人士交谈总是令人印象深刻，他们总是会说——数字各有不同——但在生产力上会有相当大的全面提升。是的。所以我认为这种情况已经在发生，而且显然非常强大，但这个过程能持续多久，会有一些近乎物理层面的限制，对吧？因为模型需要训练，存在能源和硬件的限制。所以我当然非常期待看到哪些问题能够被更自动化地、更自主地完成和增强。但与此同时，事情发生的速度可能会有一个自然极限，也存在一个天然的上限，对吧？某些东西……大概一年多以前，有人对我提起过一个观点，我现在深以为然：当一个模型写英文比你还好时，这可能已经太好了，它其实不该那么好。我当时想，这真是一个有趣的领悟——即使你能继续提升这项能力，即使它没有天花板，或者天花板还很遥远，我们甚至可能没必要去触达那个天花板。因此，整个系统的整体表现已经非常令人印象深刻了，在某些情况下可能存在明显的上限。但我认为，模型本身以及训练方式的物理限制，即使假设我们已经完全掌握了配方，可以非常快速地迭代并训练下一代模型，确实会有一定的加速，但仍然存在一些相当根本的上限和速率限制。好吧，我总是喜欢在采访结束时来一个快问快答环节，基本上就是把那些我没时间在其他地方问的大问题一股脑塞进去。那么，也许先从这个问题开始：过去一年里，你在 AI 领域改变想法的一件事是什么？我改变想法的一件事。我认为，尽管我一直愿意相信，在广泛的分布上训练可能会提升模型，但在狭窄的高难度领域——比如数学或编程——上训练却能带来这种泛化能力。这件事的效果比我当初预想的要好，这倒是我没完全预料到的。我认为 Demis 说过，我们正处于技术奇点的山脚，AGI 可能在未来几年内到来。你有同感吗？我也有同感，而且我会说得更进一步。如果你……我是说，即使是像我这样身处这个领域、接近这些模型和神经网络的人，如果回到七年前——我指的是在 LLM 爆发之前的那个时代。如果七年前我必须用我们现有的模型做实验，我会不会宣称这就是 AGI？我觉得很可能会。我是说，这是一个不断变化的定义。进展非常令人印象深刻。是的，所以我觉得正因为现在我们看到它更近了，嗯，对我们正在构建的东西抱有更大的雄心是件好事。但话说回来，根据不同的定义，或者哪怕只是几年前我们对 AGI 含义的期望，我会说在某种程度上 AGI 已经到来了，对吧？所以我的意思是，我并不认为它已以我想要的方式到来，但它已经相当近了。嗯，也许模型真正从经验中学习的能力，在我看来正是缺失的那一环。但每个人都会有自己的测试标准，或者呃，我猜说是偏见吧，来判断模型在哪些方面仍然存在能力差距。我们会达到那个目标，然后又会再次移动球门柱，呃，再找出一些别的理由。我认为你们拥有的一个巨大优势是，你们显然对自己正在构建的模型极其看好。你们拥有自己的硬件。嗯，我知道我的听众心中都会有一个疑问，所以我就替他们问了：你们所做的事情中，很多人特别想更好地理解的一点是，你们把一部分算力卖给了 Anthropic，对吧？我看到 Twitter 上有一种说法，嗯，既然你们对模型和研究如此看好，为什么不把所有算力都留着自己用呢？嗯，所以我相信听众们非常想听听你对此的看法。是的。如何在我们内部配置算力，对吧？算力要用于服务，我们训练小模型、更小的模型，还要训练前沿模型。我觉得所有这些都需要一个精妙的平衡方程。总的来说，我认为看待 Alphabet 的一种方式是，有些东西能创造收入和经济影响，然后你可以再投资进去。所以这不是贪婪地想，嘿，我们现在该怎么做，把这些东西全部占为己有，然后就结束了，对吧？我认为这个策略——这也是我经常思考的——是多管齐下的。而且我认为时间线方面，尽管我们当然对技术进步非常看好，但你也得考虑收入来源等等。硬件是一项非常重要的资产，我觉得这里可能存在一种权衡：你不必把它全部用完，而是战略性地使用，以此来创造——也就是说，基本上是为了再投资。我认为这就是目前看起来最合理的做法。显然，背后的计算很复杂，对吧？所以我不会深入具体的理由，但总的来说，这就是一个战略选择，要考虑到不同层级的投资和时间线。你们所处的位置非常有趣，因为你们是唯一一家拥有自己尖端——或者说最先进——芯片的前沿模型提供商。嗯，这种协作实际上是什么样的？因为这是一种非常独特的模式，对吧？显然，Nvidia 与其他实验室合作紧密，但他们并不在同一家公司旗下。那么，当这种协作非常顺畅时，它是什么样的？正如我之前解释的，在我回顾之前，嗯，我回想了好几个时刻，对吧？那时候还是早期。我是说，就连 Google 内部的深度学习也还需要证明自己。我记得应该是在 2013 年或 2014 年左右，我们一群人——我想是我、Jeff Hinton、Jeff Dean 和 Ilia——在一间屋子里，试图决定服务器应该配什么，我是说配多少。当时我们显然有一些 CPU、一些 GPU，你要根据对研究的了解来猜测模型会往哪个方向发展，而你确实能产生这种影响。但当然，回报是有延迟的，因为这只是一项投资，只有过几个月——如果不是几年的话——才会在数据中心里变现。所以我一直觉得，而且我认为这很了不起，对吧？显然这个问题很难回答。我想我们当时尝试了——你要努力预测研究会往哪里走，早期的时候这甚至更难。但我认为能够真正施加影响是一种非常得天独厚的位置，我们当然也在这么做。尤其是和 Jeff 一起，他显然在 Google 存在的基本上整个过程中都在思考基础设施问题。这时候再去思考，嘿，这些模型正往这个方向发展，而这些投资因为有特定的延迟，我们在同一个屋檐下，能看到我们所看到的，这真的非常有帮助。再说一次，我在非常草根的早期就见证了这一点，而且它一直在发生，并且变得越来越好。当然，不确定性在某种程度上降低了，这让工作更容易，但它仍然是一个迷人的选择，对公司的命运等等都有深远的影响。嗯，这是一次非常精彩的对话。我觉得我可以和你聊很久，但那样会拖延我们通往 AGI 的道路。所以，呃，也许我想确保把最后的发言权留给你。嗯，你有什么想与听众分享的，或者想推荐的研究，任何在 I/O 上的内容？请讲。我认为对于任何涉足 AI 的人来说，这都是一个迷人的时代。所以，如果你是用户，就去使用这些模型。如果你是构建者，就用这些模型去构建。无论你做什么，即使你觉得与 AI 毫无关联。所以，请去摆弄这些模型吧。它们很了不起，而且只会变得越来越好。太棒了。非常感谢。这次对话非常精彩。我是 Jacob Efron，这里是 Unsupervised Learning，一档让我能与 AI 领域最聪明的人对话的播客，我会问他们大量关于模型进展及其对全球商业意义的问题。希望这很明显，我做这件事非常开心。这是我除了白天在 Redpoint 做投资之外，利用夜晚和周末做的项目。但我们能邀请到这些了不起的嘉宾，真正靠的是像你们这样的人订阅播客、分享给朋友。这才是让这一切运转起来的根本。所以，请考虑这么做。非常感谢你们的支持和收听。我们下期再见。