Gemini 3 已经发布了。反响看起来非常积极。这款模型给人的感觉很好。我对这些进展感到非常兴奋。我对研究感到兴奋。我们实际上在多个维度上都推动了前沿。这就是我们构建 AGI 的方式。我们希望能以正确的方式去做,这也是我们倾注全部心智和全部创新的地方。它不像是一种纯粹的研究工作,被丢在某个实验室里;而是我们与这个世界共同完成的努力。这是一个新世界,对吧?有一种新技术正在定义用户对很多事情的期待。从某种意义来说,我们正在与我们的客户共同构建 AGI。所以突然间,你让更多人能够成为构建者。让任何东西都变成现实。对吧。是的。我觉得未来 6 个月可能会和过去 6 个月以及再之前的 6 个月一样令人兴奋。我们很幸运能生活在这个时代。它就发生在当下。非常令人兴奋。嘿,各位,欢迎回到 Release Notes。我叫 Logan Kilpatrick,来自 DeepMind 团队。今天很荣幸邀请到 Cororey Kavachulu,他是 DeepMind 的 CTO,也是 Google 新任首席 AI 架构师。Cory,感谢你来参加。我很期待这次聊天。我也是。是的,非常兴奋。谢谢邀请。当然。Gemini 3 已经发布了。反响看起来非常积极。我想我们出去发布的时候,心里显然已经预感这款模型会有多强。排行榜看起来很棒,但我觉得真正交到用户手中并实际投入使用才是……
那永远才是真正的考验,对吧?我是说,我们一直在做,基准测试是第一步,然后我们会做测试,会和可信测试者一起,做预发布等等。所以你会有一种感觉:是的,这是个好模型。它有能力。它并不完美,对吧?但我觉得,嗯,我对目前的反响真的很满意。大家似乎都喜欢这个模型,而我们觉得有趣的地方,他们也觉得有趣。所以到目前为止还不错。这是件好事。是的。昨天我们还在聊,话题的核心就是珍惜当下,欣赏进步并没有放慢脚步,这我很认同。当我回想起上次坐在你旁边的时候,我们在 I/O 大会上,当时我们发布了 2.5,听着 Dennis 和 Sergey 谈论 AI 之类的话题。我觉得进步没有放缓,这真的很有意思。就像当初发布 2.5 时,感觉它是最先进的模型,感觉我们在多个维度上真正推动了前沿,而我觉得 3.0 再次做到了这一点。是的。我很好奇关于 scaling 能否持续的讨论现在进行到哪一步了。你目前怎么看?是的。我是说,嗯,你看,我对这些进展感到非常兴奋。我对研究感到兴奋,因为当你真正身处研究之中时,各个方面都充满了兴奋,对吧?我是说,从数据、预训练到后训练,到处都充满了兴奋,我们看到了很多进展,很多新想法。归根结底,这整件事真的是靠创新、靠想法在驱动,对吧?我们做的越是能在现实世界产生影响、被人们使用的事情,你其实就会获得更多想法,因为你的覆盖面增加了,你得到的信号种类也增加了。而且我觉得问题会变得更难,问题会变得更加多样,随之而来的是,我认为我们会受到挑战,而这种挑战是好事。是的。我认为这也是构建智能的驱动力,对吧?事情就是这么发生的。我觉得有时候如果你只看一两个基准测试,可能会觉得遇到了瓶颈,但我认为这很正常,因为基准测试是在某个东西构成挑战的时候定义的,你定义了那个基准测试,然后当然随着技术进步,那个基准测试就不再是前沿了,它不再定义前沿,接下来发生的就是你定义一个新的基准测试。这在机器学习中非常正常,对吧?基准测试和模型开发总是形影不离。你需要基准测试来指导模型开发,但你只有接近下一个前沿时,才能知道它是什么,从而定义新的基准测试。是的,我也有同感。有几个基准测试,比如 HLE,最初所有模型都表现得很差,只有百分之一二,我觉得现在最新的带 deep think 的版本已经到了 40% 多,简直疯狂。是的,
RKGI2 最初所有模型几乎都做不了多少,现在到了 40% 多。所以这很有意思,而且有意思的是,我不知道为什么那些保持静态、经得起一点时间考验的基准测试,我觉得它们可能接近饱和了,但比如 GPQA diamond,它一直还在,尽管我们只能一点一点地提升 1% 左右。但那里真的有非常难的问题,我是说,那些难题我们仍然做不到。是的。对吧。而且它们仍然能测试某些东西,但如果你想一下我们在 GPQA 上的位置,并不是说你在 20 多分,还需要冲到 90 多分,对吧?所以你已经在接近了。因此它定义为未解决的问题数量当然在减少。所以在某个时刻,找到新的前沿、新的基准测试是好事,而且定义基准测试真的非常重要,对吧?因为如果你把基准测试当作进步的定义,它未必总是一致的对吧,就是进步和基准测试之间是有区别的,理想情况下 100% 对齐,但永远不会 100% 对齐对我来说,最重要的进步衡量标准是,我们的模型在现实世界中,科学家在用,学生们在用,律师在用,工程师在用,然后人们用它做各种各样的事情,写作、创意写作、邮件,简单的或困难的,对吧?这个范围很重要,还有不同的主题、不同的领域。如果你能在那里持续创造更大的价值,我认为那就是进步,而这些基准测试帮助你量化它。是的。你是怎么看的?也许从 2.5 到 3 就有一个具体的例子,或者随便选哪个版本变化都行,我们在哪些方面是在重点发力?以及,在一个现在有无数基准测试、你其实可以选择重点发力哪里的世界里,你对 Gemini 整体是怎么考虑的,也许特别是对 Pro 模型,我们尝试在哪些方面重点发力?我认为有几个重要的领域,对吧?其中之一是指令遵循,这很重要。指令遵循是指模型需要能够理解用户的请求并遵循它,对吧?你不想模型只是回答它觉得自己该回答的东西,对吧?所以这种指令遵循能力很重要,这也是我们一直在做的。然后,嗯,对我们来说国际化也很重要。
Google 的业务非常国际化,我们希望触达全世界每一个人。因此这一点很重要。而且我觉得,至少就 3.0 非 Pro 版本而言,我们聊到——今天早上我和 Tulsi 谈过,她感叹说,这个模型在处理那些历史上我们一直不太擅长的语言时表现惊人,这非常令人惊喜。所以你必须持续关注这些领域,对吧?它们可能看起来不像是知识的前沿,但却真的非常重要,因为你希望与那些地区的用户互动,因为正如我所说,一切都是为了从用户那里获取反馈信号。然后如果你再看一些更技术性的领域,function calls、tool calls、agentic actions 和代码,这些都非常重要。function calls 和 tool calls 之所以重要,是因为我认为它们带来了完全不同的智能乘数效应。这既体现在模型能够自然地使用我们自己创建的所有工具与函数,并将其融入自身的推理中;也体现在模型能够自己编写工具,对吧?你可以这样想:模型本身在某种意义上也是一种工具。所以这一点非常重要。显然,代码也是如此,不仅因为我们都是软件工程师,更因为我们知道,借助代码,你可以构建出笔记本电脑上运行的任何东西,而且在笔记本电脑上发生的不仅仅是软件工程——
让一切成真。让一切成真,对吧?所以我们现在做的很多事情都发生在数字世界中,而代码是实现这一切的基础,能够与你生活中几乎所有发生的事情进行整合——不是所有事情,但很多事情。这就是为什么我认为这两件事结合在一起,能够极大地扩展我们对用户的触达。我举 vibe coding 的例子,我很喜欢这个概念,为什么呢?因为很多人都有创造力,他们有想法,突然间你就让他们变得有产出——从有创意到有产出,你只需要把它写下来,然后应用就呈现在你面前。我的意思是,大多数时候它是有效的,而一旦奏效,就非常棒。我是说,太酷了。这个循环我认为非常棒。突然间,你就让更多人成为了 builder,能够构建东西,我是说,这太棒了。我喜欢这个说法。是的,谢谢你,这简直就是 AI Studio 的宣传 pitch,我很感激。我们会把这段剪辑出来放到网上。你提到的一个有趣的话题是,实际上,作为这次 Gemini 3 发布的一部分,我们推出了 Google Anti-gravity,一个全新的 agent 编程平台。那么,你怎么看——
我是说,拥有这种产品脚手架,以便从模型角度进行 hill climb 来提升质量,这显然有多重要?从模型角度来看。是的,tool calling 和 coding。对,对。对我来说这非常非常重要。我觉得 Anti-gravity 这个产品本身确实很令人兴奋,但如果从模型角度思考,这是双向的,对吧?我们先从模型角度谈谈:能够与终端用户——在这种情况下是软件工程师——进行整合,直接向他们学习,了解模型需要在哪些方面改进,这对我们来说至关重要。我的意思是,Gemini App 等领域也是如此,出于同样的原因它也很重要,对吧?直接理解用户非常非常重要。Anti-gravity 是这样,AI Studio 也是这样。所以我们与这些产品紧密合作,理解并学习,获取那些用户信号,我认为这非常重大。Anti-gravity 一直是一个极其关键的发布合作伙伴。他们加入的时间还不长,但在过去两三周的发布过程中,他们的反馈真的起到了至关重要的作用。Search AI Mode 也是如此,我是说 AI Overviews 让我们从那里获得了很多反馈。所以对我来说,与产品的这种整合以及获取信号,是我们理解问题的主要驱动力。当然,我们也有基准测试,所以我们知道如何推动 STEM、科学、数学这类智能的发展。但真正重要的是,我们要理解真实世界的用例,因为毕竟这必须在现实世界中可用。是的。那么,在你新任的首席 AI 架构师角色中,你现在还要负责确保我们不仅有好的模型,而且产品能够真正采纳这些模型并加以实现,在整个 Google 构建出色的产品体验。从 DeepMind 的角度来看,你认为这样做增加了多少额外的复杂性?在某种意义上,一年半以前生活更简单。确实。但我们在构建智能,对吧?很多人问我,你有这两个角色——我是说,我有两个头衔,但在很大程度上它们是同一件事。如果我们要构建智能,就必须通过产品、借助产品来完成,与用户建立连接。至于 Kairo,我试图做的是确保 Google 的产品能够获得最优质的技术。我们并不是在做产品——我们不是产品人。我们是技术开发者,对吧?我们开发技术,我们做模型。当然,就像每个人对任何事情都有自己的看法一样,大家都有主见,但对我来说最重要的是,以最佳方式让这些模型和技术可用,然后与产品团队合作,使他们能够在这个 AI 时代构建出最好的产品。因为这是一个全新的世界,对吧?有一项新技术正在定义用户的诸多期望,定义产品应该如何表现,信息应该如何传承,以及你能用这项新技术做的所有新事情。所以对我来说,这就是要在整个 Google 范围内实现这一点,与所有产品合作。我认为这很令人兴奋,无论是从产品角度、用户获得的角度,还是从正如我所说——这是我们的主要驱动力——能够感知用户需求、获取用户信号的角度,这对我们至关重要。这就是为什么我想这样做:这就是我们构建 AGI 的方式,这就是我们构建智能的方式——通过产品。我认为事情就会这样发生。这总有一天会成为一条很棒的推文,因为我确实觉得它很有意思。我也认同这样一个观点:在某种程度上,我们正与客户以及其他 PAS 共同构建 AGI。这并非那种纯粹在实验室里进行的研究工作,而是我们与世界共同参与的协作努力。而且我认为,这实际上也是一个经过充分验证和测试的体系。我们越来越采纳一种工程化思维,我认为这一点非常重要,因为当某个东西被精心构建时,你就知道它是稳健的、安全可用的。我们在现实世界中做事,采纳了所有经过验证的、关于如何构建事物的理念。我认为这也反映在我们如何看待 safety、如何看待 security 的问题上。我们试图再次从工程化思维出发,从一开始就从底层思考,而不是等到最后才考虑。因此,当我们进行模型 post-training、pre-training,或是审视数据时,我们始终秉持这样一种理念:每个人都必须思考这个问题。我们当然有 safety 团队,他们引入了所有相关技术;我们也有 security 团队,他们引入了所有技术。但关键是让 Gemini 中的每个人都能深度参与这一开发过程,将安全作为第一性原理。而且这些团队本身也是我们 post-training 团队的一部分,对吧?因此,当我们开发这些模型、进行迭代、发布候选版本时,就像我们会查看 GPQA、HLE 这类基准测试一样,我们也会查看 safety 和 security 指标。我认为这正是工程化思维的重要性所在。是的,我完全同意。我认为这对 Google 来说也很自然,这很有帮助,因为现在推出 Gemini 模型是一项非常协作且规模巨大的工程。以 Gemini 3 为例,我们刚才还在回顾,对我来说很重要的一点是,这个模型是非常典型的"Team Google"式模型。我们应该看看数据。我是说,也许阿波罗 NASA 计划有很多人参与——但我认为这是一次庞大的 Google 全球性努力,横跨我们所有团队才实现的,这很了不起。每一次 Gemini 发布都需要来自各大洲、欧洲、亚洲以及全球各地的人员参与,我们在世界各地都有团队,他们都做出了贡献。而且不仅仅是 GDM 团队,对吧?而是 Google 所有团队。是的。这是一项巨大的协作工程,而且我们与 AI Mode、与 Gemini App 同步发布,对吧?这些并不容易做到,因为它们在开发过程中就与我们并肩作战。只有这样,在发布第一天,我们才能真正做到同时推出——模型就绪,产品同步上线。当我们说"横跨 Google"时,不仅仅是指那些积极构建模型的人,所有产品团队也都在各自的岗位上做出了贡献。我有一个也许不算敏感的问题。Gemini 3 在很多基准测试——很多基准测试上都取得了 SOTA。我们实现了跨 Google 产品界面以及合作伙伴生态界面的同步发布。反响非常积极,模型的口碑也不错。如果我们快进一下——先 touch wood——如果我们快进到下一场重要的 Google 模型发布,你是否还有一些想做但还没做的事,比如希望我们去做 X、Y 之类?下一代模型要如何比 Gemini 3 更好?还是说我们应该先享受 Gemini 3 的这一刻?我认为我们应该两者兼顾,对吧?我们应该享受这一刻,因为在发布日花一天时间来庆祝是好事,而且我认为大家很欣赏这个模型,所以我也希望团队能享受这一刻。但与此同时,在我们审视的每一个领域,也都存在差距,对吧?写作方面它完美吗?不,写作还不完美。编程方面呢?编程也不完美。特别是我认为在 agentic 动作和编程领域,还有很大的提升空间。这是最令人兴奋的增长领域之一,我们需要找出可以做得更多的地方,并且我们一定会去做。我认为我们已经取得了长足的进步。这个模型可以说——也许 90%、95% 会以某种方式参与编程的人,无论是软件工程师还是想构建东西的创意人员——
我都愿意认为这个模型是他们能使用的最好的工具,对吧?但在某些场景下,我们可能还需要做得更好。是的,关于编程和工具使用,我还有一个比较尖锐的问题。如果你回顾 Gemini 的历史,显然我们在 1.0 阶段非常注重多模态能力,我认为到了 2.0 阶段,我们开始搭建一些 agentic 基础设施。你是否有这样的感觉:为什么我们——
我先声明一下,我认为进展速度看起来非常快,但为什么这只是一个侧重点的问题?为什么我们在 agentic 工具使用方面没有从一开始就做到 state-of-the-art?比如多模态方面,我们从 Gemini 1 开始 literally 就处于多模态的 state-of-the-art 水平,并且在很长一段时间内保持了这一优势。我不认为这是什么刻意的选择。说实话,如果一定要回顾,我觉得这取决于模型与实际世界的紧密程度。开发环境与现实世界结合得越紧密,我们就越能更好地理解这些真实需求。而且我认为,在 Gemini 的旅程中,我们一开始的起点当然是——Google 的 AI 研究有着悠久的历史,对吧?我们拥有大量杰出的研究人员,以及 Google 在 AI 研究领域辉煌的历史,这很棒。但 Gemini 也是一个从那种研究环境转向——正如我们所说的——工程化思维的旅程,进入一个我们真正与产品紧密相连的空间。当我看着团队时,我必须说我感到非常自豪,因为这个团队的主要成员——包括我自己在内——在五年前还在写论文、研究 AI,而现在我们实际上处于这项技术的前沿,并且通过产品与用户共同开发这项技术。这是一种完全不同的思维转变:我们每六个月构建一次模型,然后每一到一个半月就进行一次更新。这是一个惊人的转变,我认为我们正经历着这一转变。是的,我很喜欢这一点。Gemini 3 的进展非常了不起。另一个我脑海中一直思考的话题是,我们如何看待生成式媒体模型(gen media models)。我认为从历史上看,它们虽然一直很有趣,但可能并不是最大的重点——不是说它们没有被关注——但感觉我们在 V3、VO3.1 以及 nano banana 模型上,从产品对外发布的角度来看取得了巨大成功。我很好奇你如何看待这个问题:在我们追求构建 AGI 的过程中,有时我会说服自己,视频模型似乎不是这个故事的一部分。但我不认为这是真的。总的来说,我认为人应该理解世界、物理以及所有这些内容。所以我很好奇,你如何看待这些东西相互交织在一起。如果你回溯十到十五年前,生成模型主要应用在图像上,对吧?因为我们能更好地观察和理解其中发生了什么。而且,理解世界、理解物理这个概念,正是推动图像生成模型发展的主要动力。我们当时在生成模型方面做的一些令人兴奋的工作,可以追溯到十年前,甚至更早。感觉像二十年前了。对,二十年前我们还在做图像模型。我是说,这就是为什么我刚才有点犹豫。我读博期间,我们就在做生成式图像模型,对吧?当时所有人都在做那些。那时候我们经历过这个阶段,我是说,我们有那种叫做 PixelCNN 的东西,对吧?它们就是图像生成模型。从某种意义上说,后来发生的是,我认为大家也意识到,文本实际上是能取得更快进展的更好领域。但我认为图像模型回归是非常自然的事,而且在 GDM,我们在图像、视频、音频模型方面一直有很强的积累。我想这就是我要解释的。也许把这些整合在一起是很自然的。所以我们现在的方向是,我们一直在谈论多模态,对吧?当然,很自然的是,我们一直在谈论输入输出的多模态,这就是我们的发展方向。当你观察技术进展时,这两个不同领域之间的架构和理念一直在相互融合。以前这些架构是非常不同的。对。但它们现在融合得越来越多了。所以这并不是我们在强行推动什么,而是技术正在自然地收敛。它在收敛,因为每个人都明白从哪里能获得更高的效率,理念也在进化,我们看到了一条共同的道路,而我认为这条共同道路正在很好地汇聚。所以 Nano Banana 就是最初的那些时刻之一,对吧?你可以基于图像进行迭代,也可以和模型对话。因为文本模型拥有大量的世界理解,对吧?从文本中它获得了很多世界理解;而图像模型则从不同的视角拥有世界理解。所以当你把这两者结合起来,我认为会得到令人兴奋的结果,因为我觉得人们会感受到这个模型理解了他们想要传达的细微之处。我还有一个关于 NanoBanana 的问题:你觉得我们是不是应该给所有模型都起一些搞怪的名字?你觉得这会有帮助吗?不见得。你看,我觉得我们不是故意这么做的。
Gemini 3。如果我们不把它命名为 Gemini 3,我们会叫它什么呢?某个很荒唐的名字。我……不,我不知道。我不擅长起名。我是说,它当时叫 Rift Runner,对吧?就是 Rift Runner。实际上我们会用 Gemini 模型来起这些代号。而 Nano Banana 就不是这么来的。我们没有用 Gemini,对吧?这背后有个故事,我觉得好像在哪里发布过。我是说,只要这些名字是自然的、有机的,我就很高兴,因为我觉得对于构建这些模型的团队来说,能建立这种联系是件好事。是的。然后当我们发布它的时候,我觉得那件事就自然而然地发生了,因为我们当时在 LM Marina 上用代号测试这个模型,人们很喜欢它。我觉得……我不知道,我愿意相信那是因为它太自然了,所以就流行起来了。我不确定你能不能创造一个流程来生成这种效果。我同意你的看法。我也是这种感觉。如果我们有(这样的名字),就应该用它。如果没有,用标准名字也挺好。对了,我们应该聊聊 Nano Banana Pro,这是我们基于 Gemini 3 Pro 构建的新一代最先进的图像生成模型。而且我觉得,实际上当团队快要完成 Nano Banana 的时候,就已经有早期信号表明,如果用一个 Pro 级别的版本来做这件事,你可能会在一系列更细分的使用场景上获得更强的性能,比如文字渲染和世界理解之类的。你现在最关注的是什么?我知道我们有很多事情在进行中,但我觉得这可能就是我们看到不同技术对齐开始发挥作用的地方。因为对于 Gemini 模型,我们一向说每个模型版本都是一个模型家族,对吧?我们有 Pro、Flash 这样一个模型家族,因为在不同规模下,你需要在速度、准确率、成本等方面做出不同的权衡。随着这些东西融合到一起,当然,我们在图像方面也有同样的经验。是的。所以我觉得团队很自然地会想到:既然有 3.0 Pro 架构,我们能不能利用第一版学到的一切,并扩大规模,把这个模型调优成更擅长生成图像?我认为最终我们得到的是一个能力更强的模型,它能理解非常复杂的……一些最令人兴奋的使用场景是:你有一大批非常复杂的文档,你可以把它们输入进去。我们依靠这些模型来提问。你也可以让它基于这些内容生成一张信息图,然后它就能做到。所以这就是这种自然的输入模态、输入输出模态真正发挥作用的地方,这很棒。是的,感觉像魔法一样。我不知道……希望这段视频发布时,大家已经看过那些示例了。但我觉得这太酷了,看到内部有一堆示例在流传,简直不可思议。是的,我同意。当你突然看到,天哪,一大堆文本、概念和复杂的东西被用一张图解释得如此漂亮,这太令人兴奋了。当你看到这些东西时,真的很好,对吧?你会意识到这个模型是有能力的。而且其中还有非常多的细微之处,这非常有趣。我还有一个与此相关的问题,大概是在去年十二月,2024 年 12 月。好的。
Tulsi 曾承诺过我们将如何拥有统一的 Gemini 模型 checkpoints。我觉得你所描述的是,实际上我们现在已经非常接近那个目标了,历史上的架构曾经……
在图像生成等方面统一起来。哦,我明白了,明白了。是的。我很好奇,我觉得这是一个目标,我们希望这些东西真正被纳入模型主线。但可能也有一些自然的因素在阻碍这件事发生。我很好奇,关于这方面的背景或者高层的……
你看,正如我所说,技术、架构,它们正在对齐。对。所以我们看到这种情况在定期发生,人们一直在尝试,但这只是一个假设。你不能在这件事上基于意识形态行事,对吧?科学方法就是科学方法:我们尝试事物,提出假设,然后看结果。有时可行,有时不行,但这就是我们经历的发展过程。它正在越来越接近。我很确定,在不久的将来,我们会看到各种能力逐渐整合到一起,越来越像一个单一的模型输出,但这需要大量创新。确实很难,因为仔细想想,output space 对模型至关重要,那是学习信号的来源。现在我们的大部分学习信号来自代码和文本,这是驱动 output space 的主力,也是模型在这些方面表现出色的原因。而图像生成则不同——我们对图像质量的要求非常苛刻,要做到这一点很难。生成真正高质量的图像,实现像素级的完美度很难;而且图像在概念上还必须非常连贯,每个像素既要保证质量,又要与画面的整体概念相契合,这一点很重要。因此训练一个同时做好这两件事的模型更难。我的看法是,这绝对是可能的,只是需要在模型中找到合适的创新来实现。
> 是啊,我很期待。希望如果我们有一个单一模型,部署也能更简单些。
> 是啊,这我也不确定。
> 这还很难说。
> 确实很难说。我同意。说到这个有趣的话题,我们现在坐拥 DeepMind 旗下众多全球顶尖的 AI 产品,比如 vibe coding、AI Studio、Gemini App、anti-gravity 等,Google 内部各处也在发生类似的进展。我们有 Gemini 3 这样处于最前线的模型,还有 banana、vio 等,所有这些模型都处于行业前沿。但十年前,甚至十五年前,世界完全是另一番模样。我很好奇,你个人的成长历程是如何走到今天的。昨天聊天时你提到一件事,我当时完全不知道。后来我跟别人提起,他们也说完全不知道——你是 DeepMind 的第一位深度学习研究员。从当时人们对这项技术并不热衷,走到今天我们所在的位置,感觉是一个巨大的飞跃。你大概是十年前加入 DeepMind 的吧?
> 2012 年,13 年了。
> 是啊,太不可思议了。13 年前人们对这项技术还不感兴趣,或者说 DeepMind 对这项技术很热衷,但如今它真的在驱动所有这些产品,成为了核心。回顾这段经历,你会想到什么?
> 你是想问这是否令人惊讶,还是说一切显而易见?
> 嗯,我觉得这是一个充满希望的积极结果。我读博的时候,其实每个读博的人都一样,你会相信自己做的事很重要,或者将来会变得重要。你对那个课题非常感兴趣,认为它会产生巨大影响。我当时也是这种心态,所以当 Dennis 和 Shane 联系我、跟我交流时,我对 DeepMind 感到非常兴奋。我发现有一个地方真正专注于构建智能,而深度学习正是其核心。实际上,我和我的朋友 Carl Greger 当时都在 Jan 位于 NYU 的实验室,我们是同时加入 DeepMind 的。准确地说,那时候有一家以深度学习和 AI 为核心的初创公司是非常反常规的。所以我觉得那非常有远见,也是一个令人惊叹的地方,真的很让人兴奋。后来我组建了深度学习团队,团队不断壮大。我一直以来对深度学习的理解,与其说是一种方法,不如说是一种解决问题的思维方式和 first principle:一切都基于学习。这就是 DeepMind 的核心理念——一切押注在学习上。从当年的起点出发,再到 RL、agent,以及一路上我们所做的一切,这段旅程非常令人兴奋。至少对我来说,投身这些事情的初衷是希望会有积极的结果,但回头反思时,我觉得我们很幸运。我们很幸运能生活在这个时代,因为有很多人也在他们热爱的 AI 领域工作,以为属于他们的时代到了、事情会开花结果,而现在这一切真的正在发生。我们还必须意识到,AI 之所以能在当下爆发,不仅仅是因为机器学习和深度学习,还因为硬件发展到了一定阶段,互联网和数据也发展到了一定阶段。很多因素恰好汇聚在一起。我感到很幸运,能在这个时刻从事 AI 工作。回顾时我就是这种感觉:是的,我们选择投身 AI,我也做出了具体的选择,但同时我也感到非常幸运,能在此时处于这个位置。这非常令人兴奋。
> 是啊,我也同意。我很喜欢这段话。对了,我很好奇……我之前看了 The Thinking Game 的视频,想了解更多。我没有亲历 AlphaFold 的时代,仅有的了解来自阅读和听人谈论。回顾这些经历,你觉得今天和过去有什么不一样?我先给你铺垫一个例子,就是你正式录制前在镜头外提到的那件事——虽然不完全是你原话,但大意是:我们基本上已经弄清楚如何构建这些模型并将它们推向世界。我很赞同这一点。我好奇的是,这和以前的迭代相比感觉是否相似?将艰难的科学技术问题转化为成功成果,其组织架构或文化特质有哪些关键要素?我认为我们从很多项目中学到了这一点,从 DQN、Alpha Go、Alpha Zero、Alpha Fold 开始,这些项目都产生了巨大影响,我们也从中学会了如何围绕特定目标和使命来组织团队。我记得在 DeepMind 早期,我们做一个项目会有 25 个人参与,写论文也有 25 个作者。然后每个人都会说:25 个人不可能都参与了吧?我会说:是的,他们确实都参与了。因为在科学和研究领域,这并不常见。我认为这种认知和心态非常关键,我们是在这个过程中不断演进的,这真的很重要。与此同时,我觉得在过去这两三年里,正如我们谈到的,我们还将这种理念与一种更偏向工程的思维方式融合在一起:我们现在有一条主线的模型在持续开发,并且我们学会了如何在这条主线上做探索,如何用这些模型做探索。每次想到这一点,看到一个很好的例子时,我都感到非常高兴,那就是我们的 deep think 模型。这些就是我们带去 IMO 竞赛和 ICPC 竞赛的模型。我觉得这是一个非常酷且很好的例子,因为我们会进行探索,选定这些宏大的目标——比如 IMO 竞赛非常重要,题目真的很难。我要向所有参加这些竞赛的学生致敬,他们太厉害了。能够把模型放在那样的场景下,当然你会有一种冲动,想为它做点什么定制方案。但我们尝试做的是,把这当作一个机会去迭代我们已有的东西,或者提出与我们现有模型兼容的新想法,因为我们相信我们技术的通用性。然后像 deep think 这样的功能就是这么诞生的。我们做出了一些东西,然后把它开放给所有人用,所以每个人都能使用那个实际上被用在 IMO 竞赛上的模型。是的,顺着你说的话做个类比,你提到论文里的 25 个人。我觉得今天的版本是,你看,我相信 Gemini 3 的 contributors 名单很快就会出来,或者已经出来了——2500 人。有大约 2500 人,而且我敢肯定,保守地说——是啊,我敢肯定很多人会觉得,不可能真的有 2500 人做出了实际贡献,但确实如此,这太疯狂了。看到这些问题的规模现在变得如此之大,真是令人着迷。是的,确实如此。我认为这对我们来说很重要,这也是 Google 很棒的地方之一。有那么多在自己领域里非常出色的专家,我们从中受益。Google 有这种 full stack 的打法,对吧?我们从中受益。所以从数据中心到芯片,再到网络,再到如何大规模运行这些东西,每一层都有专家。这一切已经发展到一种状态,再次体现出这种工程思维——发展到这些东西是不可分割的状态,对吧?当我们设计一个模型时,我们是在知道它将在什么硬件上运行的前提下设计的;我们设计下一代硬件时,也知道模型可能会往哪里发展。但这很美好,对吧?我是说,协调这一切,当然,你有成千上万的人一起工作、做出贡献。我认为我们需要认识到这一点,这很美好。这很棒。是的,这不容易实现。一个很有趣的线索是,回到 DeepMind 的传承,他们曾采用各种不同的科学方法,试图解决这些非常有趣的问题。而到了今天,我们实际上已经知道这项技术在很多场景下都有效,我们真的只需要不断把它规模化——当然,要做到这一点也需要创新——但我好奇的是,你怎么看 DeepMind 在当今这个时代如何平衡纯粹的科学探索与“我们只想把 Gemini 规模化”之间的关系。也许可以用我最喜欢的一个例子,Gemini diffusion,作为那种决策在某种程度上的具体体现。这是最关键的事情,对吧?找到那种平衡非常重要。即使现在,当人们问我 Gemini 最大的风险是什么时——当然我经常思考这个问题——Gemini 最大的风险是创新枯竭。因为我真的不相信我们已经找到了配方,接下来只需要执行。我不这么认为。如果我们的目标是构建智能,我们当然会通过用户和产品来实现,但外面存在的问题非常具有挑战性。我们的目标仍然非常具有挑战性,它就在那里,我不觉得我们已经找到了配方,觉得只要规模化或执行就行了。能够推动这一切的是创新。创新可以看作是在不同尺度上,或者是在与你现有方向不同的切线方向上的探索。当然,我们有 Gemini 模型,在 Gemini 项目内部我们进行了大量探索——我们探索新的架构,探索新的想法,探索不同的做事方式,我们必须这样做,我们会持续这样做,而所有创新正是来源于此。但同时,我认为 DeepMind,或者说 Google DeepMind 整体,也在进行更多探索。我认为这对我们非常、非常关键,我们必须做这些事,因为 Gemini 项目本身可能对某些探索来说太过局限。所以我觉得我们能做到最好的事情是,无论是在 Google DeepMind 还是在 Google Research,我们都会探索各种各样的想法,并把这些想法引进来。因为归根结底,Gemini 不是一种架构,对吧?Gemini 是你想要实现的目标。你想要实现的目标是智能,而你希望通过你的产品来实现它,赋能 Google 真正运行在这套 AI 引擎上。从某种程度上说,具体是什么架构并不重要。我们目前有某种方案,我们有办法在此基础上演进,我们也会这样演进下去,而推动这一切的引擎将是创新。永远都会是创新。所以找到那种平衡,或者找到以不同方式去做这件事的机会,我认为非常关键。是的。我有一个与此平行的问题。在 IO 大会上,我和 Sergey 坐下来聊过,我当时跟他发表了一个感想,就是当我——我个人在 IO 上有这种感觉——当你把这么多人聚在一起来发布这些模型、实现这些创新时,你会感受到一种人性的温暖,这真的很有意思。我提到这个是因为,你知道,我当时也坐在你旁边听他们讲话,我某种程度上感受到了你的温暖。我是非常认真地说这个的,因为我觉得这转化成了 DeepMind 整体运作的方式。我觉得 Demis 也有这种特质,就是深厚的科学根基,但同时人也很好、很友善、很亲切。有意思的是,我不知道人们有多欣赏这种文化的重要性,以及它是如何体现的。我很好奇,当你思考如何帮助塑造和运营这一切时,这对你而言是如何体现的。首先,非常感谢,你过奖了(笑)。但我认为这很重要。我相信我们的团队,我相信要信任人,给人机会,团队这个维度很重要。我觉得这至少是我可以说的一部分,我也是通过在 DeepMind 工作学到的。因为我们曾经是个小团队,当然——就像你在那里建立了信任,然后当你发展壮大时,如何保持那种信任。我认为重要的是营造这样一种环境:人们觉得,我们真正关心的是解决那些有影响力的、对现实世界有意义的技术性科学难题。我觉得这仍然是我们正在做的事,对吧?就像我说的,Gemini 就是这样。构建智能是一个高度技术性、极具挑战性的科学问题,我们必须以这种方式去对待它,也必须带着谦逊去对待它,对吧?我们必须始终质疑自己,希望团队也有同感。这就是为什么我一直说,我真的为团队感到骄傲,他们合作得非常好。就像我们此前在楼上小厨房聊的那样,我当时对他们说:“是的,这很累。是的,这很难。是的,我们都筋疲力尽了。”但事情就是这样。我们并没有一个完美的架构来做这件事。大家聚在一起,一起工作,互相支持。这确实很艰难,但让这件事变得有趣且令人享受,也让你能攻克真正困难的问题的,我认为很大程度上在于拥有合适的团队并肩作战。而挑战在我看来,更多是要清晰认识到我们所拥有的技术的潜力。我无法肯定地说,20 年后还会是今天这样的 LLM 架构,我确信不会是这样。所以我认为推动新的探索是正确的做法。就像我们讨论的,GDM 整体而言,连同 Google Research,我们必须与学术研究社区一起,整体上我们必须推进多个不同的方向。我认为这完全没问题。什么是对的,什么是错的,我认为这不是重要的对话。重要的是能力,以及这些能力在真实世界中的演示,这才是真正能说明问题的。是的。我还有最后一个问题,我也很想听听你的想法。就我个人而言,我在 Google 这一年半多的时间感觉像是——其实我挺喜欢的——某种程度上是一个 Google 的“逆袭者”故事。尽管我们有所有的基础设施优势等等,但对我个人来说,展示出在……
你什么时候加入的?
2024 年 4 月。
2024 年。好的。是的。而且当时还有 AI Studio 的背景。我们当时在打造这款产品,某种程度上……
哦对,我想起来了。我们当时没有用户,或者说只有 3 万用户。没有收入。我们处于 Gemini 模型生命周期的非常早期阶段。而快进到今天,显然不一样了——就在过去几天这个模型推出的时候,我收到了一堆来自生态系统中各方的消息。你肯定也收到了很多。我觉得人们真的、终于意识到这件事正在发生。但我很好奇从你的角度来看,你是什么感觉?再说一次,我当初就是因为相信会走到这一步才加入 Google 的,但你……
你也有那种“逆袭者”的感觉吗?我很好奇,你觉得当我们转过这个弯之后,这对团队来说会如何体现?我绝对有,甚至在那之前就有了。因为当 LLM 真正显现出强大威力的时候,非常坦诚地说,我觉得我们是前沿 AI 实验室,就在 DeepMind。但同时我也觉得,有些东西作为研究者我们投入得还不够,这也是我学到的重要一课。这就是为什么我总是非常谨慎地强调我们需要广撒网,这真的很重要,探索很重要。这不是关于这种架构或那种架构。我对团队一直很坦诚,大约两年半前当我们开始更认真地对待 LLM、启动 Gemini 项目时,我们一直——我也一直对团队很诚实地讲——我们离这里的 state-of-the-art 还差得远。很多事情我们还不知道怎么做,虽然有很多事情我们知道怎么做,但我们还没有达到那个水平。这是一个追赶的过程,而且已经追赶了很长时间。我觉得现在我们才处于那个领导者梯队中。我对我们当前的运作节奏感觉非常好、非常积极。我们处于一个很好的节奏中。我们有很好的活力,有很好的节奏。但是,是的,我们一直在追赶。你必须对自己诚实,对吧?当你在追赶的时候,你就是处于追赶状态。你必须看看别人在做什么,学习你能学到的,但你也必须为自己创新。我们就是这么做的。我觉得从某种意义来说,这就是一个很好的“逆袭者”故事,对吧?我们为自己创新,我们找到了自己的解决方案,无论是技术层面、模型层面、流程层面,还是我们的运作方式,这都是独一无二的。我们与整个 Google 一起运作,看看我们现在做的事情,这是非常不同的规模。我从不把这些事情看作——有时候人们也说,Google 太大了,这很难——
我把它看作我们可以转化为优势的东西,因为我们可以做到一些独特的事情。所以我对我们现在的位置相当满意,但我们必须通过学习和创新才走到这里。这是取得我们现在成就的好方法,而且还有很多事情要做。我觉得我们某种程度上还在追赶,还在逐步达到目标。总是会有比较,但我们的目标是构建智能,对吧?我们想做到这一点,想用正确的方式做到,这正是我们倾注全部心思和创新的方向。是的,我觉得接下来的六个月可能会和过去六个月、以及再之前的六个月一样令人兴奋。感谢你抽出时间坐下来聊。这非常有趣。希望明年 IO 之前我们能再坐下来聊聊。感觉那还有很久,但很快就会到了。我敢肯定下周就会有 IO 2026 的规划会议,把一切安排妥当。所以感谢你抽出时间。再次祝贺你和 DeepMind 团队,以及模型研究团队的所有人,让 Gemini 3、Nano Banana Pro 以及其他一切都成为现实。是的,非常感谢。这次对话非常棒。这也是一段了不起的旅程,很高兴有整个团队,也很高兴能和你分享这些。这太棒了。非常感谢你邀请我。我们准备了一份特别的小礼物。感谢你,也祝贺你和团队让这一切成真。哦,太棒了。非常感谢。非常贴切。
1500 point club。第一个模型,对吧?1501 给……
第一个模型。太客气了。非常感谢。