Nano Banana 团队:Gemini 登顶应用榜背后的图像模型突破
Ep 75: Nano Banana's Oliver Wang and Nicole Brichtova - Behind the Breakthrough as Gemini Tops the Charts

我们团队有一位产品经理,名叫 Nana。她凌晨两点半还在为这次发布加班,就在那时想出了这个名字,后来就一直用下来了。
我甚至都在试图构想,下一个 10 倍提升会是什么样子。
我觉得单是图像质量就还有很大的提升空间,而且个性化也是一个仍在改进的领域,技术层面也是如此。
我认为我们还只是触及了这里可能性的皮毛。
现在把它发布到世界上之后,实际情况是怎样的呢?对我来说最激动人心的是
Gemini 最近登顶了 App Store,这是自 ChatGPT 发布以来首次超越它。
是什么推动了这一成绩?如果你最近刷 Twitter 或上网,肯定已经看到了。就是 Nano Banana。这是一款非常出色的新图像模型,在角色一致性和图像质量上都实现了巨大突破。
今天在 Unsupervised Learning 节目中,我和两位在 Google 真正推动这一项目的人聊了聊,他们就是 Nicole 和 Oliver。我们聊了很多不同的话题,包括他们最喜欢的模型用例,以及大家现在是如何使用 Nano Banana 的。我们讨论了围绕优秀模型打造产品的一些挑战,以及他们如何解决空白画布问题,还有如何与其他图像编辑产品互动。我们还谈到了图像模型的未来、下一步是什么、前沿领域,以及它将如何与视频模型互动。这是一段非常精彩的对话,与我心目中当下 AI 生态的核心主角之一。那么,话不多说,请欣赏与 Nicole 和 Oliver 的这段对话。
Nicole、Oliver,非常感谢你们来参加节目。真的很期待这次对话。我感觉你们基本上已经用 Nana Banana 占领了我整个 Twitter 时间线,还有我任何一点空闲时间。我觉得今天我们会深入聊很多东西,但也许先从一个问题开始:你们显然在这款出色的模型和产品发布之前就已经在使用它了,而且我猜它最初可能是匿名发布到世界上的,但你们是最早一批上手玩的人之一。我很好奇,你们觉得哪些用例会最普遍,或者哪些最让你们兴奋,而现在发布到世界上之后,实际情况又是怎样的?
Oliver 看过我各种各样不同版本的脸。对我来说最激动人心的是角色一致性,以及看到你自己出现在全新场景里。所以我真的做了很多幻灯片,里面全是我出现在通缉令上、当考古学家,以及我童年梦想的各种职业。嗯,我们现在已经做了一个评估集,里面有我的脸,还有团队里其他人的脸,我们在开发新模型的时候就会用它来肉眼检查。
在 AI 界,能拥有自己的评估集简直就是至高无上的荣誉。
我非常、非常兴奋。所以我当时对角色一致性的能力特别激动,因为感觉它给了人们一种全新的方式去想象自己,而这种方式以前做起来并不容易。而这最终也是人们非常兴奋的其中一个点。我们看到很多人把自己变成手办人偶,这是一个非常流行的用例。有一个用例让我挺惊讶的,但也许本来不该惊讶,那就是给老照片上色。这对很多人来说是一个非常打动人心的用例,比如“我现在终于能看到自己小时候到底长什么样了”,或者“我能从这些黑白照片里看到我父母当年的样子了”。所以这真的很有趣。
我相信,在看到这些五花八门的用法的同时,拥有一个非常受欢迎产品的乐趣之一——我在 Twitter 上也看到了——你们肯定收到了成千上万的功能请求,对吧?每个人都想让这些模型做这个或那个。人们最常提的需求有哪些?你们又是如何思考这类产品和模型的下一个里程碑或前沿方向的呢?
我们在 Twitter 上收到最多的反馈是更高的分辨率。很多专业用户的需求目前是 1K 分辨率,所以他们想要更高的。还有很多关于透明背景的需求,因为这也是一个非常受欢迎的专业用例。这两大概是我看到的最多的,再加上更好的文字渲染。
你知道,显然角色一致性在很长一段时间里都是一个亟待解决的大问题,感觉你们已经在这方面做得很好了。在你们看来,图像模型下一步的改进前沿是什么?
是的,我觉得关于这个模型最让我兴奋的一点是,你可以开始问它更难的问题了。所以你不需要去定义你想看到的图像的每一个细节,而是可以像向语言模型求助一样去问它。比如,人们会这样用:“我想重新装修我的房间,但不知道该怎么弄,给我点灵感吧”,然后模型就能给出建议,比如“这个方案可能比较合理”,或者“考虑到配色,这些东西搭在一起会不错”。所以我觉得真正有趣的是,能够从语言模型中获取世界知识,这样我们就能让这些图像真正对人们有帮助,也许还能展示一些他们从未想过的东西,或者他们并不知道答案会是什么。也可能是一种信息查询请求,比如“我想知道这个东西是怎么运作的”,然后能够展示出一张图,“原来它是这样运作的”。我认为这是这些模型未来一个非常重要的用例。
我们目前在解决这个问题的进度如何?
嗯,你知道,当然,就那个具体的例子来说,美学总是有点棘手的,因为这需要相当深度的个性化,才能给出有用的信息。而我觉得个性化也是一个仍在改进的领域,技术层面同样如此。所以,我觉得我们离真正能够准确理解用户在问什么还有相当一段距离。但我觉得,只要稍加澄清,并且能够与模型进行对话——这也是我对这个模型非常兴奋的另一件事,你可以像在一个线程里一样跟它交流——然后你就能逐步细化,最终得到你想要的那张图。
你觉得个性化会只发生在 prompt 层面吗?比如最终你通过足够的澄清,就能给模型足够的上下文来实现个性化?还是说人们会有不同的美学模型?
我觉得会更偏向 prompt 层面。我想我们会基于用户告诉我们的关于他们自己的信息,比如各种偏好,从而做出更明智的决定。至少我希望是这样。当然,每个人都拥有自己的模型并提供服务,这听起来有点像噩梦,但也许那就是我们前进的方向。
但我确实认为,人们会有非常不同的审美偏好,对吧?而且我确实觉得在某种程度上,个性化必须发生在那个层面,因为即使你现在打开 Google 的购物标签页,大概也能看到这一点,对吧?
比如你在找一件毛衣,然后收到了一堆推荐,而你其实想要的是精准匹配自身审美的单品,并且能从你的衣橱里调取搭配,看看还有什么能配它。所以我希望这些很多都能在模型的 context window 里实现,对吧?因为我们应该能把衣橱里已有单品的图片输入给模型,然后让它找出真正搭配的单品。我对此非常期待。所以我希望我们能在这方面做到。也许你需要某种程度上的审美控制,超出模型本身自带的能力。但我猜那更可能发生在专业工作流中。
另外,我确信,显然在 LM 领域,甚至在图像领域,预训练所用数据中做出的很多决策实际上确实会影响模型的最终能力或审美。所以我想知道,未来是会存在一个被提示得极其出色、能覆盖全部图像用例的单一模型,还是说实际上会有各种专门的模型,比如那种酷炫未来风的,或者其他什么——我也不清楚具体分类有哪些,你比我更懂。但看看这一切如何发展会很有意思。
我认为,我们一直对开箱即用模型所能支持的用例范围之广感到印象深刻。不过,针对你刚才说的,有一点是:在一些面向消费者的用例中,它的价值已经很大了,比如你只是想快速勾勒某个东西放在房间里会是什么样子之类的。但一旦涉及到更高级的能力,你就确实需要引入其他工具,才能把它变成最终产品,并让它在营销或设计等工作流中真正发挥作用。
嗯,我敢肯定大家非常好奇,是什么让这些模型变得好这么多。
这里面有很多独门秘方。我觉得这属于那种听起来很无聊的情况——并不是什么单一的因素,而是要把所有细节都搞清楚,对吧?还有真正地把配方调校好,再加上一支在这个问题上钻研了很长时间的团队。我想我们甚至有点被这款模型取得的成功程度惊到了。就是说,我们知道自己做出了一个很酷的模型,也非常兴奋能把它发布出去,但当我们在 El Marina 上发布时,我们看到的不只是 ELO 分数很高——那当然很好,也是模型有用的好迹象。但对我来说,真正的指标在于,实际上有大量用户为了使用这个模型而涌向 LM Arena。
是的。
我们不得不持续提高每秒能支持的查询量,而我们完全没预料到这种情况。我觉得这才是第一个真正的信号,表明这东西真的很特别,有很多人需要这个模型。我认为这是整个生态系统中最有趣的部分之一:你自己做模型的时候显然对它有一定了解,但只有把它放到真实环境中发布,你才真正理解它的能力有多强。而显然,这次确实引起了共鸣。显然,模型的一些推理能力确实是由 LLM 自身的进步所驱动的。我想稍微展开一下:图像模型在多大程度上受益于 LM 的这些改进?你是否预期随着 LM 的持续进步,这种受益也会持续下去?
嘿,大家好,我是 Brashad,《Unsupervised Learning》的制作人。这一次我不是来请大家给节目打分的——虽然那总是很受欢迎。但我想请大家帮另一个忙。今天我们在做一份简短的听众调查,大概三四个问题,能让我们了解哪些内容引起了共鸣,以及我们最终如何让节目对你们听众更有用。调查链接在本期节目的描述里。我保证,只需要两三分钟,但对我们帮助巨大。我们总在努力让节目更好,而这就是一种支持方式。好了,就说这些,现在回到对话。
图像模型在多大程度上受益于 LLM 的这些改进?你是否预期随着 LM 的持续进步,这种受益也会持续下去?
是的,它们肯定受益了,甚至可以说几乎百分之百受益于语言模型的世界知识。我是说,关于 Gemini 2.5 Flash Image——也就是这款模型的名字——它的特点是……
名字更有趣一点,不过是的,那个……
那个说起来顺口一点。
我确实在想,我们的成功有多大程度上仅仅是因为人们喜欢说 nano banana 这个名字。不过,是的,你知道,它是一个 Gemini 模型,所以你可以像跟 Gemini 对话一样跟这个模型交流,它理解 Gemini 理解的所有东西。而这其实我认为是这些模型在实用性上一次非常重要的阶跃式提升——把它们和语言模型整合在一起。
是的。你可能还记得,过去的情况是,三两年前你必须对模型提出非常具体的指令。比如一只猫坐在桌子上,背景必须是这样,颜色必须是那些。而现在你不需要这样了。很大程度上是因为语言模型已经变得好太多了。
是的。并不是后端在进行什么神奇的 prompt 转换。我觉得那才是当年的权宜之计——你写一句话,他们把它扩展成十句话的 prompt,确保足够具体才能出好结果。但现在感觉模型已经足够成熟,能直接理解你的意思了,这很令人兴奋。从产品角度我有一点好奇,我觉得使用这些产品的人非常多元,对吧?有一类人,我猜产品一发布就蜂拥到 Elmarina,他们知道自己想用它做什么,是玩转这些工具的专家。而另有一些人可能只是 Gemini 的普通用户,面对着一块空白画布无从下手,他们会问:"我们到底能用这个产品做什么?"我很好奇,你们是怎么考虑为这两类不同用户打造产品的?
我们还有很多可以做的。而且正如你所说,我们已经做了不少,对吧?我认为 Elmarina 那批用户,甚至包括开发者,他们都非常老练。他们知道怎么用这些工具。他们想出了一些我们都没想过的用例。我们看到有人能把照片里的物体变成全息图。这不是我们训练过、也没预期它会擅长的事,但显然模型在这方面非常出色。而对普通消费者来说,让一切变得极其简单非常重要。所以即使现在,当你打开 Gemini 应用,你也会发现到处都是香蕉表情。
我们这么做是因为意识到,当人们听说了这个功能,然后打开应用想试试时,他们很难找到那个"香蕉"入口,应用里并没有一个显而易见的地方去使用它。
我们做了大量工作,与我们合作的创作者一起探索其中一些 use case,并将示例直接发布出去,这些示例会链接回 Gemini app,这样 prompt 就会自动填充。我觉得在解决 zero state 问题、为用户提供视觉引导方面,我们还有很多可以做的。此外,在编辑图片时引入 gesture 操作,使其不全都基于 prompt,这方面我们可能也还有很多可以做的。有时候当你想要非常具体的效果时,仍然需要相当长的 prompt,而对大多数消费者来说,这并不是一种自然的操作方式。
所以我会尝试“父母测试”:如果我的父母能用,那大概就够好了。但我觉得我们还没到那一步。我们还有很长的路要走,但很多其实归结于“展示,而非告知”,给人们提供容易复现的示例,让分享变得非常简单。所以对 Oliver 来说,这并不是一个神奇的单一答案,而是涉及很多事情。
我们注意到的另一点是,社交分享其实是解决 blank slate 问题的非常重要的一部分。因为人们会看到其他人正在做的事情,而且模型默认就是可以个性化的,你可以在自己、朋友或宠物身上尝试,人们看到后会很自然地想说“我也来试试,看看效果怎么样”。这是我们这款模型如今得以传播的一个非常重要的方式。
如今你与这些模型的交互方式全都是通过文本。从长期来看,还有哪些设计界面让你感到兴奋,人们可以以什么方式与它们交互?
我觉得我们在这里只是触及了表面。最终,我设想所有这些 modalities 会融合在一起,然后拥有一种界面,能够根据你实际想做的事情自动选择合适的方式。我觉得即使现在,也正朝着这样一个方向发展:LM 不仅仅输出文本,而是在与用户查询真正相关时,也能输出图像和可视化解释。所以我觉得语音方面潜力巨大,这是一种非常自然的交互方式。我觉得还没有人真正破解如何将其呈现在用户界面中。我们现在仍然很大程度上是在输入你想输入的内容。
所以某种语音配合 gesture 的组合。如果你想从图片中擦除一个物体,你应该能够像在草稿纸上一样直接擦除。再说一次,如何做到这一点,以及如何根据任务在不同 modalities 之间无缝切换,这是我非常期待的方向,而且在弄清楚这实际上应该是什么样子方面,还有很大的 headroom。
是啊。你觉得如今 voice UI 的限制是什么?我是说,我完全能想象对着这些图像说话。
我觉得部分原因可能只是优先级问题,因为我们还在推进很多模型能力。过去几年语音显然已经变得非常出色。所以我觉得我们会开始看到有人接手这件事并思考这个问题,可能我们也会做一些这方面的工作,尝试思考这会是什么样子。我觉得问题的一部分其实在于如何检测意图,以及如何根据用户意图和他们实际想达成的目标切换不同模式,因为这并不明显;而且你最终可能又会得到一个像 blank slate 一样的界面,那你怎么向用户展示什么是可行的呢?
因为这是另一件非常有挑战性的事情。我们看到用户进入 chatbot 时,他们期望 chatbot 能做任何事情,对吧?因为你可以像跟人类说话一样跟它交流。但其实很难解释它的局限性。当工具现在能做这么多事情时,很难向人们展示你能做什么。所以我觉得部分问题在于如何界定问题范围?如何在一种最终能帮他们完成几乎任何任务的 UI 中,向人们展示什么是可行的?
完全同意。而且感觉如果你在任何一个时间点教用户 chatbot 能做什么、不能做什么,最多三个月后这就变了。所以你总是需要重新教他们那些同样的能力。我觉得这是很多做消费者和企业级产品的人都面临的非常有趣的产品挑战。
你之前提到了 evals。我猜 Nicole 你有自己的 eval 数据集,不过我很好奇,一般来说图像模型的 eval 是什么样的?除了把东西放到 LM Arena 上之外,从你开始追踪是什么让这些模型变得更好以来,有什么心得?
是啊。语言模型和视觉语言模型变得更好的一个好处是,开始出现一种反馈循环:我们可以利用语言模型的智能来帮助评估它自己生成的内容,这形成了一种良性循环,让我们能够持续改进这两个维度。这非常令人兴奋。但最终,人们才是他们试图为自己创建的图像的仲裁者。所以这就是为什么我认为像 LM Arena 这样的案例,用户输入他们自己的 prompt,这才是评估模型的最佳方式。
所以 taste 也很重要。Oliver 不会这么说,因为他很谦虚,但他是团队里眼光特别好的人之一,能看出这些东西看起来怎么样,是否有效,图像中的缺陷在哪里。所以我们团队里确实有几位这样的人,他们会做大量这种我们称之为“肉眼观察”的初始评估——非常专业的术语——观察训练中的模型输出实际长什么样。这仍然扮演着相当重要的角色。然后关于你的问题,我们确实收到了很多反馈,包括在 X 上,关于哪些有效、哪些无效。然后我们确实会尝试调整我们的 evals,既要捕捉到那些有效的点以免 regress,也要捕捉到社区希望我们推进的无效的点。所以,请继续给我们反馈。
这在某些方面感觉比一些 LLM 处理的法律 use case 要难得多,因为后者有某种相对正确的答案。模型出现偏差的地方,会有某种真正有效的纯 eval 数据集。因为图像是如此主观,所以几乎很难判断——我确定有些东西,比如角色在逐代生成中是否保持一致?可能有一些可以延续的东西——但这种主观性一定让确定该朝哪个方向努力变得非常有挑战性,对吧?
对了,我必须要问,这个名字背后的故事是什么?
我们团队有一位 PM,她叫 Nana。她在凌晨两点半还在为这个发布工作。然后她想出了这个名字,因为它很有趣,就一直沿用了下来。而且现在也作为一个 semi-official 名称固定了下来,因为就像你说的,Gemini 2.5 Flash Image 说起来有点拗口。
是啊。
我是说,这显然非常成功,连 Google 的 CEO 都在发推说香蕉,这个名字已经,呃,这个名字已经深入人心了。
嗯,从品牌角度来看,我猜收获是,你的名字应该配一个合适的 emoji,因为这会让它更有记忆点。
是的,我觉得 Hugging Face 是 AI 领域最早(OG)意识到这一点的,靠他们的 emoji,但看起来我们离公司股票代码也变成 emoji 已经不远了。
我想转个话题,另一个有趣的部分是,我们之前暗示过的,你有非常资深的用户在使用这些产品,也有面对空白屏幕不知道该怎么办的人。你看到的资深用户都在做什么?
我有一个特别喜欢的资深用例,而且我职业生涯大部分时间都在做视频。所以我非常喜欢视频工具和创作工具,我们发现,Nana Banana 最终成为一种非常有用的方式来制作 AI 生成视频,结合像 V3 这样的视频模型,因为你可以更快地构思,可以规划镜头,有趣的是,人们拍电影也是这么计划的,对吧?他们先从分镜板开始,有故事和视角,所以人们已经开始这么做,并构建更连贯、更长的长篇内容。
人们在实际的建筑工作流程中使用它,这让我印象深刻。你可以从蓝图到看起来像 3D 模型但其实不是 3D 模型的东西,再到开始看起来像设计的东西,你可以在上面迭代,它缩短了很多流程中非常繁琐的部分,然后让人们能够真正投入到流程中那些有创意、有趣、他们真正喜欢的部分。所以我认为我有点惊讶,它开箱即用就能达到这么好的效果。
这就像所有这些 vibe coding 的图像用例,把最初的基础搭起来并在各个不同领域运行。
另一件事是,你现在可以 vibe 设计网站 UI 了。从 prompt 到网站代码生成,我一直觉得这个过程有点突兀,感觉缺少了一个步骤,你可以真正对设计进行迭代、修改,并且非常快速地完成。所以我们现在已经到了可以开始做这些事的阶段,然后你可以在对效果满意之后再写代码。
对。你认为这是未来的工作流程吗?我是说,这非常合理,如果生成的代码出来后你会觉得,不,这个审美完全不是我想要的,或者看起来根本不像我想要的,那为什么要执行,为什么要花 token 在代码上呢?正如 Oliver 所说,这也更有趣。这就是人们实际在现有工作流程中使用这些技术的方式,适应起来感觉很自然。但我认为,LLMs 进步如此之快,你可以直接从 prompt 生成网站,这非常令人印象深刻。我觉得让人们在这个中间地带迭代很有趣,可以确保它符合你的审美。
显然,你们既提供模型也提供 API。所以模型之上会有各种各样的界面和用例。你怎么看待那些适合放在像 Gemini 这样的通用聊天工具里的功能,以及那些你想通过其他产品体验来实现的功能?
我觉得它们非常不同。我们看到人们去 Gemini 做很多这种快速迭代,对吧?我们团队里已经有人在尝试重新设计他们的花园。所以他们会去 Gemini app 想象它可能的样子,然后他们可能会去找景观建筑师,将其塑造成他们愿景的样子,协作并进一步发挥那个想法,对吧?所以这其实是构思过程的第一步。它很少是你真正要做的最终成品,对吧?而对于很多专业开发者来说,你正在构建复杂得多的工具,会串联多个模型,所以这是一个复杂得多、多工具结合的旅程。聊天机器人在帮助你起步、给你灵感、支持很多有趣且可分享的用例方面真的很棒,这样你可以和家人朋友分享。我觉得这种模式可能还会继续存在一段时间,因为那些有更复杂工作流的高级用户总会希望回到一个更以视觉为先的界面,而不是聊天机器人。
那编辑工作流在这个体系里最终处于什么位置?显然,在初始生成和起步阶段使用这些工具非常合理。我想你们也在为 Adobe 和其他一些工具里的 API 提供支持。Oliver,我知道你以前在那里工作,在那些进行经典编辑的地方。你认为这些编辑工作流最终会变得非常不同吗?显然,你今天只用核心模型也能做一些轻度编辑,或者你认为要把东西从 95% 完成做到 100%,仍然会看起来像过去那种经典编辑工作流?
我认为这在很大程度上取决于用户。有些用户对他们想要的东西有非常非常清晰的概念,精确到像素,对于这种用例,我觉得我们必须将其与现有工具以及所有现有功能整合,比如在 Adobe 产品里能做的那些。而有些用户真的只是在寻找灵感,要求没那么严格,对这些用户来说,能够在聊天机器人里快速获得想法就完全够用了。所以两者都是模型重要的应用方式。
说到像素级控制,两天前我学到一件事,当你在为不同产品、不同品牌制作广告时,包括模特在广告中看向哪里在内的因素都非常重要,因为你的目光落在哪里会影响它传达的信息,对吧?而这种控制程度是很难通过聊天机器人实现的。所以我认为对于那些用户、那些用例,你仍然需要专业工具,需要非常精确的控制水平。
我认为这归根结底取决于哪些东西能用语言描述,哪些不能,因为语言是传达高层级想法的好方式,但如果你想把某个东西向左移动三像素,这就不是最优雅的方式。所以
我确实认为两者都有存在的空间。
我想,如果你观察一个真正的艺术家或创作者从头到尾完成整个工作流,他们可能很难准确描述自己正在做什么。这里面有一种感觉,是你实际操作时的直觉。Google 内部有很多人对以不同方式使用这项技术感到兴奋。
那么你对此感到兴奋的点有哪些?比如图像模型在 Google 的各项业务中普及开来,渗透到这么多不同的事情里?
我觉得有很多。我是说在创意方面,你可以想象 Google Photos 是一个做图像编辑非常令人兴奋的地方,对吧?因为你的图库就在那里。所以比如说把一张全家福变成生日贺卡,这是我每年有几次会用到的场景,能直接在那里完成,我觉得非常令人兴奋。
然后回到 Oliver 一开始提到的观点,我觉得这种事实准确性——或者随便我们怎么称呼它——这一类应用场景在很多不同的 Google 产品界面上都会非常令人兴奋。比如你想让模型向你解释光合作用,而你是一个五岁小孩,要用一种你知道在互联网上可能根本找不到的视觉化方式来讲解。我们应该能做到这一点。
所以我觉得这又会打开一整套应用场景和机会,让人们能够以量身定制且高度视觉化的方式学习。因为很多人都是视觉型学习者。
另一个我觉得很酷的是 Workspace,比如 PowerPoint 和 Google Slides。如果能做到让人们制作出非常有吸引力、而且不是千篇一律的演示文稿——不再是同一套 bullet points——那就太好了。
作为一个职业生涯从咨询行业起步的人来说,那将是不可思议的。如果我们能做到的话。天知道我在格式排版这些东西上花了太多时间。
是啊,你以前还得先在白板上用 storyboard 规划幻灯片的样子,对吧?先写好确切的标题,然后想着“哦,我需要在这页左边放一个图表来展示这组数据”。如果能把这个直接丢给 LLM,让它帮你承担大量繁琐工作,那就太棒了。我对这部分非常期待。
直接给白板拍张照就行。是啊。
拍张白板的照片,然后直接就生成了。听起来很棒。
也许我们应该退一步,从更宏观的图像模型版图来看。我觉得自从 Stable Diffusion 和 Midjourney 出现以来,这一领域简直是突飞猛进。Oliver,你能否从背景上帮我们梳理一下:回想过去两三年图像生成模型的发展,主要的里程碑有哪些?你会如何描述我们走过的这条路,以及事情发生了多大程度的变化?
是啊。天哪,这绝对是火箭般的速度。我是说,我在这个领域工作那会儿,GANs 还是生成图像的默认方法,我们当时对 GANs 的能力感到惊叹。但它们其实只能生成非常窄的分布,基本上就是:我们能生成看起来还不错的人像,但只能生成那种正面朝向的人像。
然后我想我们开始看到一些真正具备泛化能力的模型出现,能够用完全 text-driven 的方式控制生成任何内容。不过一开始它们规模很小,噪声也很大。但在那个时候,我们很多人就觉得:哇,这将会改变一切。
于是我们都开始把精力投入这个领域,但没人能预料到它的进步速度。我觉得这要归功于有很多实验室里绝对优秀的人才在解决这些问题,再加上实验室之间这种良性竞争——看到另一个团队推出了惊艳的模型。
你知道,很长一段时间里,Midjourney 遥遥领先于所有人。它生成的图像看起来太惊艳了,这真的很激励大家:天哪,他们是怎么做到的?怎么能看起来这么好?
然后当然,Stable Diffusion 作为开源模型问世,让我们真正看到了开发者社区的规模,以及到底有多少人想基于这些模型去搭建东西、创造东西。所以那显然是另一个爆发点。
但从那之后,在这个领域工作一直非常有趣。虽然有时候可能也有一点点……一点点沮丧,因为我觉得人们——模型不仅变好了太多,人们的期待也变高了太多。
所以你现在会看到人们抱怨一些很小的问题,而你会想:天哪,你不知道我们为了让这个模型做出来付出了多少努力,就在一年前,我们还在看那些根本一点都不真实的图像,而那时所有人都觉得很神奇。
所以你看,人们对新技术的厌倦能力真是惊人。
确实感觉如此,我是说拿 LMs 来说,对吧?我们拥有这种极其强大的技术,要是回到2017年你告诉我们会有这样的东西,我们绝对会目瞪口呆,但我们仍然在抱怨它们所有存在不足的方面。这是人性中很有趣的一部分。
回过头来看,是什么让 Midjourney 在这个领域取得了如此巨大的领先优势?我觉得有一段时间它简直就是那个品牌,你知道的,显然是所有人都会去的地方。
是的。我是说,Midjourney 比其他人更早弄明白如何做 post-training,特别是如何对这些模型做 post-training,从而为你提供具有特定风格和艺术感的图像。
而这正是他们的核心优势所在:专注于如何让用户控制风格,以及如何确保无论你生成什么,看起来都会很惊艳。
而且在最初这真的很重要,因为当你能把生成图像的领域缩小到只生成好看的那部分时,你在对这些图像做 jittering 的时候其实也能做得更好。
所以在当时,先从那一小部分非常好看的图像入手是一个很好的阶段。然后我觉得所有模型——包括 Midjourney 在内,以及所有其他模型,比如 Flux 和 GPT——自那以后都在不断扩展,现在能够生成种类广泛得多的图像,同时仍然保持质量。
是什么让模型具备了生成更广泛图像集的能力,而不用像之前那样手动挑选完美的样本放进去?
嗯,有很多因素。我们都弄清楚了各种细节,特别是数据应该是什么样的。与此同时,你也有这种自然的 scaling curve,所有模型都在变大,每个人的算力都在变强。所以那些当时不可能做到的事情现在开始奏效了,因为你可以用更大的规模去做。
是的。然后你之前也暗示过,我们在图像模型上已经取得了如此大的进步,我分不清是只剩下10%的提升空间,还是说实际上——三年后我们回头看时会觉得,当时居然觉得那些图像模型已经很好了,这真可笑。你怎么看?我是说现在生成的图像已经相当不错了,我甚至很难想象下一步10倍的提升会是什么。
是啊,我完全站在后者那边。我觉得在图像质量方面,我们还有很长的路要走——先别想其他应用,单说图像质量,我认为还有很大的提升空间。而且我认为这最终将体现在模型的表达能力上。
所以,我们知道,现在基本上可以完美地生成某些东西,没人能看出这是一张生成的图像,它与现实无法区分。但一旦你超出人们经常尝试生成的那些常见主题范围,质量就会迅速下降。你可以看看那些需要更多想象力、更像是将多个概念组合在一起的提示词——这些就会很快失效。所以我认为,未来的模型中,尽管今天最好情况的图像可能和几年后最好情况的图像看起来一样好,但今天最坏情况的图像会明显更差。因此我们只是让模型变得更有用,应用范围更广,而且我们发现,我们把它们做得越通用,人们发现的使用场景就越多,它们也就变得越有用。
我很好奇,你怎么看待这个更广泛的图像模型领域的发展。如果我要拿它和 LLM 领域比较,真的,我不知道该怎么说。我感觉像是你们 OpenAI、Anthropic,然后还有很多其他人,也许在做一些稍微落后一点的不同东西。你认为图像模型的格局会类似地发展吗?
是的,我认为这是个好问题。到目前为止,我认为图像一直是一个小团队也有可能开发出真正最前沿图像模型的领域。我是说,我们已经看到了这一点。有几家小型实验室做出了非常厉害的模型。我希望这种情况能够持续下去,因为我很喜欢有小型实验室在做这件事。但就像我之前说的,这些模型的世界知识,以及让它们变得更有用,我认为这些事情真的能从规模中受益,尤其是随着语言模型的规模扩大。所以我怀疑,我们可能会看到,那些能够训练大型语言模型的团队,或者说那些拥有具备所有世界知识的图像模型的团队,也会是同样的群体。我们看到类似的趋势,中国的大型实验室也在推出非常厉害的模型,这和语言模型领域一样。所以我认为,它们也将成为图像领域的主要玩家。
你认为对于图像模型来说,使用最好的开源模型相比最前沿的闭源模型,劣势有那么大吗?
这是个好问题。我觉得这有点取决于开源模型的未来,而你知道,这是变化非常频繁的事情。我想也许一年前,这看起来还是一个非常稳妥的选择,而现在可能没那么稳妥了,但我不知道开源模型的未来会怎样。这绝对是一种可能性,而且那也能支撑很多小型实验室训练出好的图像模型。绝对可以。
对了,Oliver,我想厚脸皮地问你一个问题,因为你提到你在视频领域工作过一段时间,而我一直很想弄清楚图像模型和视频模型之间的关系。显然,你的同事们在视频方面取得了巨大进展,随着他们最近发布的视频模型。这些工作是分开的吗?它们会相互借鉴吗?图像和视频领域如今是如何互动的?
它们关系非常密切。我是说,我认为未来,我们都在朝着 omni models 发展,对吧?就是那种能做所有事情的模型。出于很多原因,这些模型具有优势,而且从长远来看可能会最终胜出。我不知道,但我想说,我们为图像生成学到的很多技术,也被应用到了视频生成模型中,反之亦然。所以视频生成之所以能起飞,原因之一就是作为社区,我们学会了如何解决这类问题。所以我想说,它们是非常亲密的朋友,我们分享了很多东西,也许有一天我们会住在一起。
是的。我猜你是指,做这些东西的技术在不同模型之间最终看起来是相似的。
是的,完全正确。
甚至在工作流程中也是如此,对吧?很多人最终会以非常互补的方式使用这些模型。所以如果你是电影制作人,正在拍电影,首先很多最初的迭代发生在 LLM 领域。然后在画面或图像空间中进行迭代就很有意义,因为那样做更快、更便宜。接着你才会转到视频。所以我认为,即使仅从工作流程和可用性的角度来看,这些模型之间也存在一定的互补性,而且我们要解决的使用场景和问题很多都是相似的。比如一致性——角色、物体、场景,对吧?图像领域存在这个问题,视频领域也存在,在视频中变得更复杂一点,因为你必须在多帧之间保持一致。
是的。你觉得视频方面接下来要解决的问题是什么?
我认为,拥有与最新一代图像模型同等程度的控制能力,这显然会在视频领域产生巨大影响。所以这是值得关注的一点。我认为视频团队也在致力于提高分辨率、时间一致性,当然,能够在多个场景中生成同一个角色——每当你看看人们想要什么时,这总是排在最前面的。所以我想说,朝着更具连贯性的长内容方向发展,肯定是一个未来的方向。
而且听起来你可以在图像场景中解决其中一些问题,很多东西最终都可以迁移到视频领域,这很酷。
这是一次很精彩的对话。我们总是喜欢以一组标准的快问快答来结束采访,我会把一些过于宽泛的问题塞到采访的结尾。那么也许先来说说你认为当今更广泛的 AI 领域中,什么被过度炒作了,什么又被低估了。
我认为被过度炒作的是这种想法:你只需要一个简短的提示词,就能直接得到可以在任何地方部署的生产级解决方案。我确实认为还需要大量的迭代。而且即使你看人们在社交平台上发布的很多东西,实际上要制作出最终产品并分享出来,仍然需要大量的工作。所以我认为这有点被过度炒作了。被低估的则是未来的 UI 会是什么样的?我们已经讨论过这个,但这一切实际上如何整合在一起?如何让人们更容易使用这些模型,向他们展示什么是可能的,然后让它们对特定的工作流程有用?
你有没有看到什么产品让你感叹:"哇,这是对 AI 的 UI 的一个非常有趣的新尝试"?
我还在等。我还在等。
我喜欢基于节点的界面,但我不认为我能代表所有人。
这对这来说是非常专业化的受众。
是啊。是啊。嘿,反正每个人都会拥有自己的 UI,对吧?在未来反正会这样。所以也许这将是一个专业化的时代。你认为图像模型的进步明年会比今年更多、更少,还是差不多?
我希望有更多人——对,有更多聪明人在研究这个问题,投入更多资源。我认为我们在各个维度上都会看到,变化将会加速。是的。
好吧,你们显然已经凭 nano banana 占领了互联网,所有人都在关注它。AI 图像领域还有其他你在关注、但觉得没有足够多人思考或留意的事情吗?
我认为是事实性这个维度。即便看到人们用 Nano Banana 做的事,比如制作信息图,或者拍一张尼亚加拉大瀑布的照片让模型做标注,作为演示它做得还不错,看起来挺好。但当你仔细去看,文字有点混乱,不够准确,还会重复信息。所以我认为这是一个前沿方向,但没有太多人在关注,不过我预计它会越来越好。
这与文本语言模型也有很强的类比性,因为当 GBT1 和 GBT2 问世时,人们发现,哦,这些挺酷的,可以让它们写俳句,或者做一些创意任务,这些任务的可接受答案范围更广。但现在人们已经不怎么用语言模型做这些了。现在他们用来获取信息,也用来对话、建立个人联系,或者找人倾诉。所以我认为我们在图像领域也能找到所有这些的类比,我们从创意工具发展到信息获取工具,而且也许当人们需要找人聊天时,最终会跟视频模型对话,这是我们在未来可以看到的。
而且我认为模型还应该变得更加主动,因为现在你总得主动要求,比如我想要一张图片,但如果查询本身需要一张图片——实际上我们对搜索已经很习惯了,对吧?你习惯去搜索一样东西,有时返回的是文本,有时是文本加图片,有时图片就是正确答案。所以我也预期这些模型会变得更加主动、更聪明,懂得根据你的提问调整与你的交流方式,以及如何运用这些不同的 modalities。
我很喜欢你们能够无缝来回切换。回到你之前的观点,这里如此多的改进似乎确实围绕可靠性展开。在语言模型早期,我们曾瞥见“哇,这太酷了”的瞬间,但它的稳定性还远远不够,无法用于更多工作场景。图像模型似乎也会遵循类似的模式。
这次采访最重要的问题肯定是:你们俩各自最喜欢哪一件用 nano banana 创作的内容?好的。我最喜欢的内容是跟我的孩子们一起玩这个模型,比如把他们放到有趣的地方,或者让他们的毛绒玩具活过来,这类东西,因为它们非常私人化,是我可以和他们一起做的事,而且他们很喜欢。所以我认为这类内容是最……是的,对我来说绝对是最有价值的。
太棒了。我觉得人们很喜欢……
那个。是的。
是的。人们喜欢用语言模型给孩子讲睡前故事。现在我们进入了图像领域,很快你就能制作电影,把你的孩子放进电影里之类的。这将是一个……不,这真是一个令人兴奋的未来。
嗯,我想确保把话筒交给你们。除了在互联网上点击 Gemini 里各种各样的香蕉之外,大家还能去哪里了解更多关于你们和产品的信息?你们想给大家指路的,现在舞台是你们的了。
请务必去点击那些香蕉。Gemini 应用、AI Studio,你们知道在哪里找到我们。我们俩都在 X 上,所以……来找我们吧。给我们反馈。
是的,如果你发现什么不好用或者很烂的东西,一定要标记我。这非常有帮助。
太好了。我们希望人们能为此做出贡献,我们也会把链接放出来。但非常感谢你们两位。这次聊天非常愉快。
谢谢。