Bill Peebles · OpenAI Sora 负责人

Sora 三位主创复盘意外爆红:登顶 App Store 与视频模型如何学会物理

2025-11-03 · Unsupervised Learning (Jacob Effron, Redpoint) · 1h3m · 原文链接

→ 在 AI 访谈库中阅读(可切换中英、记录进度)
Sora 核心三人组复盘 App Store 登顶全过程:cameo 功能的产品打磨、内容审核与商业化路线、视频模型如何学会物理。最具体的信息:上线时整个团队不到 50 人,他们还详解了为何刻意把产品设计成'反无脑刷'、优先创作而非消费。

我感觉自己请到了 AI 生态圈的绝对主角。人们非常有创造力。这是一个社交网络。社交网络的核心是人和关系。哪怕只是把创作者和消费者的比例改变 1%,都会对整个世界产生巨大影响。名人和权利方正在飞速地经历对这一技术的理解过程,以及学习如何使用它。

Jack 发的都是爆款。对了,我认为,如果能通过在视频模型中模拟某种现象而取得首个科学突破,那将是一个疯狂的里程碑,对吧?你预测这会是什么时候。如果到……我们还没有取得这样的突破,我会很震惊。Sora 在过去这个月里席卷了全球。它登顶了 App Store,催生了无数搞笑视频。今天我很荣幸能和 Bill、Rohan 以及 Thomas 聊聊——他们是 OpenAI 里在 Sora 背后缔造这一切魔法的核心人物。这次对话非常有趣。我问了他们所有我关于 Sora 的好奇。我们聊了他们对 Ben Thompson 那篇关于 Sora 的文章的看法,也聊了他们在把 Sora 做成一种社交体验时考虑的关键产品决策。我们聊了视频模型的现状、过去几年的进展,以及接下来的未来里程碑——包括在全新物理现象发现方面的突破,还有他们对这些突破时间线的预测。我们还谈了视频模型整体上如何融入更广阔的 OpenAI 生态,包括未来 ChatGPT 的整合。能跟这三位才华横溢的朋友聊视频生态里的这些事,真的太有意思了。我觉得大家会很喜欢。话不多说,有请 Sora 团队。各位,我特别兴奋能做这期节目。非常感谢你们来这儿。谢谢邀请。我感觉自己请到了 AI 生态圈的绝对主角, 作为一个播客主持人,能得到这样的机会挺有意思的。所以谢谢你们。我觉得今天有很多想聊的话题。也许先从这里开始吧:ChatGPT 发布时有很多故事,说它本来没被寄予厚望,然后突然就爆发了,变成了一个被海量用户使用的消费级产品。我很好奇 Sora 是不是也一样?或者说,你们当时预料到了这种反响吗?第一天有什么好玩的故事吗?说实话,我没料到能连续一个月登顶 App Store。但这是那种事后回头看才觉得理所当然的事——研究团队简直火力全开。OpenAI 向来很擅长制造这种病毒式传播的瞬间,所以很高兴我们做到了,但这超出了我的预期。我觉得 Bill 身上有一种无可救药的乐观。其实不是无可救药。不是无可救药。我记得有个梗图。发布后一两天吧,当时我们排 App Store 第三,然后 Bill 就在那嚷嚷着要第一。我猜 Sam 是不是把你关进笼子里了还是怎么着 ,说非要拿到第一才放你出来。所以我那条推文大概得了 2500 个赞,然后 就靠这股意志力把它实现了。要知道,我在 Instagram 做过很长一段时间,经历过各种社交媒体产品,有成功的,也有失败的。所以我通常非常务实、非常现实主义。但我得说,那种乐观其实非常重要。最后我们真的登顶了 App Store,这完全超出了我的预期,太疯狂了。不过看到这一幕真的很开心。所以我想,这其中肯定有一部分是你得提前预留 GPU 算力,对吧?基于你的预期来预留。我一直很好奇,你们到底是怎么搞定这件事的?这真的不算一门科学。 很大程度上,我觉得整个行业都面临算力吃紧,不只是 OpenAI。当然,当我们推出一个全新的产品 surface,而且像视频这样如此消耗算力,公司其他部门就得做出些牺牲。OpenAI 有一点非常好,这也归功于 Sam,就是每个人似乎都对彼此的成功有种集体投入感。当 ChatGPT 发布了那些很棒的视觉生成新功能时,我们也希望确保那些体验足够好,用户在 ChatGPT 里能有很棒的体验;同样地,公司也非常看重 Sora 的成功,大家都明白我们需要下这些新赌注,这对公司的长期发展至关重要——不只是要有一个超级成功的、面向 LM 的消费级产品,也要在视频领域做出赢家的产品。每个人都愿意出一份力,在战时状态尽自己的一份力。那你们是什么时候想到要把 Sora 做成一个独立 App 的?这从一开始就很显而易见吗?这并不总是显而易见的。我觉得我们对这项技术能成为什么、它将如何改变 UGC 和媒体整体,一直有着清晰的愿景和很大的野心。然后如果你再结合我们在模型上的实际体验——嘿,在多人模式下有种非常特别的东西,我们甚至在 Sora 上也看到了这种涌现行为——AI 让人们能极快地参与到潮流中,也能极快地创造潮流,我们在其他视频生成软件上已经看到这种情况了,它正越来越多地席卷社交媒体。另外说到图像生成,我们推出图像生成的时候太惊艳了,在 ChatGPT 里直接爆火,人们喜欢把自己放进那些奇妙场景里。所以关于在视频里看到自己、把自己投射进去这件事,我们就想再进一步——和朋友一起这么做。我们在内部感受到了这种魔力,而一旦感受到,这就成了一个非常容易的决定。还有一点要补充的是,这些 surface 未来走到一起并非不可能,但 ChatGPT 现在给人的感觉是非常单人的,这在某种程度上是神圣的。因为如果你不知道自己在 ChatGPT 里做的东西到底是公开的还是私人的,会感觉很突兀。所以我们也对此很敏感。是的,其实这条路很长。是的,一段……

你知道,今年对我来说至少是在思考,在这个更大的语境下“社交”到底意味着什么,我们一路上做了很多古怪的原型。我非常高兴最终落到了 Sora 身上,但说实话我并不确定,产品旅程总是极其……

你们扔掉了最奇怪的东西是什么?我们曾经在 ChatGPT 里做了一个纯社交媒体信息流的原型,并在内部试用。我当时就想,说到社交,第一个念头就是,我们有 ChatGPT,为什么不加一些社交功能进去,看看会是什么样?我们开始用它的时候,正好是在图像生成推出之前。我们看到的是,我们搞了一种 threaded 结构,有点像 Reddit。然后我们会看到非常长的互动链:有人发了一张图,然后有人说,“好,现在让它叼根雪茄。”比如一只鸭子。先是一只叼着雪茄的鸭子。现在把它倒过来。现在把它变成红色。你会看到图像不断演变,真的很酷。就像是这些小段的 meme 链条。嗯,那感觉非常特别。这让我想到 Rohan 说的,那种效果其实没有生成式 AI 根本做不出来,因为创作太难了,要 remix、要对某个素材即兴发挥都太难了。所以我觉得那是我们做过最古怪的一个。嗯,经过这段漫长曲折的产品旅程,Sora 模型变得越来越好。我们一直想做些非常有野心的事,真正大规模部署它们,幸运的是,它刚好完美契合。你知道,image gen 很酷,但视频在某些方面更酷,尤其是在这个场景下。听起来,从图像工作中你们就隐约知道 cameo 会成为这些强大模型的杀手级功能。我也不知道我们当时是不是真的知道。 有意思。我是说……

对,就是那种事后看来才显而易见的事。对,很明显,但我觉得这个想法早就在空气中了,从研究团队实际构建模型的时候起。直到我们真正做出来,就像我们团队里一位叫 Bobo 的工程师说:“每个人都给我发一段视频,说‘嘿 Sora,我是 Phil。’对,‘嘿 Sora,让我活过来。’”嗯,我们就在 Slack 里, literally。他在后端上传了所有这些,然后你就可以 @ 那个人。我们之前讨论过这个想法。对。然后终于,我觉得就是在那天一切都变了。我们所有人开始互相 cameo。当时我们还没有一个动词来形容这个行为,我们就开始互相 @。而且好像在我们意识到之前就发生了,不是那种“砰,就是这个了”的感觉。就在几天内,我感觉我们的信息流就全 变成 cameo 了,我们心想“这是怎么回事”,然后所有人都在用这个应用。其实我们当时有一刻还在想,这是不是坏事?但等等,我们之前明明有很多有趣的内容,现在全是大家 cameo 的……等等,不对,这其实太棒了,这正是我们需要的。对。构建这些产品最酷的部分之一就是,发布第一天,我敢肯定人们就会立刻以一百万种你从未设想过的方式使用它。那么,你见过最让你惊讶的使用方式,或者你根本不知道存在的功能是什么?有些人会把自己放进励志场景里,就像是想象自己处在想要达成的情境中。我觉得每次我看到风格转换——可能这么说太轻描淡写了——但你知道,你拿某个东西,拿一个人,呃,有一个生成结果我一开始根本不相信能成功,最后却成了被 remix 最多的视频之一。我只是让一个孩子打开圣诞礼物,然后是一个 Bill People 的可动人偶 ,而且看起来真的像 Bill People。这就是让我留在视频排行榜上的东西,我好像排在第 25 名左右。

Bill People 的可动人偶。这……模型居然能理解这个,能理解仅凭几个数字就能把你放进一个完全不寻常的场景里的这种语境,这太了不起了。我很惊讶这能从模型里涌现出来。我在我的信息流里一直看到这类东西,不完全一样,但总是对那个东西的一些 riff。那很酷。嗯,还有什么大幅转换的东西,黏土动画那些我喜欢,电子游戏的我也喜欢。我觉得现在还有点被低估,就像你做一个 Lucas Arts Adventure,但主角其实是 Rohan 或者 Bill 之类的。嗯,那些我简直爱不释手,立刻就想看看那些视频里的 secret emoji 是什么。对。 对。有些人的作品简直疯了,比如 Ka Kaumu Matsumara 那种,就是……

那种风格化的产出,我们根本都没接近过那个水平。所以,只是看到全世界的创造力。对。我觉得在我们推出 storyboard 之后——它能让你生成最长 25 秒的视频——那时候对我来说质量门槛才真正飙升。我真的很惊讶,从这个模型里只用一次生成,你就能得到连贯得不可思议的故事。这就像你用 Sora 1 尝试 100 次都得不到的东西。这在 Sora 2 里真的是一种全新的东西,它真的反映了智能的阶跃式提升。你知道,在 TPN 上,我记得你分享过 Sora 有 70% 的用户都是创作者,这太令人难以置信了。我敢肯定现在还是很高。你知道,关于 Sora 的讨论有一点我觉得很有意思,就是最初发布的时候,我记得 Ben Thompson 写了一篇文章,他说,我怀疑 Sora 。你知道,大多数人不想创作,他们想消费。嗯,其他所有产品的用户行为都是这样。然后我想他给我打了个电话,他说:“好吧,我错了。 这产品很酷。”嗯,我很好奇你对此有什么反应,以及你觉得这种创作热情是否会持续。对,我的意思是,我们从零开始设计这个应用时就专注于创作端,这确实是我们的核心假设。现有的社交媒体网络在很多方面都非常棒,人们从中获得很多快乐,而这可以来自消费端。与此同时,我确实觉得最严重的危害和最坏的情况可能来自 doom scrolling,我们真的很想弄清楚如何避免这种非常反乌托邦的未来——就是一条完全按照你想看的内容优化的 slop 信息流。它和你的朋友完全脱节,感觉很孤独、很隔离。我们从各个方面解决了这个问题。所以真的,我觉得我们在那里做的最重要的一件事就是 Cameo。Cameo 真正让生成内容对你来说是个人化的,让它感觉很有人情味,而单纯的 text to video 或者这些非常简单的 prompt 方式可能做不到这一点。嗯,然后我们也做了大量工作,Thomas 特别负责推荐系统这边。对。所以这些东西真正失控的方式,如果你不够小心或者不是本着善意的出发点,就是如果你把这个 Rexus 设计成最大限度地吸引眼球、提高参与度,并且某种程度上鼓励那种 scroll 行为。Thomas 做了很多非常开创性的工作,重新思考在这个产品中现代的 Rexus 技术栈应该是什么样的,使其面向创作而非消费。对。而且其中一些在某种程度上有点自我实现,或者说形成了一个闭环。但你可以参与这个网络这件事,意味着你也可以鼓励……你现在可以把这作为一个 optimization objective 放进去。我觉得如果你真正做出决定说“我要 remix 这个生成内容”,那这是一个非常健康的目标。嗯,那是一种非常主动的行为,它让你进入一种非常有创造力的模式,而不是那种完全只面向消费的状态。所以这就是 Rexus 背后的理念:因为创作变得如此简单,我们实际上可以鼓励人们去创作,而这是你通常不会优化的目标,因为……呃,我在 Instagram 工作过,你看到一张照片或一段视频,然后你打开相机,拍一张照片,而且你必须把它关联回你看到的那张原始照片。这不可能,或者几乎不可能。你能从中获取一点点信号。但在这个世界里,你能从万事万物中获取信号。所以我认为这是一种非常微妙但又相当有趣的行为,你能观察得到。对。说到 Ben Thompson,我觉得他的心路历程,你知道,当他第一次给出反馈时,我挺沮丧的 ,我每天早上都听 Stratechery,所以他第一轮反馈出来时我很受挫。但他的转变是合理的,对吧?他是个纯粹的消费者。Coldstar Network 是个非常棘手的问题。所以信息流没有特别精准。他也是早期用户。一个早期用户,面对一个还没经过时间沉淀的信息流,确实不会觉得多有意思。所以作为纯消费者而非创作者,我觉得他加入时的体验就是这样。我记得他引用过一句话,说这就像是 Sam Alman 的广告 之类的,坦白说,那段时间信息流确实给人这种感觉。我觉得挺搞笑的,但 uh,但后来我觉得当他把话题拉回他的 mayulpa 时,他说到一点很有道理:哪怕你把创作者和消费者的比例改变 1%,那也会对世界产生巨大影响,对吧?那完全就是另一种产品了。嗯,我觉得这很好地概括了为什么我们认为 Zora 很特别,以及他第一次可能错过了什么,因为他日常生活中就是个纯粹的消费者,而非创作者。嗯,在他的日常生活中。我也觉得,我们在 Sora 的一些早期原型里就尝试过这个。但“由人类创作”和“由 bot 创作”之间存在一个非常非常根本的区别。这有点难以体会,但如果你把今天的 Sora 信息流拿来看,也许排除 cameos[清嗓子],如果你把发布者这个人去掉,那在我看来会非常无趣。核心的一部分就在于,有人看过这个内容,并认定这不错,就像是他们在盖章认可。他们也参与了创作过程。我觉得这很容易理解。我见过一些完全由 AI 驱动的社交网络,但人们最多只感兴趣五分钟。一个 bot 给我点赞,我会想,这算什么意思?我不太理解。但如果是 Ron 给我内容点赞,哦,你知道,我明白那意味着什么——嘿 ,你看了我的东西,你喜欢吗?所以——

对,人类创作了它,这个事实本身就带有一种近乎本能的感染力,因为他们置身其中。对了,至于其他工具,你知道,随着 Sora 上线,有一点也很有意思,就是我感觉名人和版权方正在经历一个对该技术及其使用方式的非常快速的认知演进。你能谈谈过去一个月这段历程是什么样的吗?以及现在大多数人处于什么阶段?是啊,自推出以来,我们几乎和社会各界都聊过。我觉得如果倒推一个月,世界上大多数人真的不知道 video gen 已经存在了。他们当然不知道——

你知道它会成为第一,但我猜排名更高 ,而 Sora,如果你去看我的 gen history,我当时非常自信。嗯 uh,随着时间的推移,我们真的有机会和这些人坐下来,听听他们既兴奋的地方,对吧?我的意思是,这里有一个巨大的价值主张,尤其是对版权方而言。我们昨天推出了 character cameos,对吧?你可以想象,如果你拥有一些大家喜爱的 IP,现在任何孩子都能生成一段有那个角色的 gen。这对版权方来说将是巨大的。同时我们也在倾听他们的顾虑,对吧?比如确保他们对自己角色的呈现方式有很大话语权。他们想要限制,不希望这变成一场自由混战。对,我觉得那个用来设定基本规则的 UI 设计得挺巧妙的。我确信真正的名人会有更复杂的 流程,如果某位名人特别焦虑要不要上平台,我们会手把手教他们该如何设置这些选项。但当我们带着人们过一遍我们的计划,以及已经集成的功能,比如 character cameos、cameo restrictions 等等,说实话大家对此非常兴奋。而且就在今天早些时候,我们宣布开始在 Sora 上引入 monetization。我们设想未来——

真会挑时间宣布啊,就在你出场前 30 分钟才爆料。这消息可是憋了好几天,就等着这期节目呢。就在这一刻。嗯 uh,你知道,我们将开始试点让版权方 monetize 内容的新方式,而且我们会真正优先那些从一开始就投入这个平台、现在就加入的人,我们觉得这会催生出非常了不起的东西。有没有哪些具体的名人或版权方让你感觉“哦,他们已经懂了”?我是说,Mark Cuban 立刻就把 costplusdrugs.com 加进了他的 cameo 说明里。我觉得他——

你知道,他最先意识到这可能成为一个 amazing 的行业,关乎你如何看待品牌广告之类的东西。嗯,其实有很多人,我们有一个 moderation filter,防止你创建公众人物。所以当你走 cameo 流程时,很多公众人物其实会被拦截 ,因为我们不希望,你知道,我们对 impersonation 之类的问题非常敏感。所以我觉得挺搞笑的,我们收到大量 inbound,因为他们说“我们用不了你们的产品”。但我们收到的 inbound 数量令人难以置信。所以其实有超多人在尝试、使用,玩得不亦乐乎。Shaq 就极具创意。我们和他团队聊过,他们就说,Shaq 就是玩得很开心,一直在用 ,生成东西。我甚至不知道 Shaq 在不在乎他在这个新网络上给自己打造的名气。他就是纯粹地在享受创作的乐趣 。

Shaq 发的可都是热门大作,顺便说一句。快去关注 Shaq。嗯不过你得把权限打开啊。是啊。

Google 和 Meta 都发布了类似的产品,差不多同一时间。大家都在这些 video models 上竞速前进。想知道你怎么看待这些发布,以及你认为这个领域会如何演进。显然现在已经有几家公司拥有非常优秀的 video models 了。我觉得所有这些 models 的未来都非常光明。我是说,我觉得 Sora 不可能光靠 Bill 出色的工作就永远保持领先。但 uh 你知道,这显然是一种新的媒介,也是一种新的创意表达形式。我认为整个行业将发生彻底演变,而这将成为那个 use case 的重要部分。我觉得 Meta、Google 等都有理由如临大敌,我敢肯定内部已经拉响了 code red,或者昨天有人开玩笑说应该叫 code purple,他们得为这种情况发明一种新颜色 。所以我觉得这其实是正确的反应,因为他们正在见证某种由此诞生的、具有魔力的技术所催生的事物。话虽如此,我对目前一些产品化工作的成果还没那么印象深刻。我真的认为这回到了我们的核心理念,也就是“人拥抱人”。人是非常有创造力的。这是一个社交网络,而社交网络的核心就是人和关系。真正推动我们前进的,是 Cameo 这个概念,以及将这种创意元素带入你与朋友的日常生活。我觉得这一点在某种程度上被忽略了。我并不感到惊讶,无论是在模型层面,我都不太惊讶,因为走到今天这一步,其实是一条非常曲折、非线性的道路。并不是说我们一开始就想做 Cameo,我们也有过其他想法,比如在这个语境下 remix 意味着什么?我们曾有一个一直觉得挺怪的功能。我觉得没其他人喜欢,但我一直很喜欢,就是你可以拍一段自己的 reaction 视频,放在 AI 视频的角落里。我们应该把这个功能带回来。我甚至还生成过一段狗在反应我自己的视频之类的。 挺酷的。但我们确实在不断尝试。我们试了很多不同的东西。就连 UI 也是,早期 Joey 有个关于图像生成的想法,就是一个简单的界面,里面有你的联系人列表,你可以挑选想让谁出现在生成内容里。这听起来有点道理,但其实并不是……

……不是那么显而易见的。当然,事后看来一切都显而易见,这就是为什么它叫 code purple。但当你经历整个过程时,这一点并不明显。一路上有很多微小的决定,这些决定可能会成就也可能毁掉你的产品,就像 Instagram 那样。我记得和 Mikey 聊过,他是 Instagram 的创始人之一,他说方形照片其实是他们强行设定的一个限制。我猜可能是因为他们不想处理宽高比之类的麻烦事,但这实际上对它的成功至关重要。所以,长话短说,我认为这个领域很快就会变得非常、非常有竞争力。我有相当的信心我们会保持领先地位。希望如此。我确实认为你需要在整个过程中拥抱人的因素,要赋予他们创意工具的力量,而这正是我们正在做的。而且看起来在产品层面,你们一直在强化这一点。我知道你们谈过要专注于社区,以及产品中的其他方向。稍微谈谈你们如何看待未来进一步强化这一点吧。是啊,冷启动社交网络是不可能的。有史以来最难的问题。但也是个有趣的问题。是啊,肯定很有趣。尤其是……哦对了,顺便说一句,这是一种全新的媒介。你会想:“好吧, 让我好好想想这个。”所以我们其实不太确定事情会如何发展。我们给它设定了一个非常熟悉的形式。你知道,它看起来和其他全屏媒体播放器应用非常相似。它确实有不同的感觉,但我们确实有一个假设,而且我认为这个假设正在被证明是正确的——那就是和朋友一起玩会有趣得多。这个维度确实体现在产品里了。recommener system 也强调了这一点,但我不确定它是否在所有可能的层面都被完全强调了。所以我认为未来我们会更加强化这一点。我认为公共信息流也非常重要,它在某种程度上甚至能给你灵感,比如:“哦,其实 Shaq 也在。能和他一起出镜,或者拿他今天发的玛丽莲·梦露 meme 之类的东西开个玩笑,应该挺酷的。” 所以我认为还有一些产品层面的工作需要好好思考。而且我也感到很兴奋,因为当你思考这项技术能实现什么、能让你和朋友玩得更开心时,可能还有一些我们没想到的方向可以去探索。我说不准具体是什么。当然,随着时间推移,我们会更加强调 DMs 功能,因为我们认为那可以是非常神奇的瞬间,但你可以想象,在小群体中发生的事情也可能非常令人兴奋。甚至大型群组我觉得也可能是一个令人兴奋的角度。当然,我们在发布前的 OpenAI 群组就非常酷。那是一个连接非常紧密的大型网络,大家玩得很开心。我希望未来产品也能支持这种场景。这很有意思。有一点让我印象深刻,显然你设计信息流算法的方式,基本上决定了整个生态系统中的很多行为,对吧?就是你在那里鼓励什么。有一句名言,我想不起来是谁说的了,大概是“告诉我激励机制,我就给你看结果”。这句话在大型 recommener system 中再正确不过了。当然,当我在 Instagram 工作时,我们曾非常明确地决定优先展示朋友的内容。我们选择了很多方式来避免在主信息流中引入不相关的内容。我负责的是 explore feed,那是一个二级入口,但他们做了非常明确的决策。随着时间推移,这种情况有所变化,因为人们发得少了之类的原因。但如果你现在看 Instagram 的信息流,它有点……挺怪的。我觉得现在挺让人不安的。X 也一样。而且我认为,因为我们把创作的门槛降得如此之低,我们其实很有可能真正强化这一点。AI 视频让你和朋友联系更紧密,这有点好笑, 也有点不寻常,但没错,当下最火热的、连接最紧密的网络居然是一个 AI gen。但我完全支持。是的。是啊。我觉得这在某种程度上是 AI 一个非常令人振奋的用例,对吧?有一点让我印象深刻,就是它真的很有趣。我觉得很多基于其他开放产品构建的东西都太严肃了,就像是每个大学毕业的创始人想去构建一个非常具体的垂直领域企业应用,实际上并没有多少消费级产品被做出来。我觉得很多人都在尝试这个方向,就是怎么把 AI 生成内容和真人结合在同一个……我觉得 character AI 在早期也在探索这类东西,而我觉得你们基本上把这个方向上的第一款产品做对了,这很酷。我是说,这对世界来说是件很酷的好事。我是说,要获得你的 cameo,其实不需要经历一整套疯狂的操作流程,对吧?比如什么音频挑战、摇头晃脑之类的。有很多时刻,Thomas 和我都觉得,我们完了,绝对不可能有人能完成这个流程。你是说有趣的上线故事。我们有过, 因为我们在调试 cameo 的时候,感觉整个过程有点玄学,你得站在某个特定的位置。哦,是啊。时间是下午 4 点。真的,就是这样,我们都跑到那个位置去。我们录了自己的 cameo,然后不知怎么的,我们最终得到了一个流程,它其实是最优流程,但根本不可能完成——你必须在摇头的同时说出那些词。 嗯,那其实完全相反。是啊,就像是说一句话,然后把头这样摇来晃去, 像这样。

quick brown [ __ ] [哼笑] 简直疯了。不过我是说,它其实能生成稍微好一点的 cameo。反正那是个挺有趣的发布时刻。我们不得不把那部分撤回来,因为我们都搞不定,所以觉得没人能搞定。是啊。所以这是个隐藏的进阶技巧吗?如果我的背景看起来很有戏,我的 cameo 效果会更好?对,知道了。在一个很私密的地方打光,然后把头探进去。没错。我想你们因为专注于创作者,立刻就会陷入一种张力,就是大家的专业程度差别实在太大了。我们之前聊过这个。有一种是典型的纯消费型创作者,只想尽可能简单地 remix 点东西。然后还有那种 prosumer 级别的用例,他们非常专业,而且你们显然也已经推出了一些基础的编辑功能。你们是怎么考虑这个产品和服务领域长期发展的?我觉得这个产品很酷的一点是,它在最佳状态时非常民主化,无论谁都可以创作,也都可以逐步提升,成为传统意义上的专业创作者,对吧?如果你看到那些真正精通 Sora 的人做出的神级生成作品,你可以直接 remix,基本上能直接访问所有构成那个作品的元素,对吧?然后你可以循序渐进地摸清门道,对吧?比如怎么真正掌握 prompt Sora,怎么设计你的 cameo 等等。另外很重要的一点是,我们要持续让那些处于创意前沿的人,这些 proconsumer,拥有更强大的工具,对吧?这样他们才能不断突破。而且我们也会推出更多专门针对这个群体的功能。storyboard 就是一个大招。对。我们开始在应用里引入非常基础的编辑功能,比如这周早些时候上线的 stitching。所以长期来看,我希望每个人都能逐步升级,对吧?我们会全力赋能顶尖创作者去做他们的事,但只要大家在信息流里看到这些作品,对吧?再加上这些超强的 remix 和编辑工具,每个人都能慢慢变成那样的人,这会让整个信息流变成一个特别棒的地方。最终如果更多人能参与创作,而且这还能成为深入探索的入口,那这种终态是很美好的。我小时候用 Garage Band 就有这种体验。我觉得这儿的类比很恰当,就是它上手太容易了。简单到不可思议,你知道,最基础的操作就是拖 loops 进去,对吧?甚至不用真的坐下来弹乐器,但你开始感觉到,创作到底是怎么回事,有哪些元素。而且你确实能做出些有意思的东西,然后你可以往深了走,你会说,哦,我现在好奇到想去弄台 MIDI 键盘、学吉他、录东西,它就像个入门钩子。但我们能做到这一点,是因为把门槛降得足够低。我挺好奇的,我觉得现在每个应用开发者都在想,我要在这些模型周围搭什么样的脚手架,还是说我就直接去海滩躺两年,反正模型会[哼笑]变得好得多。 你们作为一个整体团队是怎么看待这个问题的——你们想在模型的短板周围搭建什么样的支撑结构,又有哪些地方模型自己就会变好,诸如此类?对。总的来说,我觉得 OpenAI 的很多魔力就在于,它有一条极其宏大的 AGI 对齐研究路线图,而且无论发生什么,无论竞争对手发布什么,无论产品端有多大压力,都坚持执行。这肯定也是我们对 Sora 的理念。你知道,很酷的一点在于,随着这些模型越来越强大,我们会发现它们具备各种惊人的能力,这也让 Roan 和 Thomas 他们忙得不可开交。所以像 Cameo、remixing 这样的功能,其实不只是我们在研究端开创的功能,更是和产品团队那些很棒的人一起协作,去挖掘这些模型能做的各种疯狂事情的产物。我确实觉得这需要非常有创意的视角来看待你能用它做什么。或者说要有失败的勇气,你知道,比如我们试一下完全由 AI 生成的信息流,不带 cameo。其实也没那么酷。但我能想象在游戏和其他很多场景里,即便是今天的大语言模型和视频模型也能以非常有趣的方式提供支持。所以我觉得这就是需要一点跳出框架的思考,而不是在任何意义上照搬 OpenAI 的路线图。而是要说,好吧,有什么能真正讲得通的变体玩法?我做的始终是面向消费者的产品,不是说企业端——企业端的应用这些模型当然有一千种——但消费端的东西就是,什么有创意?什么是新的?我们去拥抱它。这东西能做的东西还多着呢。有可控性。有各种令人兴奋的可能性。对。这也是我们开始随这一代模型推出 Sora API 的重要原因。就像 Thomas 暗示的,用这些东西能构建的应用太多了。而且我们的 Sora 团队非常小。小得惊人。我是说,惊人之小。刚发布的时候你们还不到20人,现在大概50人左右。我们现在大概是……Sora 这边大概有九到十个研究员。产品团队大概是多少来着?不到20人。对。然后我们还有个系统团队,大概13人左右。所以总共大概40来人。相当小。所以那些找上门来的创作者,或者那些非常有创业精神、想打造新应用的人,现在都可以通过 Sora API 来做这些事情了。你们在 Sora API 上已经看到什么酷的东西了吗?或者说什么让你们对人们能做的事感到兴奋?

Mattel 做了些很酷的东西。他们一直在用 Sora 做新玩具的原型,看到这点特别酷。我觉得随着时间的推移,应用只会越来越复杂。API 上线大概才三周吧,但已经有人在搞一些很疯狂的东西了。我看到一些 CAD 到可视化的流程,人们拿 CAD 文件,把它翻译成 Sora 能理解的 caption,然后就能可视化他们的零件。我当时心想,这看起来不太精确啊,然后他们解释了为什么这实际上非常关键,而且是现有流程中缺失的一环,我就只能说,哇,这也太 厉害了。要不我们退一步,聊聊视频模型这边——让我先给我们的听众梳理一下背景,过去几年 AI 视频领域是怎么发展的,有哪些重要里程碑值得关注。要我说,有一段时间视频方面基本没什么进展,很多突破其实都在图像生成那边。所以图像生成领域最重要的早期论文之一,是 OpenAI 几年前发布的 DALL-E 1。那是Aditia做的早期工作,也是我们第一次真正看到那种突破性通用能力——也就是我们开始在LMS中见到的能力——延伸到了视觉生成领域。在此之前,模型其实非常小众,只能建模某些极其特定且狭窄的分布,比如人脸。但确实没有哪个时刻能让我们清楚地意识到,这些东西可以建模互联网上存在的所有像素。我认为从那一刻起,未来的发展方向就变得清晰了。但花了好几年才真正让图像生成处于完全可控的状态。比如Dolly 2、Dolly 3。我们在2023年初开始研发Sora。它是和Dolly 3同时并行开发的,而且那时我们似乎已经具备了实现重大突破所需的所有要素。我们开始理解scaling是如何起作用的。diffusion models在理论和架构上都开始变得更加系统化、更加成熟。而Sora第一代对于视频来说,真的就像是GPT-1时刻。那是你第一次可以真正考虑对超过1秒的视频进行高分辨率且连贯的生成。用那个模型,我们勉强能做到60秒。从那以后,我们就一直在努力推进智能和可用性的前沿。所以我们其实在很长一段时间里都在试图弄清楚,Sora 2相当于第几代GPT。是的,我认为现在我们已经非常明确了,它在很多方面相当于GPT-3.5,无论是在能力的突破性上。这是唯一一个能做奥运会体操动作并且不会让画面变得一团糟的模型,对吧?我喜欢这一点,这其实也是一项评估指标,当时所有人都在Twitter上疯狂发各种奥运相关的prompts。你们看到四肢到处乱飞。是的,我们被狠狠地嘲笑了。所以很明显,这之所以成立,是因为模型智能的提升,但在可用性方面也是如此,对吧?GPT-3.5带来了ChatGPT。那是这些模型第一次真正对社会上的广大人群产生巨大价值。而我们在Sora身上也看到了同样的情况。是的。我想知道,从GPT-1到GPT-3.5的跃升,有没有让你感到惊讶?还是说,当时圈内人其实都觉得,只要我们继续按这个方式做scaling,这是迟早会发生的?我是说,当你再次看到模型在理解物理方面的快速进步时,我们就知道我们抓住了某些关键的东西。看着体操动作开始能正常呈现,或者一个杯子掉下来真的会碎,这种感受是非常直观的。你知道,你意识到自己正在做一件大事。我们只要看视频就知道,眼见为实。所以我们知道,它的发展速度不会像LMS当时那么慢。这么说其实有点好笑,因为LMS的发展也不算慢,但你知道,我们现在确实在加速。所以我们知道,它的进步速度会超过LM。但我们不确定会超出多少。所以我觉得,我们当时也不确定最终会落到什么水平,比如3.5,而我们最终大概达到了预期中的上限。是的。那在你看来,从3.5到4的跨越意味着什么?有哪些尚未解决的问题,或者你觉得这些模型还需要在哪些方面变得更好?我认为视频领域下一个突破性的能力,将是模拟那些需要持续数小时甚至更长时间的过程。所以我们对Sora最终能用于知识工作,甚至生物学、物理学研究等领域感到非常兴奋。如果你想想模拟一个wet lab需要什么,我们在建模方面确实还需要很大的提升。你需要让这些模型能够连续运行数天、数周甚至数年。而这需要解决生成式建模中许多非常基础的问题。我觉得这是个大问题。比如拿机器人学来说,有一个核心问题:仅靠仿真数据到底能带你走多远。曾经有一段时间,感觉它可能能让你在locomotion上取得很大进展,但在manipulation或一些更复杂的任务上却不行。自从有了那些早期想法之后,视频模型已经进步了很多。你最新判断是怎样的?仅靠这些视频模型,在那些我们原以为必须建立大规模真实世界数据收集系统的领域,到底能带我们走多远?我认为它们将对此起到关键作用。正如你所说,机器人学的一个核心难题在于,很难获取大规模、可用于预训练的轨迹数据集。而视频模型显然对locomotion、与灵巧性相关的任务等有深刻的理解,所以我们非常看好将Sora这类模型改造应用于这些领域的能力。你知道,我很相信bitter lesson,就像AI领域的很多人一样。我真的相信,那些建立在早期视频模型之上但尚未结出成果的研究方向,将随着基础模型智能的提升而开始取得成功。那是不是说,基本上只有拥有这种最先进的视频模型,才能在生物、机器人、材料科学等领域开展工作?我认为情况会日益如此。是的。所以我想,对你来说,接下来的前沿方向似乎主要是围绕更长时长的视频,以及让世界在某种程度上更忠实于物理规律的能力。是的,这其实是为了追求“世界模拟”这一目标。我们如何让Sora不仅仅是一个视频生成系统,而是能真正深度理解现实的每一个细节,并对那些远远超出娱乐范畴的任务产生价值。我认为娱乐是很棒的事情,人们正在通过这些模型获得巨大的效用,就像我们现在从Sora应用中看到的那样。但我真的认为这只是视频领域的第一阶段,也是我们现在用模型的现有能力能做出来的最简单的东西,而它们的实用性将在未来几年里突飞猛进。是的。你有没有想过某项eval,觉得一旦视频模型能做到这一点,那就意味着……

也许最终是GDP val吧,谁知道呢。这是个好问题。我认为,当视频模型通过模拟某种现象带来第一个科学突破时,那将是一个疯狂的里程碑。我的意思是,那将真正打开闸门。我们团队内部也一直在讨论,那会是什么。当然,我们团队的重点关注领域,我觉得与经典物理学相关的突破非常有可能。视频本身就是一种很好的模态,特别适合理解那些能通过观测数据很好表征的物理现象,比如湍流等等。所以我认为那将是一个疯狂的时刻。我想这不一定算是一项eval,但certainly是一个里程碑,将真正标志着一个新时代的开端。是的。因为我是脸皮很厚的播客主,我必须问你,你预测这会是什么时候?哦,天哪。我对时间线非常乐观。如果到2028年初我们还没有取得这样的突破,我会非常震惊。是的,是的。这是不是有点像 LM 领域,感觉我们只要遵循一些 scaling law 就行?还是说在 LLM 领域,其实是数据、算法突破和更多 GPU 的混合?在视频领域也应该用类似的方式思考吗?还是说人们应该如何调整自己的心智模型?我是说,我认为有很多维度可以取得进展,当然 scaling 肯定是其中之一。你知道,当你开始思考如何进行这种长达数年的 simulation rollout 时,这可能需要一些新的突破,你不能直接把现有技术照搬过来。也许你可以,也许这样也能成功。但是,当我们真正达到需要构建这种替代现实的程度时,它需要记住你纸上的每一个角色、你夹克面料的细节,这看起来可能需要一些全新的东西。还有很多广阔的未知领域等待探索。那你们现在如何对视频模型做 eval?怎么知道它们有没有变得更好?你们产品端是怎么做的?有没有什么常用的方法? 但我们其实——我是说,这块我们已经成熟了很多,尤其是从 Sora 1 到 Sora 2,我们学会了好的 eval 结合真实用例能带来多大的杠杆效应。而且在发布之前,对这些用例有坚定的信念,让我们能建立基础的产品 eval,对吧?比如我们在改模型或者 XYZ 那部分技术栈的时候,就把 Sora 1 的热门 prompt 放到 Sora 2 里跑一遍,看看 diff。现在我们有真实的生产用例了,比如 Cameo 就是一个很好的例子,每次我们做任何改动,都想了解它如何影响这些核心用例。嗯。我好奇的是,对于视频模型,显然你可以想象,如果把所有人的偏好取平均,最后可能会得到一个对所有人来说都毫无个性的模型。我在想,随着时间的推移,最终会不会出现一大批具有不同美学和不同用例的模型?还是说会收敛到一个单一模型,你可以把它引导成你喜欢的样子?我觉得这实际上可以类比推荐系统。挺贴切的,就是说当人们想到推荐系统——不是说每个人都会经常琢磨自己的信息流——但假如让你设计一个信息流,你第一反应可能是:哦,那我按热度排序,或者按别的什么排序。然后你会发现这正是问题所在,这种回归均值的做法其实对谁都不有趣,因为它只是一个全球流行的趋势,并不符合你个人的偏好。所以关键在于以不同形式引入个性化,做法有很多,但最直观的显然是看你的历史行为,预测你接下来会做什么。这确实会改变信息流给你的感觉,以及相关性结果等等。很难想象我们在几乎所有地方不会遇到类似的现象。我是说,我们在 chatbot 领域已经看到很多了,个性化非常重要,模型跟你交流的方式。但我不一定——我是说,我不会直接说视频模型的事,但在推荐系统里你很快就会学到,不想为每个人做定制模型,对吧?这在基础设施上是噩梦。而且在很多方面也不符合追求 AGI 的目标。你可以勉强这么做,但它并不 scale。而且会变得很难理解和推理。更好的方式是利用群体智慧,找到人与人之间的相似性。你做协同过滤,这样规模带来的好处就以一种很优雅的方式体现出来了:我知道这个人过去看过类似的视频,而我和他相似,所以我很可能也会喜欢这段视频,或者从中获得创作灵感。嗯。我是说,我认为如果模型像人类一样感知世界,如果你以这种方式衡量智能,那么多样性和理解不同风格行为并内嵌在基础模型中,是这种智能的重要组成部分。Sora 2 让我最惊讶的一点——不是最惊讶,但是最惊叹的方面之一——是当今几乎所有其他视频模型肯定都存在 mode collapse。即使是那些擅长电影级内容和物理效果的。

Sora 不仅擅长那个,还擅长类似智能门铃录像的东西。 它擅长访谈、播客这类场景。它擅长所有这些风格迥异的东西,很 anime,风格上非常多样,我就是觉得——我不知道——这个模型的范围太惊人了,而且我预计我们会继续深耕这个方向。嗯。我是说,你们在 LM 这边显然把大家惯坏了,默认预期就是你们发布的东西在六到十二个月里会便宜 100 倍。视频这边我们也该有类似的期待吗?百分之百。哪怕你回溯到 2024 年 2 月,我们第一次向世界展示 Sora 1 的时候,生成一段 720p 的短视频,计算成本大概要 50 美元。 而你看我们现在 Sora 2 的 API 定价,跟那时候比简直是零头。所以这次发布,成本已经下降了多个数量级,而模型智能却大幅提升,这个趋势肯定会持续下去。你想在这个播客上爆个大新闻。所以我们开播前 30 分钟,你发推说你们要引入一些定价机制——我觉得完全合理,毕竟每天用 30 条之后,再多用就要付点费了。至少据我所见,互联网也没因此暴动,这看起来是商业化的自然第一步。我知道你们以前谈过,既要通过商业化覆盖运行这些模型的 inference 成本,也要通过商业化来激励版权持有者和各种各样的人参与进来。是的,我是说,我们真的想构建一个让所有人都能受益的生态系统,对吧?我们需要为 Sora 支付 GPU 账单。我们希望那些刚来到这个平台的新创作者——他们不一定在 TikTok 或 IG 上有粉丝——也能有一条通往成功和赚钱的道路。同时我们也希望那些拥有海量角色库、大家都很爱用的版权持有者也能获益。所以当我们思考最初的商业化方式时,你知道,我们每天都在学习,想走得稳一点。我们希望确保覆盖到最重要的几类人,也就是给我们生态系统里所有不同的人提供一条商业化的路径。我们把 credits 视为实现这一目标的主要方式,这样就不必过早承诺一个我们不确定能否长期维持、或者最终可能要关停的模式。我们认为这未必是 Sora 最终商业化的终极模式。我们对此持非常开放的态度,尽可能保持透明,在做这些决定时会听取各方意见,因为我们希望最终落在一个合适的平衡点上——当然不是只有 OpenAI 能从中赚钱,而是让所有人都能受益。我认为这对平台的长期成功非常重要。如果创作者想在 Sora 上走红,这应当能成为他们的全职工作,我们应该有办法帮他们实现这一点。你们还讨论或思考过其他类型的定价模式吗?短期内还没有特别具体可行的方案。但话说回来,既然有了生成式视频,你可以完全重新思考品牌化的方式,以及如何将赞助内容引入其中。比如,现在你在刷 Instagram 时,会看到一条广告视频。但试想一下,如果你是创作者,你视频里所有无生命的物体都可以替换成某些品牌,你可以把这些位置拍卖给品牌方。外面有一些挺疯狂的想法,我觉得……

我觉得这个平台还有另一个非常有趣且与众不同的地方,我相信它会随着时间发展。就拿我自己来说,我是最早把 cameo 公开的人之一,最早的早期采用者,因为我们在团队里。我现在大概有 17,000 次 cameo 出镜了。如果把所有这些 cameo 的观看次数加起来,我这辈子可能都没有过这么大的传播量。而且我是个无名小卒。我的粉丝数都快赶上我在 Twitter 上的号了,其实挺疯狂的。太疯狂了。太疯狂了。但把这个乘以 cameo 的数量,实际上单个人能达到一种不可思议的影响力,这在其他平台上几乎是不可能的,因为那些平台上你必须自己创作内容。但我其实挺喜欢的,我喜欢看我每天都在做什么,我会修改 cameo 指令,比如"我今天穿了件很酷的衬衫",然后想音乐片段会是什么样呢。不只是看自己的 G,我也会看其他人在做什么。所以我觉得这非常有趣,我想我们还没有一个很好的类比来形容这种形式。有很多新兴媒介,但有意思的是,影响力的方式不同了,不一定只是你发什么内容。而且我觉得这个产品很酷的一点是它很全球化,我想知道你有没有看到不同地区的人有什么很酷的不同用法。我们昨晚刚刚向一些东南亚国家推出了。就是昨晚,新鲜出炉。新鲜出炉。所以现在已经上线了。我们最初在美国、加拿大推出,然后向韩国和日本开放。各种创作都有非常不同的风格。对 cameo 的接受度,对角色 cameo 的接受度,看到这些都挺受启发的。有时人们会抱怨跨文化内容,但我喜欢。真的,所有东西都有不同的风味。那些我们喜爱和关注的日本创作者。没错。对,就是非常审美化,和我看到的美国创作者的东西感觉非常不同。所以,嗯,我相信以后还会有更多。而且我也喜欢从 Gens 里学到东西。我看到有人讲多伦多口音,我来自多伦多北部,我都不知道还有多伦多口音。我一看就觉得,对对,大家就是这么说话的。我立刻打开 Wikipedia,上面有一大篇关于多伦多口音、方言还是什么的文章,我心想我刚学到了有趣的东西。这其实也是我用 TikTok 的体验,我是 TikTok 的重度用户和粉丝。我从上面学到很多东西,有人讲关于自己的心理学东西,或者描述某种行为、某种依恋理论,我心想等等,这不就是我吗。让我去 Wikipedia 查一下。所以我觉得我们会看到更多这种情况,跨文化的内容也存在。还有当你看到 remix chain 时,看到那么多不同国家参与,总是有不同的风味,特别有意思。说唱也稍微有点不同。我需要一个翻译按钮,但已经挺接近了。对。最新的 feed 我很喜欢,这是我最喜欢的了解大家在 app 上做什么的窗口,就是正在发生的事情的实时流。顺着 Tom 说的学习这件事,就是了解人们想看到自己和朋友们出现在什么场景里。人们 meme 的东西太有趣了,对一个人来说可能很平常,但如果你处在"人们在乎什么、笑什么"那种模式里,就会发现有很多特别搞笑的东西。我今天和一个用户聊,她迷上了起重机,她说"我就喜欢想象自己在起重机顶上"。显然,我觉得你们也在内容审核方面考虑得非常周到。我觉得你们既鼓励了大量有趣内容,也相当好地把握了分寸。这是一个迭代过程,还是你们一开始就搞定了?聊聊这个吧。天哪,我们经历了漫长的无眠之夜才走到现在,而且仍然还有很多工作要做。感谢 Sora 团队里负责安全的出色同事,还有 OpenAI 在审核系统、审核模型上做了大量工作。我们有写过一些推理模型,用在我们的安全栈里,非常了不起。所以这真的是一个用技术让产品变得更好的例子。就像之前说的,现在我们用更小的团队在审核和安全方面能做更多事了。但谢谢你夸我们做得不错,Twitter 上的人可不是这么说的。

Twitter 总为什么事发火,我都习惯了。内容审核失败确实令人沮丧,这可以理解,因为我们在用户自由与屏蔽所有不良内容之间试图走钢丝。我们每天都在进步。尤其是 cameo 方面,我们处于新领域。我们想非常谨慎地确保你感到自己在掌控之中,在这个网络里感到舒适。因此我们在防护措施上花了很多心思。对。你之前提到这是一个新的社交平台。Sam 也公开说过,这是一个 OpenAI 值得探索的有趣领域。你之前提到过,这东西未来可能会以某种方式与 ChatGPT 整合。你怎么看 OpenAI 内部正在推进的其他方向,比如有朝一日会不会跟我们这边融合?我是说,Bill 提到过,除了娱乐之外,ChatGPT 有点像你的超级助手。我们早期就是这么称呼它的。那它为什么不能用一段真正有用的视频来回应你呢?我觉得一旦我们把这些能力做进去,效果会非常惊艳。不过是的,我觉得我们的产品在交互方式上大有可为。比如我们刚发布了一款浏览器。你可以想象,在使用浏览器时,旁边有个视频小助手在跟你对话,你的 agent 说“帮我订这趟航班”之类的。我听过各种疯狂又新奇的想法。对。而且我觉得很多东西是彼此相互促进的,比如推理模型,大家都知道这是为了实现 AGI,这非常合理。我最初想到的应用场景不会是 moderation stack,但等等,那其实是个绝佳的用例。所以很多东西都是相互叠加的,整个生态系统本身也是。我确实觉得 ChatGPT 有点不一样,有点像是需要被谨慎对待的,但这不代表它不能随着时间演变,或者我们肯定还能在那上面做很多事情。不过它往往更偏向实用工具类的使用场景,而在一个实用工具里混进娱乐元素,并不总是行得通。所以我觉得不能生硬地塞进去就指望它 magically 管用。我们得非常审慎地去做这件事。但毫无疑问,作为实用工具场景,这些模型会发掘出 turbulence modeling 的新模式。所以显然是有实用价值的。对,[笑声]我听说 2028 年就能搞定,甚至不用等到年中。

[笑声]你可以直接问 ChatGPT 这件事。而且,视频作为一种模态,你在 YouTube 上就能看到,一半的视频都是教学类视频。这也是我们希望能建模的东西。就拿我来说,比如我的马桶坏了,我想知道怎么调整、怎么修好这个问题之类的。所以我觉得这两者可以很自然地结合起来。好的。在我们进入快问快答环节之前,我还是想问一个可能有点厚脸皮的问题:用最简单的方式解释,这些模型是怎么学会物理的?这是个好问题。宏观来说,这些模型其实一直在做预测任务。比如 diffusion 模型,你拿到一段视频,我们人为地往里面加了很多噪声,而神经网络的目标就是预测出被我们噪声掩盖掉的底层信号。LM 也是一个预测任务,对吧?你要基于前面所有的 token 去预测下一个 token。实际上我们认为,LM 和 Sora 都会学习 world model,只是学到的是不同风格的 world model。但从根本上说,如果你在做这个预测任务,不管你是预测信号还是预测下一个 token,你都需要对世界的动态规律建立起某种理解,对吧?就拿 LM 来说,如果我要生成一首押韵的诗,那么我最好具备某种内部知识,比如诗歌的结构、语言元素,这些全都是从数据中学到的。因为如果我没搞懂这些东西,就很难预测下一个 token。这个类比放到视频上也成立。如果我是一个视频模型,提示词是“一个人在打篮球”,那我最好已经学会了篮球怎么弹跳、光线如何在场景中折射,以及所有这些物理上的微小细节,这样才能描绘出整个场景的宏大画面。所以,这本质上是从大量算力和大量数据中涌现出来的特性,这话放在今天已经有点老生常谈了,大家都懂。更好的模型才有效。但从根本上说,如果你不具备这种关于世界如何运转的内部模型,那你永远会是一个更差的模型,因此 loss 也会比那些具备该能力的模型更高。这就是我们如何看待 optimization pressure 的——它使得物理规律从大规模视频预训练中涌现出来。在 LLM 领域,我们最早用的是整个互联网的数据,现在则有非常宝贵的数据,比如博士们做各种事情的视频。那么在视频领域,有没有类似的东西——就是某种特别复杂的物理过程,对模型来说非常值得学习?是的。我是说,如果你随便找一位视频研究员,给他们看一堆视频,问他们最喜欢哪个,大概率如果里面有体操动作,他们会说:“就是这个,体操。”

“就是这个。”但我觉得这是个非常有趣的问题。而且这有点难回答,因为我觉得智能在视频中的表现形式,和在语言中的表现形式非常不同。比如你可以想象有一段讲课视频,有人在教微积分,这显然具备一种和文本类似的智能,它在教你关于世界、数学、物理之类的深层概念。但另一方面,当你看这些体操动作时,除了做动作所需的规划之外,并没有太多智力层面的智能,但其中却有很多有趣的细节——比如动作过程中发生的微小碰撞,再比如背景里所有人在来回走动。我们要做的模型不仅要能模拟体操运动员,还要能模拟整个大场景里的每一个人。所以我们还在摸索,到底什么样的数据才能真正造就一个出色的视频模型。但某种程度上说,这是非常 multimodal 的,对吧?这里的 multimodal 指的是视频中存在着各种各样不同形态的智能,而这些在其他模态(比如文本)里未必存在。嗯,我一直喜欢在访谈最后做一个标准的快问快答环节,把几个过于宽泛的问题塞到结尾。那么也许先从这个问题开始:过去一年里,在 AI 领域,你们每个人各自改变想法的一件事是什么?我觉得我对某些事情的时间线提前了,对另一些则推后了。这是大家常说的一个现象,但我真的觉得我们高估了消费者、市场采纳速度以及人们学习这项技术的能力。在实际科学层面,我们可能远远领先于整个世界,但在产品界面的可接受性、易用性,以及如何让全世界理解它这方面,我们可能又远远落后。而当你进入真正的企业级应用场景时,还有各种监管之类的问题,你得去克服这些障碍,才能让人们真正采纳这项技术。所有这些,作为一名产品人员,即便是做消费级产品,也能看到幕后为了让事情落地需要付出的巨大工作量。所以,要让人们真正接受这些东西,还有很多工作要做。在AI方面,我观念转变最大的是:如果一年前你问我,我是否介意看一部好莱坞大片,还是看一部由模型生成的、达到Sora 3水准的电影,我会说Sora 3的电影和大片一样好。我不需要了解任何背景信息。只要它透彻理解了电影内容,情节也有趣,那就足够了。然而有趣的是,随着我与这些模型的交互越来越多,当背后没有明确的创作意图时,我确实会感受到一种空洞感。这是我事先完全没想到会有的感受,部分原因是我本来就喜欢做模型。所以我有这种想法感觉很奇怪。但我确实深有感触——知道生成内容背后有真实的创作意图时,它们会变得有趣得多、引人入胜得多。当然,即便是Cameo也是如此,对吧?看到认识的人出现在里面感觉很棒。还有看到我的宠物Rocket——我的狗,从昨天起已经在Zora里可用了。但即使只是知道某人有创作意图,对吧——我想Thomas之前提到过——即使只是知道某人曾有创作意图,比如拒绝某个样本,对吧?或者反复打磨prompt,而他们在底层生成中实际使用的情节与他们情感上有某种更深的联系,对吧?你确实能感受到这一点,这让我非常惊讶。我不确定到底是什么引发了我这种转变。说实话,要是以前,我会很容易被这些完全由AI生成的feed所说服,只要我们的机器人做得够好就行。但现在我真的不这么认为,即便是我自己也不会觉得那种内容有吸引力,这挺有意思的。我其实不太确定为什么会这样。但你知道,仍然有那么一丝人性需要通过这些生成内容传递出来,内容才能在某种意义上真正让人感到有意义。所以我在这一点上的观念确实更新了。如果你们所有人明天都离开Open AI,不得不在Sora API之上构建东西,你们会做什么?游戏。比如一款让你把自己放进电子游戏里的……

对,抱歉,我本可以展开说更多细节的,只是…… 你们明天就要走吗?这是我深思熟虑后的答案。为什么这么问?不是,我只是……我从小到大都在玩游戏。我是因为游戏才学会编程的。我无法想象这个领域存在多么疯狂的机会。想当年我自己做游戏的时候,很多工作都非常困难,比如我得去获取美术素材,或者自己做美术,那是一个劳动密集型的过程。还要学习各种工具来做那些事。我不认为最终就得是这个样子,但就像我们在聊Cameo时说的那样——它是被这项技术独特赋能的——游戏领域又会有什么样的新模式呢?外面有什么可能性?所以我很期待看到这个方向,以及人们能在那个空间里做出什么来。完全同意。我的答案角度不同,但结论类似。我是说,这可能从我们做的产品以及今天聊的内容里都能看出来——这项技术最有趣的地方在于它将如何变革并创造全新媒介,而不仅仅是……你知道的,一部AI电影。我觉得那对我来说是最没劲的概念。确实有人用电影做出了很酷的东西,但完全全新的东西才最有趣。所以我认为互动性——从Thomas的角度可能是游戏,从我的角度可能是某种互动叙事——才是方向。目前还没有人真正做好这个,你知道,有过choose your own adventure的书,我觉得曾经挺火的。还有Netflix上的一些电影,比如Ber Snatch,你可以自己选,但我觉得……

要把这个想法推得更远,比如某种……你知道的,协作式的创意lore作品之类的东西。为什么你们觉得基于这些模型做出的消费级产品、有趣的消费级产品还不多呢?只是因为之前模型不够好,还是?我觉得首先,做一个消费级产品真的极其困难。一个好的消费级产品是最难做的东西之一。再加上技术本身太新了。而且你也知道,现在还不清楚什么才能真正留下来。我觉得这其实仍然是一个很难……

对。

……很难把握的组合。我是说,你们已经两次做到行业顶尖了,所以我猜……

依然很难。那如果要在API之上做点什么,你会做什么?天哪。我知道我们不能把你从模型那边拉走,但如果我们非得这样的话。对,我大概会去训练新模型吧。嗯,我不知道。可能是更偏向科学或者面向机器人领域的方向。我觉得那里还有很多很酷的新工作可以做。好,最后的话留给你们。我通常会问大家去哪里可以了解更多,但如果我们的听众还有人没用过Sora,我真的会非常震惊。 所以,也许……我不知道你们有没有什么具体的研究想推荐给大家,或者很酷的新产品功能。话筒交给你们了。你们想把听众引向哪里,请说。我们昨天刚推出了character cameos功能。所以,如果你用Sora,你可以上传自己,然后和朋友们一起创作视频。现在你可以上传任何东西,宠物、anatoms——你可以从Sora里创作出自己的IP,并把它变成一个角色。嗯,我有一个叫Pickle的角色正在病毒式传播,Pickleton。所以, 去cameo里找Pickleton吧。给你,这是我的作品。嗯,我有一个很疯狂的推荐。好吧。 让我想想。这是开放麦,请说。开放麦就是……

在Disneyland Hong Kong,有……

好开头,好开头。有一个……它是Haunted Mansion,但好像叫Magic Mansion。我也不确定。他们做了点变体。然后有一盏灯,那是一个dark ride。你坐在里面穿过,有这盏灯……整个概念是这只猴子有一盏灯,当它倒出来时,物品就会活过来。所以它一倒,墙上就会出现一副盔甲,然后手臂会停止移动,跟你说话,然后……

我们其实差不多刚刚做出了这个, 就是你拍下一个物体,然后说让它活过来。所以……我觉得那个骑乘项目很酷,但回到character cameos,其实 它就有那种神奇的、真正的……对。对,我被说服了。嗯,是的,我们暂时取消了邀请码,现在不需要邀请码就能进了。带上你的朋友一起来。如果一群人一起玩,Sora会好玩得多。所以,去吧,试试看。给我们反馈。好的,伙计们,非常感谢。这太好玩了。嗯,我想确保你们能回去继续造Sora,因为世界会从你们的工作中 获得大得多的益处。不过,说真的,这次聊得太开心了。非常感谢邀请我们。Disneyland Hong Kong见。好啊, 说真的。