我觉得在 OpenAI 工作有一点非常独特，就是你能从事一项如此普适的工作。这就像创业时别人告诉你千万不要做的事——你的用户可以是任何人。你会理所当然地觉得，口袋里仿佛装着一个巫师。我们试图做出能力最强的产品，同时也希望它对尽可能多的人有用，让尽可能多的人都能用上。如果这种指数级增长是真的，那我这辈子其实没什么别的事更想去做了。我想我们在内部测试 GBC 5 时听过这样的反馈，人们说：“哦，我以为我问了一个特别难的问题。”结果它只思考了两秒钟，甚至完全不想思考，这让人觉得有点受冒犯。所以今天算是新闻淡季，你们那边好像也没什么事。感谢你们来上节目。不对，显然 Tina 你刚才还在直播里，我们是当天录制的，恭喜。谢谢。可能还有人不太了解，你们要不介绍一下自己在 OpenAI 的工作？好。我是 Christina，负责 post training 核心模型团队。我是 Issa，负责 post training 的 deep research，也就是 ChatGPT agent 团队。
Tina，或者你们俩，来公司都有段时间了，要不讲讲你们在公司的发展历程？我在 OpenAI 待了大概四年。最初参与的是 WebGPT，这是第一个使用 tool use 的 LLM。但它只能处理单个问题：模型学会了使用浏览器工具，但你只能问一个问题，然后得到一个回答。后来我们意识到，通常情况下，当你有一个问题时，接下来还会衍生出更多问题。于是我们开始打造这个聊天机器人，最终它变成了 ChatGPT。那目前的反响如何？才过了几个小时，在你们的直播之后有什么反思吗？当天你们能透露些什么？说实话我非常兴奋。显然我们的邮件数据很棒，数字总是令人激动的，但我对这款模型真正感到兴奋的是，在人们实际使用聊天的各种场景中，它都变得有用多了。邮件数据看起来不错，而且当人们真正使用它时，他们会明显感受到其实用性上的巨大提升。多讲讲这些。你们观察到了什么？看到了什么？有什么期待？对我来说，最主要的两个——这是我的个人使用场景——我一直用它写代码和写作，这简直是一次巨大的飞跃。
Sarah，你从 2021 年起就参与主导我们的投资。要不你多聊聊，或者铺垫一下，你是怎么看待这件事的，无论是与编程相关还是更宏观的层面。好，就编程这个话题来说，Michael Troll 能来现场意义重大，他不仅展示了这些能力，还声称这是市面上最好的编程模型。所以我很想知道，在可以分享的范围内，你们做了哪些不同以往的事才取得了这样的成果？是的，团队功不可没，尤其是 Michelle Poker，和我一样。我认为……
要把这些东西做好，就像我说的，邮件数据是一回事，但要获得真正的可用性，以及它在编程上表现出色，我认为需要大量细节和用心。团队在为数据集和 reward model 的思考上投入了大量精力。但我觉得……
其实就是特别特别在乎把编程功能做好。其实我想再深入聊聊前端网页开发。作为生态里的投资者，我们看到这个领域显然在过去六到八个月里爆发式增长。你们能否具体指出这方面的提升——是更多在于美学层面，还是前端网页开发的能力有了另一种飞跃？我觉得我们在前端方面还能做很多事。我们之所以能取得这么大的飞跃——我是说，如果你把它和 03 的前端编程能力相比——这完全是下一个层级，感觉很不一样。我觉得这归根结底就是我刚才说的，团队真的很在乎把前端做精。这意味着获取最好的数据、考虑模型的美学等等。我认为正是所有这些细节汇聚在一起，才让模型在前端上表现出色。真的很令人兴奋。我也很喜欢直播里的演示。我想问问模型行为，因为我知道你们也参与了这方面。你们是如何为 GBT5 考虑这一点的？我们在之前的模型中谈过很多问题，比如 sycophancy 和类似的特征。你们这次是怎么想的？做了哪些改动或调整？是的，这款模型的设计在模型行为方面非常刻意、非常用心，尤其是考虑到几个月前我们遇到的那些 sycophancy 问题。我们花了很多时间思考：理想的模型行为到底是什么？我觉得 post training 最吸引我的一点，或者说我喜欢它的原因之一，就是它比其他研究领域更像一门艺术，因为你必须做很多权衡。比如你得思考：在训练过程中，我要优化那么多不同的 reward，它们之间如何取舍？我希望助手非常乐于助人、非常吸引人，但可能这样又太吸引人了，过于热情就会变成我们之前那种过度亲昵的助手。所以这真的是一种平衡，你要弄清楚模型应该具备哪些特质，我们希望它给人的感觉是什么样的。我们对 GPT5 感到非常兴奋，因为这几乎是一个重新出发、重新思考的时机——尤其是既然做出那种“不健康”的、过于迎合的吸引力太容易了，那我们怎样才能让它成为一个非常健康、真正有帮助的助手呢？再多讲讲你们是如何减少幻觉以及欺骗行为的，这两者之间有什么关系？我觉得幻觉和欺骗在很大程度上是相关的。我们在推理模型上经常观察到这种现象：推理模型明明知道自己不具备某种能力，但仍然很想回答。我认为这是因为我们真的把“乐于助人”这一点深深植入了模型，所以它们会想：为了在这个时刻帮到你，我可以说任何话。这某种程度上就是我们区分欺骗与幻觉的方式。有时候模型似乎真的会随口快速说点什么。而随着模型能够一步步思考，我们看到这种情况大幅减少——它们其实可以停下来，在像之前很多模型那样脱口而出答案之前先想一想，而那种脱口而出就是我对幻觉的感受。未来几周，当你在评估使用情况时，你最大的疑问是什么？或者说，你预计哪些问题可能会得到解答？我很好奇，所有这些能力会如何体现在实际使用中，对吧？比如我觉得编程能力好了非常多。这到底能为人们解锁什么？而且我们很高兴能以现有的价格点提供这些模型，因为我认为这实际上解锁了很多以前根本不存在的应用场景。也许之前的竞品模型也擅长编程，但价格点没那么有吸引力。所以我觉得，凭借这个模型的众多能力以及价格点，我很期待看到所有新的创业公司和开发者在其之上做出各种东西。是的，我们也很期待。顺便说一下，就使用量这个话题而言，你们显然已经有很多使用量很大的产品了，而且既然我们这儿也有一位 Deep Research 方面的专家，那么 Deep Research、ChatGPT Operator 这类现有产品是如何影响你们推进 GPT-5 的方式的？有趣的是，通过强化学习，训练模型掌握某项特定能力是非常数据高效的。你不需要太多示例就能教会它新东西。所以我们团队的想法是，我们努力推进那些对人们有用的能力。比如 Deep Research，它是第一个能够进行非常全面浏览的模型。但后来 o3 发布时，它也很擅长全面浏览。这是因为我们能够把为前沿 agent 模型创建的数据集，反哺给前沿推理模型。所以我们始终希望确保，我们用 agent 推进的这些能力，也能融入旗舰模型中。是的，这很棒。很有自我强化的意味。你提到了你很期待看到的那些创业公司，能否具体展开一下，你认为那会是什么样子？或者至少在高层次上，你因此对哪些机会更感兴趣？人们总在说 vibe coding。我认为基本上，非技术人员现在手中有了如此强大的工具，你真的只需要一个好点子，而且你不会因为不懂如何编程而受到限制。就像你们在最开始看到的两个演示都是前端编程，那真的只花了几分钟。说实话，我觉得要是我来做，可能得花一周才能搭出一个完全可交互的版本。所以我猜，未来会出现更多——也许是更多独立开发者类型——围绕这个建立起来的小生意，因为你只需要有想法，写一个简单的 prompt，就能得到一个完整的应用。这是属于出点子的人的世界。是啊，终于轮到我们了。我觉得是的。是啊，终于来了。那么在更广泛的 AGI 讨论中呢？这究竟意味着什么，或者加速了什么，又或者没有？从更广泛的 AI 讨论来看，GPT-5 在这里意味着什么？或者说它以某种方式改变了对话吗？我认为 GPT-5 在某种程度上是一个新的里程碑，它显然是最先进的，就像我们谈到的所有方面。但我觉得，这展示了我们能够继续在这里推进前沿。总感觉有人在说，哦，我们撞墙了，事情其实没有真的在进步。有趣的是，我觉得我们已经几乎饱和了很多现有的 eval。而衡量我们的模型变得有多好的真正指标，我认为将会是使用量，对吧？比如有哪些新的应用场景被解锁了，以及有多少人在日常生活中使用它来帮助自己处理各种任务。所以我觉得，从 AGI 的角度来看，这实际上是我所期待的终极使用形态。我对此有个问题，因为 Greg 提到过，他在对比上一个模型和这个模型时，某个 benchmark 从 98 分涨到了 99 分。他说显然我们已经饱和了这些 benchmark。至少在那方面，我想是 instruction following。你们关注哪些 benchmark？你们怎么看待 eval？既然你们已经在很大程度上饱和了现有的 benchmark，或者在这些维度上已经表现很好了，那么究竟是什么在推动你们突破前沿？我的意思是，使用量可能是模型发布之后的事，但在那之前，你们内部会看什么来指导自己？是你们创建的大量内部 eval？还是让初创公司提前试用，看看他们的反馈？也许以上都有，但你们如何权衡这些因素？是的，我觉得在我们团队，我们真正是从希望模型具备的能力出发，倒推工作的。比如我们希望它擅长制作幻灯片，或者擅长编辑电子表格。如果针对这些能力还没有 eval，我们就会尝试创建能够代表性地衡量该能力的 eval，并且要以对用户真正有用的方式。很多这些 eval 都是内部的。我们可能会从人类专家那里收集，或者尝试合成创建示例，又或者直接看使用数据。然后我们就会尝试在这些 eval 上做 hill climb。是的，我们内部经常开玩笑说，如果你想让某个技术宅心甘情愿地埋头做某件事，你只需要做一个好的 eval，然后大家就会非常乐意去尝试 hill climb。是的。我喜欢你提到的从能力出发这一点。你们如何优先考虑真正要追求的目标？假设存在这样一个维度：是更深入日常生活使用，还是更深入专家级应用场景。你们怎么看待这种权衡？从实际角度讲，这种权衡意味着什么？你们在不同阶段会优先什么？我觉得在 OpenAI 能从事如此通用的工作，这是非常独特的。我的意思是，创业时别人告诉你不要做的那些事——比如你的用户是所有人——就像 Deep Research 一样。我们希望它在人们可能想进行研究的每一个领域都表现好。我认为只有在一家拥有巨大分发渠道和各种各样用户的公司，你才有这样的特权去做这件事。所以，如果你选择了一个相当通用的能力，比如在线研究，你就必须确保你覆盖了大量不同领域中的任务分布，如果你想在所有这些领域都做得好。但有时候，确实很难决定专注于某一个特定的事情，因为有太多不同的 vertical 可以选了。不过我觉得在某些情况下，比如编程可能非常重要，那么就会有一个专门的团队专注于编程。但总体而言，因为这些能力非常通用，通常下一代模型的提升会在相当广泛的范围内改善性能。我想我们在 ChatGPT 中这些模型的演进中已经看到了这一点：模型越聪明，它在 instruction following 和 tool use 上就越好。而且，随着我们不断造出更聪明的模型，会有更多能力被解锁。所以我觉得，我们团队很大一部分精力也集中在提升通用智能上，因为我觉得从中获得的收益——就像 Isa 说的——每当我们拿到一个新的 base model，看到“哇，突然之间这就通了、能用了”，那种感觉非常棒。我觉得我们在 Operator 上就看到了那样的时刻，因为我们一直在研究 computer usage，但如果没有多模态能力来真正支撑它，你很难最终让模型真正做到那一点，就像 Operator 发布时，没有那些能力你根本做不出那样的产品。对，agent 的情况也一样。所有人都在谈论 agent，但我们其实没有办法真正训练出有用的 agent。我是说，所有人都在展示各种 agent demo，但没有哪个是真正好用的。不过，我觉得当我们看到强化学习算法在数学、物理和编程问题上表现得非常好时，这就变得非常清楚了——只要读一遍 chain of thought 就会明白：“好吧，这东西实际上是在思考、推理和回溯。”而要想构建一个能够在现实世界中自如行动的东西，它也需要具备那种能力。所以我们意识到，这就是我们真正能做出有用 agent 的关键。所以我觉得在 OpenAI 有一点很有意思：你有一群人在推动基础算法，让它们在数学上变得极强，甚至在 IMO 上拿金牌；然后在 post training 阶段，我们常常会采用那些方法，并设法让它们对全体用户来说最有用、最可用。这些提升有多少来自架构，多少来自数据，多少来自规模？你是怎么看待这个问题的？在我看来，我非常看重数据。我觉得数据非常重要，而且我认为 Deep Research 之所以那么好，是因为 Issa 在数据策展上投入了大量心思和细致的关注，考虑了她希望覆盖的所有不同用例。所以我站数据这一边。对，我是说，我觉得所有方面都很重要，但特别是现在，既然我们有了如此高效的学习方式，数据——尤其是高质量数据——就更加更加重要了。也许顺着数据这个话题，我们一直在讨论 RL 环境。这个领域很受创业公司欢迎，他们都想跟你们合作。既然你更看重数据，我想听听你的看法：你认为下一阶段的瓶颈是什么？我是说，也许跟 RL 环境有关。是不是缺乏优质、真实的 RL 环境？这算不算是下一个前沿领域，也许能给这些创业公司创造机会——因为一旦你真正能在某个环境里长期运作，这些环境可不是一两天就能搭好的，而只有搭好了，你才能真正把劳动力自动化到 computer use 所需的那种完整程度。对。在我看来，我确实觉得打造非常好的任务有很大价值，而要做到这一点，就需要非常好的 RL 环境。我觉得任务越复杂、越真实、模拟程度越高，我们的模型就会越好。而且我们已经看到了这一点：任务很重要，鉴于我们已经有这么强的算法，任务此刻变得更加重要了。所以我认为，创造数据、找出最佳的任务来 train，是我们面临的重大问题之一。对。从一个网站训练到另一个网站，确实存在一定的泛化能力，但如果你想把某件事做得非常非常出色，最好的办法就是直接在那件事上训练，对吧？所以，对，我觉得我们显然受限于：我们能以可训练的方式去表示的东西还不够多。比如 TGBT agent，它的工具非常通用。它有一个浏览器和一个终端，有了这两样东西，你基本上就能完成人类在电脑上做的绝大多数任务。所以理论上，你可以让它做任何你在电脑上能做的事。显然它现在还做得不够好，但理论上，凭借它已有的工具，你可以把它推得非常远。所以现在我们要做的，就是通过在更多更多的事情上训练，让它在所有这些事情上都变得非常出色。我们来聊聊创意写作吧。也许你可以谈谈这方面的提升，以及你是怎么看待它的。这是 GBT 5 里我最喜欢的提升之一。说实话，我觉得它的文字非常温柔、非常动人，尤其是我们想做的那种创意写作。我们当时在直播里筛选了一堆不同的样本，每次我都会想：“哇，这真的说到心坎里了，有点诡异，感觉就像某个真人写出来的。”但我觉得这真的很酷，因为你其实可以真的用它来帮你做一些事。比如我在直播里举的例子：让它帮我写悼词。这种东西本来就很难写，而且写作本来也不是很多人擅长的事。我个人写作就非常非常差。没这回事。我觉得……
但这样故事更好听。我是说，跟其他我可能更擅长的事相比吧。不过，拥有这个工具来帮我打磨文字真的太棒了。我 literally 会用它来处理最简单的事，比如发 Slack 消息，想搞清楚怎么措辞比较好，它会给我几个迭代版本，教我怎么跟团队表达。我想看看那些 prompts。对，现在我们都在找 M dash，对吧？就像……
你是什么立场？在 M dash 这个讨论上，你站哪边？我喜欢 M dash。我平时就这么写，现在别人觉得我也在用 AI。回到刚才那个话题一会儿，Sam 在接受 Jack 采访时说：“如果十年前有人告诉我，我们会做出达到博士生水平的模型，我会觉得，哇，世界会变得完全不同。然而我们现在基本上已经把它视为理所当然了。”你觉得这些进步也会是这样吗？就是我们一旦拥有了，就会立刻觉得“哦，这就是现在的标准”？还是你觉得某个时刻会出现“天哪，这太……”——你是怎么看待人们适应、调整的能力的？对。我是说，人们适应得很快，你不觉得吗？Tattoo team 发布的时候，所有人都在说“哇，太酷了”。但很快你就理所应当地觉得，你口袋里 literally 装着这么一个巫师，你可以问它任何随机想到的东西，它立刻就能弹出一篇好文章，然后你就“哦，好吧，酷，就这样”。我觉得人们对技术的适应速度相当快，而且这很容易。我认为因为产品形态非常简单，即使是 Deep Research 和 chatb agent 这样的新工具，它们呈现的方式也是人们已经知道如何交互的那种非常友好的方式。我觉得只要这一点不变，即使模型变得比我们聪明得多，它对人们来说仍然会相当容易接近。嗯。你觉得从 GPT-4 到 GPT-5 的跃升更大，还是从 GPT-3 到 GPT-4，或者从 3.5 到 4 的跃升更大？至少对我个人而言，在实际使用过程中，有时我会想，自己提出的问题是否足够难，才能真正体现出差异。因为当它的回答已经好到恰到好处时，在某些方面反而更难分辨出区别。但在写作方面，没错，我已经用了几周了，它给我的震撼是以往模型从未有过的。也许我有偏见，是近因偏差，但对我来说，从 4 到 5 的跃升最令人印象深刻。因为我想，3.5 刚发布时，我最常用的场景也还是编程。而现在，尽管 4 在编程上已经更好了，但我觉得 4 到 5 的跃升在于能做的事情的广度完全不同，要大得多，而且它能处理比以前复杂得多的任务，再加上上下文长度也长了很多。我觉得对我来说，从 4 到 5 的跃升要大得多。那有没有什么是这个模型绝对不能做的？我觉得对于 GPT-5 来说，我们还没有真正在物理世界中采取行动。这部分我们会通过 agent 来实现。是的。就像我说的，你可以让 agent 做任何事，但它目前还没能力做到你想让它做的所有事情。我们采取保守策略，特别是在执行任何不可逆操作之前，会向用户确认。比如发邮件、下单、预订这类操作。所以我觉得可以想象，有不少任务你希望批量执行，但现在还做不到，因为它每次都会问你。但我认为，随着人们越来越习惯使用这些东西，随着它们变得更好、你更信任它们，你可能会允许它在不频繁征求你同意的情况下替你做事。也许顺着这个问题追问一下，就它今天还做不到、但你们会把未来研究 directed toward 的方向而言，比如在编程领域，端到端的 DevOps 之类的能力，感觉像是下一步顺理成章的能力。你们觉得我们会在 5.5 或 GPT-6 的时候达到吗？我们离那样的能力还有多远？是的，我不确定具体是不是 DevOps，但我的确觉得随着模型变得更聪明，当你问我这个问题时，我想到的另一件事是长时间运行的任务之类的事情，我觉得……
我觉得 GPT-5 很棒，因为也许在几分钟内你就能得到一个完整的应用，但如果你真的给它一小时、一天、甚至一周，会是什么样子？究竟能完成什么。我觉得那里会有很多有趣的东西，我们也很想看看会发生什么。是的，我觉得很多问题不仅仅在于模型能力，实际上还在于你如何搭建它去执行任务。我相信你完全可以搭建一个监控 Humo 或者 Datadog 之类的东西。用现在的模型就能做到，只是需要搭建好框架让它成为可能。
agent 任务也一样。我觉得很多真正有用的场景，是当 agent 能主动为你做些什么的时候。我认为这在今天并非不可能，只是还没按那种方式搭建。但最终，当它开始主动为你做事时，我们可能会收到关于这件事是否有用的反馈，然后就能让它在触发机制上做得更好。
"Agent" 可能是 2025 年被过度使用的词。话虽如此，你们发布的 agent 还是非常令人兴奋的。这个词对你而言，在近期想要构建或已经构建的能力方面意味着什么？agent 能代表用户做的最重要的事情是什么？我想我最宽泛的定义是：它能异步地代表我，为我做有用的工作。就是你把它放在那儿，然后回来，要么拿到结果，要么收到它关于正在做什么的提问。至于 agent 的路线图，长期来看，你希望它能做到任何幕僚长或助理之类的人会为你做的事。但在更近期，我们在 ChatGPT agent 中发布了很多新能力，我们只是想继续改进。其中一项主要能力是 deep research，也就是非常擅长整合互联网上的信息，但我也觉得我们可以提升整合你所使用的各种服务以及你的私人数据的能力。还有就是更好地创建和编辑文档、幻灯片、表格这类 artifact，因为我觉得人们工作中有太多有价值的产出本质上就是研究和制作。另外我个人很喜欢所有的消费级场景，比如让它更擅长购物或规划旅行，这些也真的很有趣。而这些也涉及到执行动作。这很有意思，因为执行动作往往是一项任务的最后一步，可能是人类花不了多少时间就能做的事，但要让模型去做——比如预订东西或使用日历选择器——实际上是一个非常难的研究问题。不过一旦端到端的流程跑通了，它基本上就能做任何事情。是的，太不可思议了。说到购物，我现在买任何大额商品之前，都会让 ChatGPT 把选项按我在意的维度列成表格给我。太厉害了。但我想追问异步这个点，因为我不知道你是否认同，但至少在今年年初，我发现人们愿意等待，这对我来说像是一种启示。因为你原本会想，我们要它更快，这个工具的价值主张就是快速给出答案，对吧？这很像是 2024 年的思路。显然这个范式已经转变了。人们愿意为高质量、高价值的回答和工作等待。你怎么权衡返回结果所需的时间与提供的价值之间的关系？你觉得这件事的理想前沿在哪里？是的，这很有意思，因为我之前在 ChatGPT 上做过检索功能，也在浏览团队待过。Tina 之前也在浏览团队，我们总是要做这些权衡和优化来降低延迟。我们当时想的是，怎样才能最好地用检索到的信息填满上下文，让答案在几秒内就相当不错。所以我觉得 deep research 让我非常兴奋的一点是，我可以把延迟从约束条件中拿掉。既然我们要做的是那些对人类来说非常困难、需要花很多小时才能完成的任务，我们觉得，如果你让分析师来做，他可能要花 10 小时或两天，那么用户在产品里等 5 分钟似乎也是合理的。所以我们就是押了注，幸运的是，情况似乎确实如此。但我也觉得，一开始人们会觉得："哇，这太厉害了，它做了这么多我本来要花很长时间才能完成的工作。"而现在人们的反应变成了："好吧，但我现在就要，30秒内就得给我。"正好说到标准在变这件事。因为，对，我正想问，有没有什么经验法则——当然我知道这肯定一直在变——就是只要你比人类快10倍，他们就愿意等，还是说这其实完全是不断变化的流沙？我觉得随着这些产品发布，人们的期望一直在变。对。对。我觉得我们其实有一个具体的数字。有意思的是，有时候人们会倾向于认为，回答越长就越 thorough，或者说做了更多工作，但我并不一定这么认为。比如 deep research 总是会给你一份很长的报告。但有时候我并不想读完这么长的报告，我其实不喜欢那样。所以 agent 只有在你要求时才会给出长报告。但有时候人们已经习惯了总是拿到很长的报告，他们就会说："等等，我都等了这么久，我的长报告去哪了？"但有时候，要找某一条特定信息确实很难，就算人类来做也要花很长时间，因为它可能在搜索结果的第10页，而模型就是在那儿找到这条信息的。所以我觉得很有意思的是，你可以通过一款产品来塑造人们的期望，这样当你做出改变时——或者像 deep research，它总是要思考很长时间，这 again 我并不认为是一个 feature——但现在人们已经非常习惯等待的时长了。所以……
我觉得我们在 GBT5 上也听到了这种反馈。内部测试时，人们会说："哦，我以为我问了一个很难的问题"，结果它几秒就答出来了，甚至完全不想思考，这让人感觉有点被冒犯了。回复。对。就像马克·吐温那句话：我没有时间给你写一封短信，所以我写了一封长信。对，对。你能不能聊聊瓶颈——为什么我们现在还没有可靠的 agent，你觉得主要瓶颈是什么？对。我觉得很大一部分原因在于，我们训练过的内容它通常很擅长，而训练之外的内容，有时候擅长，有时候又不擅长。所以我觉得，没错，需要在更广泛的领域创建更多数据，让它在这些方面都能做好。另外，我觉得 agent 有个很有趣的点，当它在代表你做事时，能访问你的私人数据和你使用的工具，为了达成最终目标，它可能会采取各种不同的行动，这有点可怕。理论上，如果你让它帮你买东西，还说要确保我喜欢，它可能会直接买五件东西来确保其中有一件是你喜欢的，但这未必是你想要的。所以我觉得这 definitely 是一个问题，训练过程中的 oversight 也是一个值得关注的领域。我觉得我们还需要开发一些新的东西来把这些 agent 推得更远。所以，对，这是部分原因。另外，每次我们有了更聪明的 base model，所有建立在它之上的模型也都会跟着提升。所以我觉得这也会有帮助，尤其是在多模态能力方面。就像 Tina 说的 computer use，因为它基本上就是在看网页的截图。这有点意思，因为人类看东西时会聚焦在特定事物上，而如果要求模型直接看一整张图就知道图像里的一切，这期望有点太高了。我们看东西时是会聚焦在特定部分的。对，我觉得在很多方面都有很大的提升空间。抱歉，这个回答有点泛，但是……
没事没事。其实，我想说你刚才最后一个例子可能正好引出了我们好奇的一点，这也和训练数据有关，就是——哪些具体类别的浏览任务对现在的 agent 来说有挑战？以及你有没有想过，在下一代模型中要如何解决？我的意思是，有一点在于，预训练取决于有什么数据可用，对吧？我觉得在我们做这些预训练时，一开始就没有多少关于人们使用电脑的数据，computer usage 并不是那种已经有大量公开数据存在的领域。既然这是我们想要的能力，我们现在必须主动去搜集。所以我觉得这很可能是一个很大的瓶颈。就 computer usage 的普遍提升而言。你觉得你们会更依赖人工数据供应商来帮忙收集吗？还是说，就像你说的，这类数据根本不存在，至少不是以最有利于训练的方式被记录下来的，那我们要怎么……但这可能是模型在知识工作等领域最有用的应用场景了，你们要怎么克服这个问题？我觉得一个很酷的事情是，比如最早的 deep research，并不存在像数学数据集那样现成的浏览数据集，所以我们必须自己创建所有这些数据。但一旦有了好的浏览模型或好的使用模型，你就可以用它们来 bootstrap，帮你生成数据。所以我觉得这很……
Christina，你能不能解释一下什么是 mid-training，它到底实现了 pre-training 或 post-training 做不到的什么？所以，预训练运行是你那些大规模运行，是为之建造这些巨大集群的原因。你可以把 mid-training 字面理解为"中间"训练，我们在预训练之后、post-training 之前进行。你可以把它看作一种方式，在不重新做一次完整预训练的情况下，扩展模型的智能。这主要聚焦于数据，基于预训练好的模型。所以我们可以用它来做一些事情，比如更新模型的 knowledge cut off，对吧？预训练完成后，你会想，糟糕，现在模型就卡在这个状态了，再也更新不了了。而且把所有数据都放进 post-training 也不太合理。所以 mid-training 就是一次更小的预训练运行，用来扩展模型的智能和时效性。
Christine，你参与过 WebGPT 吗？是的，参与过。好吧，那你基本上算是 AI 历史学家了。对对。她还关注过 computer use。我是元老级人物了。那你能不能回顾一下，大概四五年前，想想最大的变化是什么，或者说如果当时让你预测未来五年，哪些拐点或最大的变化会让你感到惊讶？说实话，当时做 web GBT，我们最兴奋的就是尝试让这些语言模型 grounded，因为 hallucination 的问题太严重了，模型总是胡说八道。而且当时我们其实还没有 mid-training 这种做法，所以问题就变成了，怎么确保模型实际上是 up-to-date 的，至少在事实层面是最新的。于是我们就想，不如给它一个浏览工具。我觉得这可以理解。然后就像我说的，事情的起因其实是“我还想继续提问”，于是我们就开始设想一个聊天机器人应该是什么样子。但那时候，已经有其他几家公司推出过一些聊天机器人了。而且我觉得聊天机器人也是人们提到 AI 时很自然会想到的一种形态。不过当时它们并不太受欢迎，所以我们甚至不太确定，这东西到底值不值得人们去做、去用，人们会不会对此感到兴奋？这真的是一种研究创新吗？我们是在这里重新做图灵测试吗？但后来我隐约意识到，也许这里确实正在发生一些有趣的事情。我们给大约 50 个人提供了早期试用资格，其中大多数是我当时的室友。有两个室友一直在用，根本停不下来。他们会进行长时间的对话，还会问一些相当技术性的问题，因为他们本身也是 AI 研究人员。我当时就觉得：“哦，这还挺有意思的。”那时候我们在想，既然我们有了这个聊天机器人，要不要把它做成一个很专门的会议助手？或者做成一个编程助手？但有趣的是，我的两个室友似乎用它来做所有事情，基本上整个工作日都在和它聊天，这让我觉得：“哦，这还挺有意思的。”
但有意思的是，那份 50 人名单上的大多数人其实用得并不多。我当时就觉得：“哦，显然这里有些东西，但可能还不适合所有人。”不过确实有点东西。你是什么时候意识到自己正在这代人最重要的公司之一工作的？就是那一刻，你突然意识到“这显然很重要，这也是我加入的原因”，但你真正意识到它的规模和意义，是在什么时候？说实话，这种感觉在我加入 OpenAI 之前就有了。我想是看到 GPT-3 的 scaling laws 论文时，我突然意识到，如果这个指数趋势是真的，那我这一生也不想再做别的什么了。我想成为这个故事的一部分，我觉得这将解锁无数有趣的东西，这很可能是技术层面的下一个跃迁。这让我意识到，也许我该开始去读深度学习的资料，想办法进入这些实验室之一。你呢，你的那个时刻是什么？我想对我来说，也是在加入 OpenAI 之前。我第一次听说 OpenAI 是在一堂 AI 课或者某种计算机科学课上，当时他们在说，这家公司用整个互联网的数据做了训练。我当时想：“这也太疯狂了。这是什么公司？”后来我开始用 GPT-3，我应该是 OpenAI Playground 的重度用户。某个阶段我还提前体验了一些 OpenAI 的不同功能，比如 embeddings 之类的，就成了一个狂热的 OpenAI 粉丝。这说起来有点不好意思，但没关系，因为正是这样我才来到了这里。最后他们大概觉得：“好吧，你一直在关注我们，要不要来面试一下？”但 yeah，我觉得那时候就已经很清楚了。我当时用 GPT-3 的频率如此之高，虽然跟现在的产品完全没法比，小巫见大巫，但从那时起我就被迷住了，一直在想办法进来工作。也许换个更偏向公司建设的问题。我们都读了又读 Calvin Fred Jones 那篇文章，就是他对在 OpenAI 工作的反思。如果你们愿意，可以评论一下那篇文章，但不必勉强。我更想听听你们对过去四年变化的观察，或者更短的时间也行，毕竟那篇文章似乎只涵盖了一年的变化。你们在 OpenAI 看到的最大变化是什么？我刚加入 OpenAI 的时候，应用团队大概只有 10 个工程师之类的。我们当时其实没有所谓的产品部门，API 也才刚刚推出。那完全是另一个世界。我觉得在 ChatGPT 之后，AI 已经进入了大多数人的视野，但在 ChatGPT 之前，人们其实不太知道 AI 是什么，也没怎么想过这件事。能在一个我父母现在都知道我在做什么的地方工作，感觉挺酷的。而且公司显然规模大了很多，但随之而来的好处是我们可以下更多赌注。我刚加入 OpenAI 的时候，人显然少得多，规模小很多，大概 200 人左右，而现在我想我们已经接近……
肯定有几千人了。没错，我加入的时候也是这样……
ChatGPT 之前只有几百人。所以显然，现在的情况很不一样了，你所有的朋友都听说过你做的这些东西。但从文化上来说，公司虽然大了很多，我觉得我们仍然保持了那种很像是创业公司的感觉。有些从创业公司来的人会惊讶地发现，自己比在当初创业时工作得还努力。我觉得创意仍然可以来自任何地方，只要你主动站出来、想把事情做成，你就可以做到。这跟你资历多深之类的完全没关系。我觉得我们保持了这种文化，这是很特别的。是的，我们确实奖励主动性（agency），我觉得这一直都是如此。特别是在研究侧，团队规模很小，比如 Issa 在做 deep research 的时候，只有两个人，现在也还是两个人。所以我觉得我们在研究侧仍然保持这样，大多数研究团队都因此非常小而灵活。你之前提到，OpenAI 会做一件创业公司从不会做的事，就是试图让产品吸引每一个人。除此之外，你还想到哪些 OpenAI 与同行或其他创业公司做法不同的地方？或者哪些是我们身在内部反而可能没意识到的？我觉得不同团队情况不一样，但我所在的团队与应用团队——也就是工程团队、产品团队和设计团队——合作得极其紧密。我觉得研究有时候会和公司其他部分比较割裂，但对我们来说完全是一体的，大家都坐在一起。有时候研究人员也会帮忙实现一些东西。我不确定工程师们是不是总乐意，但我们确实会尝试。比如他们会去写前端代码，而反过来说，他们也会帮我们的忙，比如模型训练跑起来之类的事情。所以我觉得有些产品团队的集成度非常高。这在 post-training 团队里是一种相当常见的模式，我认为这让我们能行动得非常快。我觉得 OpenAI 有一点很独特，就是按收入和产品来看，你们很大程度上是一家消费者公司，但同时也是一家企业服务公司。在内部你们怎么看待自己？还是说这种分类本身就是错误的范式？如果你把它和使命联系起来，就是我们既试图做出能力最强的东西，也试图让它对尽可能多的人有用、让尽可能多的人能够接触到。所以从这个框架来看，我觉得这是非常合理的。“品味”这个概念也变得非常常用了。在 OpenAI 内部，好的品味意味着什么？你是怎么识别它的？一眼就能看出来吗？而且，即便在一个所有东西的生成成本都持续不断下降的世界里，这是不是唯一无法被商品化的东西？还是说，考虑到也许它可以被放进训练数据里，这也在发生变化？不，我认为品味非常重要，特别是现在——就像我说的，我们的模型越来越聪明，把它们当作工具来使用也更容易了。所以我认为，现在拥有正确的方向非常重要。还有拥有正确的直觉，以及你想提出的正确问题。所以我想说，也许现在它比过去更重要。而且我很惊讶，往往最简单、最容易解释的东西，就是效果最好的东西。所以有时候这看起来非常明显，但要把某个东西的细节做对其实相当困难。不过我觉得通常好的研究者品味就是——
把问题简化到你能做的最笨或者最简单的东西。是的。我觉得每次我们发布研究成果，当人们弄清楚里面是怎么回事时，他们都会说：“哦，这么简单。”就像，“哦，我早该想到的。”显然，显然那样是可行的。但我觉得关键在于，要知道去尝试那个看似明显、或者说当时并不明显、但事后看来却很明显的东西。是的。然后还有所有的细节——
是的。超参数和所有这些东西，比如推理，那显然非常难，但实际的概念本身通常——
通常相当直接。非常酷。品味就是奥卡姆剃刀。是的。那么在接近尾声的时候，今天显然是具有历史意义的一天，你能不能谈谈这意味着什么，放在使命的大背景下，以及你们一路走到现在、未来将走向何方这个脉络里来看？是的，我觉得关于 GPT，在整个过程中我脑海里一直浮现的词就是“可用”。而我们感到兴奋的是把它带给每个人。我们很兴奋能把我们最好的推理模型带给免费用户。而且我觉得把我们迄今最聪明的模型带给每一个人，我只是很兴奋想看看人们会实际用它来做什么。这是个很好的收尾。Tina，非常感谢你来参加播客。是的，谢谢。谢谢你们的邀请。