Ashley Vance：欢迎收听 Core Memory 播客。我是 Ashley Vance。
Kylie Robinson：我是 Kylie Robinson。
Ashley Vance：哇，新年开始以来我们只录了一期播客，而今天我们为第二期请来了重磅嘉宾。
Kylie Robinson：OpenAI 的 Jerry Torrek 将做客本期节目。他在 AI 领域堪称活着的传奇。
Ashley Vance：这消息很劲爆。
Kylie Robinson：是啊，他刚离职。劲爆劲爆。我看到很多 OpenAI 的人在发推说「我心碎了」「我彻底心碎了」。所以没错，他是个神人。
Ashley Vance：是的，显然我们会在节目中讨论这件事，但他领导或参与了许多 OpenAI 最重大的项目。当前这波推理时代的到来，很大程度上要归功于 Jerry。所以我相信他会聊聊自己的经历，以及他做过的工作。然后我们看看他对自己的 OpenAI 时光会爆多少料。
Kylie Robinson：是啊，希望他能大胆开麦。
Ashley Vance：总之，这就是今天的安排。我想先花一点时间。我们这次的开场有点不一样。显然，我们不会像往常一样播放片段。
Ashley Vance：不过我觉得上一期节目里有几件事我没充分提到，那就是我们做这档播客已经一年了。（笑声）
Kylie Robinson：是啊。
Ashley Vance：要知道，我们在 Core Memory 拥有庞大的媒体帝国。显然，如果你在听这档播客，你应该已经找到了我们的播客。我们在 YouTube 上有视频频道，也有播客频道。我们还有 Substack，拍视频，做各种各样的事情。我想这么做的原因，只是想深深感谢那些陪伴我们走过第一段旅程的人，我们忠实的订阅者和听众等等。
Ashley Vance：总之，就是非常真诚、发自内心的感谢。我们让这件事运转了起来，有一批人从第一天就订阅了 Substack，或者收听了节目。这很酷。现在 Kylie 又为这项事业带来了活力和新鲜血液。
Kylie Robinson：我总是说，你投入了如此多的时间、精力和心血在你今年做的所有事情上，而且这真的很明显。我很高兴看到大家在订阅。这也是我很想加入的一个重要原因，因为你真的很懂这个领域，而且你工作努力，玩得也尽兴。整件事既好玩又有趣，他妈的太酷了。所以，恭喜你。
Ashley Vance：非常感谢。对于那些一直免费收听的人，这完全没问题。我们爱 Brex，他们帮我们付账单。但如果你经常听这档节目，想留下一点感谢的心意，我知道这听起来有点 lame，但实际上如果你去留个评价，据说真的会有很大不同。如果你经常听，就花五分钟去留一个。很简单。我还会给很棒的星巴克咖啡师留评价呢。拜托了各位。
Kylie Robinson：就花一点点时间。这真的会帮到我们。你这是在做好事。另外，如果你已经在为我们的 Substack 付费了，非常感谢。其他人也应该付费支持。
Ashley Vance：是的。别忘了订阅 YouTube 上的 Core Memory Pod 和 Core Memory。
Ashley Vance：那里有很棒的精彩内容。好了，我不会再过多推销了，但真心衷心地感谢大家。万岁。那我们开始吧。Jerry，你好。
Jerry Torrek：你好，Ashley。
Ashley Vance：你好吗？
Jerry Torrek：我今天过得非常好。
Ashley Vance：你身上散发着失业者的光彩。
Jerry Torrek：到目前为止已经失业八天了，这是一种变化，一种转变。我已经很久没有失业过了，但这有很多好处。是的，我现在花更多时间晒太阳了。
Ashley Vance：是啊。嗯，这就像是你的离职面谈。（笑声）非常感谢你这段非常富有成效的合作。（笑声）
Ashley Vance：我们刚才非常简要地介绍了你的背景，所以我会马上深入一下，给大家更多背景信息。你在 2019 年左右加入 OpenAI。我想说你和我以前聊过。你来自波兰。你本来就是个非常聪明的头脑。在进入 AI 领域之前，你曾涉足高频交易之类的世界，就像很多 AI 从业者那样。
Ashley Vance：然后在 OpenAI，你参与或领导了许多大家熟悉的主要产品的团队。我想最近可能每个人都听说过 Strawberry 和 o1，以及这波推理模型等等，这是你追求了很长时间的东西。
Jerry Torrek：是的，没错。
Ashley Vance：然后正如我们都提到的，你最近刚刚离职。
Jerry Torrek：这事在 X 上、在 Twitter 上引起了轰动。（笑声）在某种程度上，这样做很棘手，因为如果我自己不说点什么，媒体就会替我这么做。那会是个独家新闻，会是次泄露。所以在某种程度上，我真的很喜欢对自己做的每件事保持透明和诚实。我想，我自己来讲述这个故事的版本，总比以讹传讹要好。
Ashley Vance：我们最讨厌那种情况了。你本可以打给我们啊。（笑声）
Jerry Torrek：我很乐意给你打电话，告诉你我生活中发生的任何事。我午餐吃了什么。如果你愿意，我也可以问你。
Ashley Vance：我是说，那是一份很好的离职声明。你真的对自己在那里的时光大加赞赏，而且那是一段相当长的时间，经历了如此多的变化。在过去七年里见证这一切是什么感觉？
Jerry Torrek：说实话，我在 OpenAI 的每一年，它都是一家完全不同的公司。公司本身以及周围 AI 世界的超速增长。我觉得在人类历史上，根本没有多少这样的故事。就像这种增长速度以及变化的方式。我认为这真是一件非常独特的事情，而我有幸能够亲眼见证这一切，这让我非常开心。正如我提到的，每个时期、每一次都完全不同。2019 年有多少人来着？大概 30 人？嗯，是的，我想大概是 30 人左右。
Ashley Vance：那现在有多少人了？按最新统计，好几千了吧？
Jerry Torrek：是啊，（笑声）很难跟上。肯定没法数清楚每个人。但这已经是一家相当相当大的公司了。它是一家大公司，有很多办公室，在全球各地都有业务。
Jerry Torrek：现在很难找到没听说过 OpenAI 的人了。而当我加入时，只有少数几群人在做着各自的小型研究项目，在小团队里努力。但始终不变的是那份雄心，始终瞄准 AGI，从一开始就想要改变世界，产生积极的影响。我认为公司真的非常成功地做到了这一点，而且通过 ChatGPT 分发给人们的智能数量，以及对人们的用处，我认为这是一件非常非常了不起的事情。
Ashley Vance：是啊。好了，我们在 Core Memory 是做什么的？我们报道创新、快速发展、具有前瞻性的公司，这也是 Core Memory 由 Brex 赞助的原因，因为 Brex 是众多这类公司的智能金融平台。从初创企业到全球最大企业，有 3 万家公司依靠 Brex 的技术管理财务。他们有智能企业卡、高收益商业银行服务，以及出色的费用自动化工具。我讨厌处理自己的报销。而 Brex 的 AI 软件能直接处理这些费用，搞清楚我们的钱花在哪里，帮你处理一大堆事情，这样你就不必自己浪费时间了。访问 brex.com/cormemory 了解更多，总之，赶紧跟上吧。我们开始吧。让我们摆脱这套老旧的金融软件，迈向未来。Core memory 和 BS。那么后来呢？你发了那样一条推文之后，是不是地球上每家 foundation lab 都立刻找上你了？确实有很多，而我正在想清楚下一步该做什么。我在这个行业已经待了很多年，早就积累了很多人脉，也认识很多圈内的人。从好的方面看，我并不急着决定自己接下来想做什么。这些年我一直工作得很辛苦，甚至都没有太多时间去见人、和人交流。所以现在我有机会稍微停下来，想一想接下来这七年我要怎么过。不过我确实在跟很多人聊。嗯。你在推文里说，你想去做一些你觉得在 OpenAI 没法做的研究。对。你能稍微解释一下吗？我是说，这种想法是怎么来的，以及那会是什么样的研究？是的。有几方面的原因，使得某些事情在一家正身处残酷竞争、拼命想拥有全球最顶尖 AI 模型的公司里很难去做。一方面，公司自然会在风险承受意愿上有所考量。为了不落后于用户增长指标，花钱买 GPU 是一件非常艰难的事，也正因如此，展示实力、持续拥有最强模型对所有主流 AI 公司来说都至关重要。但这确实会在某种程度上影响你愿意承担风险的胃口。另一方面，公司都有 org chart，而 org chart 往往会决定你能做什么样的研究，因为每个团队都需要某种身份认同、某种研究范围、某一套他们要解决的问题。而跨组织的研究就很难开展——如何在更大规模上很好地组织研究，我觉得这还是个没完全解决的问题。研究喜欢活力，甚至可以说喜欢混乱，但一大群人又需要秩序、需要结构、需要 org chart。正因为如此，shipping your org chart 是一个众所周知的概念，几乎所有公司在做研究时也是如此：你就是在 ship 你的 org chart，做的项目就是组织架构设定好的那些项目。与此同时，我想做一些 OpenAI 不太容易支持的研究。这是不是说，JT 或者你那边马上要有什么新的突破了？我觉得 AI 领域的每个研究者都想做出下一个突破，我肯定也算其中之一。我之前和 Mark 上播客的时候聊过这事。我是说，每个人都在跟他提想法，也跟 Yakob 提，而且 OpenAI 有一段历史证明他们很擅长承担风险、去做其他实验室没做的事。但我知道，每个人——你们肯定也有那么多聪明的人——都在提各种各样的想法，而一家公司资源终究有限，尽管已经很多了，但它必须做选择，对吧？所以，这确实是一个非常困难的过程。所以你在想的不管是什么，那一定是一条相当新颖的路径之类的，因为如果是那种“我们不知道该不该往这个方向走”或者“我们现在负担不起做这个”的情况——
我觉得 Ilia 那个“研究的时代”的概念，我不确定是不是像他说的那么非黑即白，但我确实认为，AI 和机器学习世界里还有太多东西等待探索，远比现在正在探索的要多。我们在六年前确定了 transformer 架构，之后人们一直在 scale transformer，而且进展相当不错。每季度用多一点算力、多一点数据训练出一个更好的模型，这条路非常清晰，我们也看到这方面的进步确实没有停下来的迹象。但这就是全部了吗？这是最后一件事吗？我非常确定不是。我们还有很多很多方法可以继续改进模型，只是目前还没有人去做。就像你已经提到的，我研究过 reasoning，研究过如何 scale up reinforcement learning。在那之前，大家真正押注的是 scale up transformer 的 pre-training，这是一种 scaling 方式，而且效果不错。而且每次你 pre-train 出一个更好的模型，它的能力就更强，各方面都会提升，所以你可以说，只要继续 scale pre-training 就行，模型会越来越好。但突然之间，一些有梦想的研究者相信，我们能做的远不止 scale pre-training。他们证明，在那些语言模型之上 scale reinforcement learning，投入与 pre-training 相当量级的算力，就能教会模型一些单靠 pre-training 永远学不到的东西。正因如此，我们今天才有了那么多了不起的 agents，能够自动化工作、解决问题，而那些只靠 pre-training 的模型要耗费极其巨大的算力和数据才能做到。所以你发明了新的 scaling 方式，就获得了全新的能力，而如果走 pre-training scaling 的老路，可能永远等不到这一天。这是一个相当大的飞跃。我认为，基本上自 GPT-4 发布以来，reasoning models 就是一次重大的能力跃升，我相信还会有更多类似的东西。我一直觉得，研究者不应该只想着渐进式改进，还应该思考如何彻底颠覆游戏规则。就是去年 Ilia 在 NeurIPS 上说的，你知道，数据快用完了，这条路会走到头。pre-training 正处于挣扎期的这种说法，让我想知道下一个突破会是什么。你基本上就是在谈这个，对吧？对。我并不完全认同 pre-training 正在终结、以后就没有 pre-training 了这种说法。pre-training 仍在进步，而且还有很多方法可以继续推进。但它不是改进模型的唯一方式，其他方式或许能让模型进步得更快。scale pre-training 只是在很多事情上让模型进步得非常非常慢，但确实有用，模型确实变得更好了。不过可能还有别的路。硅谷有一点很有意思：很多时候科技公司想出的点子非常原创，外界觉得它们很怪异，而正是这样你才建立起了这些有趣的新业务。科学和研究也是如此，要去追别人没走的方向。然后一旦某个方向爆发了，情况就反过来了——大家形成了巨大共识，人们就有点“我们都这么做，现在我们是在比谁这么做更快”的意思。你描述的也有点这个意思。你觉得这会成为一个问题吗？既然我们已经陷入了这场模型竞赛，而且已经持续了两三年。主流实验室是不是都变得更保守了？这是一个普遍的问题吗？我确确实实感到非常非常遗憾，现在所有 AI 实验室都在试图做和 OpenAI 一样的事情。OpenAI 显然是一家非常成功的公司，做对了很多很多事情，并且将世界带入了扩展 transformer 的范式，也证明了扩展以及扩展后的机器学习模型能够为世界做很多真正伟大且有用的事情。但世界上到底需要多少家公司做一模一样的事情？我不知道。竞争显然是有好处的，所以比一家独大可能要好。但我们现在有，我不知道，五家相当严肃的 scaling AI 公司，用着完全一样的配方，试图在相同的技术之上构建或许略有差异化的产品。也许这么做是对的，但我希望模型之间能多一点多样性，多一点差异。如果你看看当今世界上所有最好的模型，很少有人真正注意到它们之间的区别。我认为应该做更多盲测，让人们分别与不同的模型对话，看看他们能不能区分，能不能说出哪个模型是哪个。我觉得 99.9% 的用户都不会意识到这些模型有何不同，感觉它们几乎完全一样，尽管是不同的团队在做着略有不同的事情。所有实验室都在想，我们这方面做得稍微好一点，另一个实验室或许在某种其他技术上更好一点，但最终它们为什么都变得如此相似？真正的探索在哪里？在哪里有那种创新的能力，那种让自己与其他人区分开来的能力？我不把它们用于编程或者硬核科学研究，但我确实，你知道，我一直更处于文字领域。然后这就挺有意思的。我觉得自己在某种程度上像个葡萄酒鉴赏家。我想我能分辨出区别，但区别很细微，就像如果我要做某类事情我会用 Gemini，然后做另一类事情我会用 ChatGPT，还有 Claude，它们的写作风格都略有不同。是的，我正想说，对我来说最注意到的是个性。就像我最近刚完全转用 Claude ，因为我挺喜欢它的个性。它不会过于冗长，也不会花里胡哨或者用力过猛。它直接得多，而我没法让 ChatGPT 改成那种说话方式。但我同意，世界上大多数人都毫无头绪，他们根本分辨不出来。是的，是的。真是个顽固的机器。你 觉得自己是个品味很高的测试者吧。我能从这儿问一个有点难的问题吗？你看，你——
你在 OpenAI 待了这么长时间。你在公司内部是个传奇人物，你从事的工作最终取得成功的记录相当出色。那么，这是个坏兆头吗？如果连你这样的人都说“这就是我想做的方向”，而我不知道公司到底是同意还是拒绝，但他们至少让事情变得足够困难，让你不想在那里做这件事。特别是对于一家最初作为研究实验室成立的公司来说，嗯，怎么说呢，我不知道。这是个坏兆头吗？我觉得有时候人会发展到某种境地，他们认为道路需要分开。对于一家公司以及公司里的每一个人来说，在某些方面就目标是什么、前进的道路是什么达成一致，是非常重要的事情。而在某个时刻，我觉得我对前进道路的看法，与 OpenAI 所选择的前进道路、以及未来一年的研究应该是什么样子，至少在某种程度上产生了足够有意义的分歧。从某种角度来说，我认为分开比强迫自己一起工作要好，因为有些分歧可能会不断恶化。这就是为什么我认为，不同的公司做同样的事情要好得多，因为在某种程度上，对公司来说专注是极为重要的。很可能 OpenAI 正在做所有正确的事情。也许我只是有一些不切实际的梦想，我对还能做哪些其他事情太过乐观了，这非常有可能。然后想到我们需要专注，需要把核心事情做得非常好——很多事情，很多公司都需要这样做才能生存，才能进入下一个阶段。所以，在一个理想的世界里，应该有很多不同的公司做很多不同的事情。特别是对于那些很难去做自己不认同的事情的研究人员来说，他们应该找到一个地方，在那里他们觉得最认同的研究方向……历史应该会随着时间证明哪一个才是最好的。这就是我再次感到有些难过的地方，因为所有公司都在做同样的事情。如今，如果你想做与机器学习主流不同的事情，很难找到一个地方去做，而这可能是我最难过的一点。而且你好像还在想清楚下一步要做什么，这会是什么样子的。所以如果所有实验室都在做同样的事情，你不会考虑跳槽到另一家大实验室，对吧？我确实在想我的下一阶段会是什么，但如果有更多选择，能够做些与主流略有不同的事情，我会更开心，也更容易选择并找到那个地方。你认为我们要偏离主流需要什么？因为我可以想象，作为一家公司，投入了如此多的资金和如此多的资源，又处于聚光灯下，它们害怕承担这些风险，但你知道，这些风险可能确实是必要的。那么必须改变什么？或者说，这会发生吗？这正是有趣的地方。我真的很喜欢冒险，我也被这样描述过，我认为冒险是好的。但与此同时，当牵涉到巨额资金时，很少有人能够并且愿意承担那种风险。你知道，个人的风险承受能力是非常……非常具体且非常……非常独特的，因人而异，取决于他们愿意做什么。我过去与很多人合作过，我真的认为人们应该更愿意承担风险，多尝试一些东西。我认为研究人员，说到 AI 领域的薪酬如今相当相当疯狂。但我也觉得，这有时会让人非常不想丢掉工作，非常不想表现不佳，因此想要走或许能带来短期收益的道路，而有时这些人是非常聪明、心地非常善良的人。只是不知为何，有时系统设置得有点过于短视。特别是研究人员，真的应该被鼓励去冒险、去下大胆的赌注，因为进步就是这样实现的。嗯，所以我们知道有几个例子，我猜。我是说，John Carmack 去了他在达拉斯的洞穴里。我想他有一段时间是单干的，我想他现在有几个人为他工作了。是的。他有点像在说，他几年前说了你现在说的这番话，就是，我不知道我能不能做出不同的东西，但我认为至少应该有人在钻研一种非常不同的方法。我和 Ilia 聊过，但不太清楚他到底在做什么。所以我完全不知道，这算是他之前工作的延续，还是某种激进的……我是说，我敢肯定他在某种程度上认为必须是某种不同的方法，否则为什么要筹集那么多资金去做这件事呢？而且 Yan Lun 似乎有不同的理念。但我一直在想，这个领域吧，对我来说挺有意思的，因为 AI 在某些方面已经很老了，可以追溯到几十年前，但这种特定的方向相对较新。我和研究人员聊的时候，他们仍然觉得，如果你读了所有的重要论文，现在很快就能跟上进度。但有时我会想，会不会突然出现某个人，带着某种全新的激进想法，推动一切向前发展。不过现在这似乎更难了，因为你需要国家级规模的数据中心来为这些东西供电。这正是困难之处，也是一个值得去解决的有趣问题，因为学术界和全世界有很多研究在进行，有很多学生在做很多事，但他们大多资源严重不足，这导致那些研究最终难有实质性进展，因为你真正想做的研究是大规模的研究。而让我非常高兴、非常乐观的一点是，现在似乎确实有大量资金在流向新的有趣想法，有些人能够利用这些资金，比如 John Karmak，比如 Ilia。这些正是现在应该存在、应该获得资助的项目。显然不是所有人都会成功，但有些人会，这就是世界创新的方式。对于每一位强化学习研究者来说，exploration versus exploitation 这个概念都非常熟悉。即便你在优化我们的 agents，也存在一个很大的权衡：这些 agents 应该走已经证明有效的路、走它们知道如何成功的路，还是应该尝试全新的事物、用全新的方式解决老问题？这是一种权衡，不容易做到，但这是被研究且需要被研究的。正如我们思考 agents 如何做选择一样，我们也应该思考自己是如何做选择的。在顶尖 AI 研究者的小圈子里，人们知道 Carmarmac 在忙什么吗？你们都知道吗？还是说他……
很遗憾我不太清楚，不过等等，也许我知道一点。我认为他在押注于通过鼠标和键盘在电脑游戏上实现非常端到端的强化学习。我想好像有这么回事，如果我没记错的话。我是凭记忆说的，但这非常有趣，因为长期以来我一直认为电子游戏实际上是训练智能最有趣的环境之一，因为游戏的设计初衷就是要引人入胜，要让人类大脑觉得有趣。对人类大脑来说，有趣意味着有一些讲故事的元素和权力幻想的元素，但也有很多纯粹的解决问题。它必须有趣、吸引人，不能重复。电子游戏非常契合人类智能，并以一种有趣的方式教会了很多关于资源分配、如何解谜、如何赢各种类型的游戏的知识。这正是你希望你的 agents 去做的事。我们还没想出非常聪明的模型，能以高频率在这种多模态环境中运行。可能存在一些架构上的限制，但我认为在电子游戏上训练 AIs 是一件极好的事，因为 Richard Sutton 过去做了很多相关研究，不仅仅是电子游戏，还有扑克之类的东西。而且我在他的实验室待过。我是说，他用的电子游戏相当简陋，相比之下我们后来在 OpenAI 做了 Dota 那些，而且感觉 Demis 一直在追求这个想法。所以你提起这个很有意思，因为这有点像……
一个老想法，以前实验室有一阵子就像是要不断做出最好的游戏来炫耀，然后在 ChatGPT 时代这个方向就不流行了。而你是说也许它终究还是有前景的，我们应该重新审视它，或者说……
科学中有一条共同的规律：好的想法往往会重新浮现。提前预测哪个想法重要要容易得多，但找准合适的时机则难得多。有很多事情，即使在 OpenAI 早期，我们也常说，不能断定某种特定方法不行，也许它只是暂时不行。我七年前刚加入 OpenAI 时，游戏上的强化学习是大热门，人人都在做，而且取得了相当不错的结果，我们解决了游戏，解决了《星际争霸》，AlphaGo 是非常著名的时刻。但那些模型有一个明显的问题：它们没有那么多世界知识，它们不理解我们的世界，它们只是从头开始训练来玩那个游戏。这显然不是正确的方式。我们首先需要教会模型关于我们世界的知识，教会它们各种比单纯对像素做出反应更高层次的概念。从零开始的强化学习非常像某种猴子大脑或蜥蜴大脑在试图做事。我们希望模型拥有稍微更高层次的概念。但在多年扩大预训练规模之后，我们可以训练出一组关于周围世界的非常好的表征。而现在我们应该利用这一点。这就是推理模型的全部魔力所在：它们在一个非常强大的基础之上——通过预训练获得的对世界的认知——搭建起强化学习的高塔。这才是未来应该走的方向。还有世界模型，我是说 Google 已经做了。Yan 和 Fay 追求的也是这个吧？我觉得这很合理，这正符合我们学习世界的方式。我们不是像婴儿一样生活在黑箱里，我们是靠摸索来感受世界的。所以你相当看好这个想法？嗯，这个想法显然非常正确。有趣的概念在于，我们如何把世界模型构建出的表征与强化学习之类的东西结合起来。你用强化学习来教模型技能，而模型要在现实世界中运作就需要这些技能。你需要某种实现自己目标的能力，这正是强化学习教给你的。但要实现自己的目标，你首先必须理解周围的世界，然后才能产生如何实现目标的好想法。这就是为什么这些东西需要结合起来。我认为，如果有人在训练得非常好的世界模型上成功地做强化学习，无论谁能让这奏效，那都将是一个非常非常令人欣喜的时刻。
The Core Memory Podcast 自开播以来一直由 E1 Ventures 的优秀团队提供支持。他们是一家位于硅谷的年轻且雄心勃勃的风险投资公司，投资于年轻且雄心勃勃的公司和人才。非常感谢 E1 Ventures 一直以来的支持。我不想让你太为难，我是说，就你一直在探索的这些方向而言，能不能给我们一些提示，说说你对什么感兴趣、是什么在吸引你？还是说这会泄露你新创业公司的信息？我认为目前最让我兴奋的研究方向有两个。主要是从这样一个角度出发：我觉得去做那些实验室正在做的同样的事情没什么意义。我认为现有的框架中仍然有很多可以调整和改进的地方。但有两个方向我认为投入不足，或者说至少没有得到应有的重视和资源倾斜。第一，是某种程度上的架构创新。我觉得我们现在对 transformer 架构过于执着了。它是一个很棒的架构，已经被非常深入地探索过，人们在局部改进 transformer、试图找出能让它表现更好的小调整方面遇到了一些困难。不过确实有一些相当成功的尝试。显然，稀疏性（sparsity）就非常成功。各种让 attention 更便宜的方式也相当成功。但 transformer 会是机器学习的终极架构吗？显然不是。尽管 transformer 的提出者们做出了出色的工作，并在随后的大约十年里定义了机器学习的格局，但我认为还有更多的可能性。我认为有其他方式来训练大型模型，它们看起来可能不像 transformer，也可能有点像 transformer，或者完全不像 transformer。我觉得这是一个我很想探索的问题，如果没人去做，我会卷起袖子亲自尝试解决它。第二件事是一个更热门的问题，但我认为目前没人做得很好，那就是持续学习（continual learning），以及 figuring out how to really really bring test time and train time together（ figuring out how to really really bring test time and train time together）。很明显，我们人类就是这样运作的。我们没有单独的学习模式和回答问题模式，所有事情都是连续不断、实时发生的。我认为我们的模型也应该更像这样。这很可能是我们在能真正将模型称为 AGI 之前，最后几个重要的能力要素之一。如果它们不能从所见到的数据中学习，就仍然感觉有点受限，有点笨。说到 AGI，上次我们聊天时我说过，我现在不像一两年前那样经常听到关于时间线的讨论了。那时候讨论时间线的热度要高得多，甚至谈论 AGI 本身都有点降温了。所以我很好奇，你称自己是对 AI 持谨慎乐观态度的人。那么你认为我们现在距离 AGI 还有多远？是的，我个人的看法是，我在观点上做了一些更新。我一直相信，扩大强化学习的规模是通往 AGI 的必要组成部分。大约一年前或者一年半前，我坚信只要在我们的模型上 scale up RL，那就是 AGI。关于这一点，我确实不得不做了一些更新。但有些东西只有当你进入下一阶段之后才能看清。我们必须承认，今天的模型在很多方面已经非常非常好了。它们在编程上能取得的成就——对了，vibe coding 是我最喜欢的爱好——你能非常非常快地把很多东西都写出来。对有些人来说，如果你在十年前展示我们今天拥有的这些东西，他们早就称之为 AGI 了。所以我觉得，现在谈论 AGI 已经不像以前那样遥不可及、那样疯狂了。但至少按照我的定义，目前的模型仍然不是 AGI，因为持续学习还没有以任何方式整合到我们的模型中。与此同时，从我们的模型目前所处的阶段来看，甚至像多模态感知这样的事情——如果模型非常擅长文本理解、非常擅长编程，却无法看到外面的世界，不能观看视频并很好地理解它，那我们能称它们为 AGI 吗？所以还有很多问题，我认为这些都是真正实现构建 AGI 这一文明级里程碑所必需迈出的步骤。有一段时间我认为，如果我们真的全力以赴，把一切做好，也许 2026 年至少会是我们实现真正优秀的持续学习和真正通用的强化学习的一年。我觉得我的时间线仍然在波动，但与此同时，AI 领域发展得相当快。投资每年只增不减，越来越多的人进入 AI 领域，这扩大了人才池，也增加了我们探索的想法数量。所以我认为这个设想并不完全疯狂，也不完全离谱。可能会稍微早一点，也可能会稍微晚一点。也许是 26 年，也许是 27 年、28 年、29 年。我不认为会需要比这长得多的时间。但还有很多工作要做。人们正在为 AGI 努力奋斗。我是说，你当时在做的那个东西，除非我记错了。我是说，早在 Strawberry 出现之前，它有点像 Q* 那回事，对吧？然后在有关 Q* 的消息传开时，就像这样，Ilya Sutskever……大家都很害怕，你知道，他们意识到 AGI 要来了，这吓坏了所有人。我是说，仅仅听你如今这样回顾当初的做法，就足以让人感到震撼吗？嗯，有趣的是，这很微妙。这些模型做出了极其令人印象深刻的事，然后我们就变得极度狂热，接着时间流逝，你知道，现在 Strawberry 非常不可思议，它改变了整个领域。但我第一次使用它的时候，它并没有吓得我屁滚尿流。你懂我的意思吗？我懂你的意思。这既是人类心理的有趣部分，也反映了我们与技术互动的方式。对我来说，scale up reinforcement learning 的影响仍然相当显著，而且我认为随着时间的推移，我们会看到更多，尤其是在编程应用方面——这将从许多不同方面影响我们的生活。如今做任何大型编程项目，与一年前相比已经是完全不同的局面了，我们会在各种事情上看到这些影响。两年前的我和团队以及 OpenAI 的许多人，当 Q* 最初显示出工作迹象的时候，你坐在房间里，看到了某种具有重大意义的全新技术，如果你一点都不害怕、不担心，不去稍微想一想我们这样做会给世界带来什么后果，那我认为你对待自己的工作很不负责任。我认为每一位 AI 研究人员都应该思考：如果我在做某件事，它是全新的，它具有前所未有的新能力，世界将会发生什么？就像许多研究人员那样，有时候人们很容易走偏一两步。到目前为止，AI 还没有对世界造成什么实质性的危害，尽管像 deepfake 这类东西可能还存在争议。或者至少据我们所知没有。 但我仍然认为，在向世界发布新技术时感到担忧和谨慎，这是一种非常非常好的、非常健康的反应。我认为，我们正生活在一个变革的时代，一个大量新事物向全世界扩散的时代，它们将会产生影响，将会影响人们的生活方式。它们会影响人们如何看待自己、如何看待他人，会影响人际关系，也会影响国际关系，会影响GDP和生产力。有时候，某人写下的一行代码会产生层层递进的连锁反应，波及上述一切，而这份分量是相当沉重的。这些都完全在理。我想我们之前稍微聊过这个，但我当时总是试着站在你的角度想，就在那场风波期间，你知道，Pat、Kylie和我那周都在拼命互相抢发独家新闻 ，然后眼睁睁看着你创造的这个东西如今被媒体报道，与此同时又被卷入一场 essentially 像肥皂剧一样的闹剧里。我不知道用“好笑”这个词是否恰当。在还没有人真正明白它是什么的时候，眼看着你的创造物变成如此令人着迷的对象，你会觉得奇怪吗？技术世界、概念、人类情感、人类生活以及人类之间的共识与分歧，这些是很难割裂开来的。显然，在我们所处的世界里，AI领域的重要参与者之间有着极其复杂、层次繁多的关系网络，要理清这一切，恐怕需要历史学家花费很多年甚至几十年的时间，才能真正理解这里到底发生了什么、当时的实际情况又是如何。说实话，我现在对那场风波期间发生的所有事情也只有非常模糊、零碎的记忆。而且每当有新的证词出现，每当 有新的文件被揭开，总会有一些新的事实浮出水面。再说，未来某个时刻，肯定会有人把这一切全都挖出来。但世界本来就是复杂的，而且话说回来，或许存在一种更健康的方式来讨论技术，找到一个合适的讨论平台，让那些分歧以某种方式得到充分探讨。但我们生活在一个没有完美解决方案、没有完美方式的世界里，事情就是这样。你不觉得X是那种理想的讨论媒介吗我个人确实很喜欢在X上发帖，喜欢与社区、与周围的每个人分享我的想法，但X也并非一个完全严肃的地方，所以那里的氛围总是半开玩笑、半认真的状态。可是，如果有人认为某件事太危险、不应该继续做，有人认为这样做是对的，因为它能提升能力，还有人则认为这根本不是正确的研究方向，我们应该去做别的研究——面对这些分歧，正确的解决办法又是什么呢？在技术进步和研究的世界里，很多事情都是未知的。没有人知道未来，有的只是想法、信念和梦想。带着这种不确定性，我们必须生活下去，也必须设法在很多问题上接受彼此保留分歧。是啊。考虑到当时媒体对Qstar的关注，感觉就是铺天盖地的炒作，而且似乎逐月愈演愈烈。我很好奇你怎么看，因为我们很多人在Twitter上——我俩都经常刷推——也都参与过这种炒作。那么你对这种炒作怎么看？是不是应该降降温？我个人觉得我们应该大幅收敛。我知道你也这么想，但与此同时，如果有人在七年前告诉你，OpenAI会成为一家万亿美元的公司，建设史上最大规模的基础设施项目级别的数据中心，拥有全球最大的网络产品之一，所有人无时无刻不在谈论AI，你肯定会觉得那些人疯了。这就是炒作。但我真心觉得，这种炒作在很多方面是有根据的。有时候它过头了，有时候又没炒到位，各个方面都是如此。但AI很重要，值得被讨论。我觉得现在不会有人认为AI是一个不重要的话题。就在几年前，肯定还有很多人那样想。现在显然已经确定，AI可能是世界上最值得讨论和思考的话题之一。这里的进展速度会有多快，哪些是正确的路径，这究竟是安全还是危险，所有这些都可以存在分歧和争论，但AI不会消失，而且只会越来越好。完全同意。但抛开技术本身不谈，我是说，我甚至报道过MSL的挖人大战。这一切已经变得更像肥皂剧和真人秀，而不是硬核科学。而且你从事这行这么久了，我只是好奇，我们是不是已经有点跨入真人秀节目的领域了？但问题是，谁在制造这出肥皂剧呢？ 确实如此。反正肯定不是我。我年纪大到足以经历过互联网泡沫和这些不同的时代。这一次更像肥皂剧，你知道吗，在当年那场伟大的生产力软件大战中，我不太记得事情是这样的。我的意思是，这大概是因为赌注太高、钱太多了。光是实验室之间互相挖人，再加上所有那些疯狂的戏剧性事件，这一切给人的感觉就是——这也是这么长时间以来一直让我震惊的——我觉得旧金山仿佛进入了某种属于自己的现实，不完全是泡沫那种意思，而是说我们都说服自己这就是最终产品，赌注如此之高，你身处这场竞赛中，结果可能是好的，也可能是可怕的，一切都如此极度紧张，以至于我觉得它带来了所有这些额外的包袱，对吧？所以我觉得这次确实有些不同。我记得互联网泡沫最初是从“这很酷，世界上所有信息都能获取，我们可以联系到任何人”开始的，然后我们 kind of 在做创业公司，它慢慢变成了赤裸裸的抢钱，因为感觉好像有人能靠这个发财，那就看是谁了。但它并没有让人觉得整个世界都压在这些事情上，你懂吗？我真不知道你们这些人是怎么熬过来的，因为我会和你们一起闲逛，你们可能在Anthropic之类的地方，然后我看到每个人都那么拼命工作，你们彼此处于这种竞赛中，而且同样，赌注太高了。我是说，干了七八年这个，一定非常……我能理解你为什么要休个假。一定很累，而且在心理上……如果你真的全盘接受那种想法，它肯定会带来心理上的损耗。确实如此。但我可以告诉你，我曾经从一位比我更有经验、更懂得应对压力的人那里听到过一句话，Jerry，这就好比做俯卧撑。每经历一次艰难、充满压力的时刻，你就变得更擅长应对它一点。说实话，我觉得在这七年的工作中，我学到了极强的心理和情感韧性。至少就我个人而言，我真的觉得自己能够屏蔽掉很多噪音和废话，无论发生什么——无论我所在的公司正在分崩离析，还是研究人员在流动，又或者项目被重新分配——都能保持恒定和沉稳，而且总会有一些有意思的事情。我曾听人将人才挖角比作 sports team transfers。体育团队运作良好的地方在于有明确的角色分工，而且有时我想说，不幸的是，根据加利福尼亚州的法律，在这里这并不太可行。我认为如果能为此制定一些规则会很好，因为我觉得业内有些人的跳槽频率远高于他们实际做任何工作的时间，而且这种情况确实也在发生。
AI salary cap
但确实有人在这样做，也仍然有人在脚踏实地工作，试图 push the frontier forward。但 AI 是一门大生意，这一点无论如何都无法否认。我之前跟 Kylie 说，我们应该列出所有曾在每一家 Frontier Lab 工作过的人， 以及他们在每家待了多久。肯定至少有少数人完成了整个湾区的巡回。是啊。天哪，太疯狂了。我们能聊一下 Polish Mafia 吗？请讲。我是说，当我刚开始写这本书的时候，谈到2018年左右，当时大概有30个人吧。最初那批人里有相当多来自波兰，数量惊人。他们都是数学天才。嗯，你们有些人是从小一起长大的，有些不是。但，嗯，我想这要么反映了旧苏联教育体系的卓越，培养出了这么多数学头脑，要么只是因为有人先去了，你们彼此认识，最后都到了 OpenAI。所以首先，我个人在加入 OpenAI 之前并不认识那里的任何人，完全是机缘巧合。但尤其在早期的 OpenAI，波兰人的比例确实很高。我觉得这没能经受住时间的考验。虽然现在波兰人比早期多了几个，但考虑到公司规模已经扩张了一百倍，其实也不算多。不过我觉得这背后确实有些原因，只是我没有体验过其他教育体系，所以没法告诉你波兰的教育体系是否真的那么出色。我们确实有很多杰出的人才。而我真正喜欢波兰的一点，也是对我出生以来这37年波兰经济繁荣与发展的证明，就是波兰人非常勤奋，而随着时间推移，这在很多发达国家已经越来越稀缺了，人们越来越不那么重视努力工作了。生活太安逸了。
生活确实可以很好，人生中显然有很多其他方面可以重视和优先安排，但波兰人真的很在乎。在我出生之前，波兰还是一个共产主义国家。就在我出生的那一年，我们转型为自由市场经济。这个过程有点残酷，但波兰社会真正拥抱了这一变化，努力探索如何变得具有创业精神，如何明白必须为自己的未来、为创造繁荣而努力工作，你知道，这奏效了。我算是专家吧。我不再住在波兰了，但每次回去——一年一两次——我看到我的国家在建设，我看到它变得更好，我看到它更美丽，我看到它更繁荣，这真的是非常美好的景象。这是一个了不起的故事。你算是名人吗？不，完全不算。我觉得波兰政府肯定在想，"靠，我们本可以 把这整套东西做起来的。我们应该留住这些人的。" 嗯，是的，我去年去了波兰。我知道他们意识到了这一点，每个人都说你认识 Voych 吗， 他真是个好人，特别友善。
我是说，我认为仍然有很多东西是除了这里之外很难在任何地方复制的。Silicon Valley 完全是独一无二的，美国的野心、美国的规模和美国的活力不是你在世界其他地方能轻易复制的。但我可以向你保证，波兰人非常勤奋，这一点绝无[ __ ]。所以这在人生中能帮你走得很远。那么，你对 Google 这次的某种回归是感到印象深刻、惊讶，还是并不意外？你知道，我是说，他们似乎做对了很多事情。你们是不是一直就觉得事情很可能会这样发展？他们会搞定自己的[ __ ]，然后做到这一点，还是说这其实出乎你们的意料？呃，就我个人而言，与其把这看作 Google 的回归，不如说这是 OpenAI 的失误， 我认为 OpenAI，尽管这家公司做错了很多事，但它确实绊倒了几次，执行速度也比应有的更慢。在理想情况下，如果你是处于领先地位、拥有 OpenAI 所有那些优势的公司，你应该始终保持领先。但如果你一路上做了错误决策，而别人做了正确决策——Google 确实做对了很多事——而且你必须明白，Google 在硬件、人才方面有很多优势。就像 OpenAI 刚成立时，Google 在几乎所有 machine learning 方面和研究方向上显然都是第一。而 OpenAI 能够脱颖而出的方式，主要是依靠对某个特定方向、某个特定 bet 的研究信念。而世界花了长得惊人的时间才意识到这是一种好的信念、一个好的 bet，因为即使在 GPT2 训练出来的时候，在 GPT3 训练出来的时候，在 GPT 3.5 训练出来的时候，也没有那么多人真正在意。你去 NeurIPS，和很多研究者聊，OpenAI 当时已经有点酷了，但其他实验室会说，好吧，我们什么时候复现一下。那些语言模型挺有意思，但也仅此而已。只有当 OpenAI 开始通过 ChatGPT 赚钱的时候，其他公司才觉得，好了，现在这能盈利了，我们真的得做了。但从你开始构建技术到真正将其商业化，这给了其他人大量的时间，让他们来得及说，我们真的真的需要做了。然后很明显，Google 从那一刻起开始认真对待大规模语言模型的训练，而且随着 OpenAI 的失误，它们现在在能力和模型训练方面都已经非常接近了。所以，这对 Google 来说是好事，祝贺所有成功扭转那些团队局面、让他们执行到位的人，这绝对是非常出色的工作。失误具体是指什么？我在努力回想，因为我记得报道过，比如当你们推出搜索功能，当 OpenAI 推出搜索功能时，大家都说 Google 完蛋了，我当时想，我不确定是否如此。但到底是哪些失误呢？我不太想过多谈论内部决策，哪些是对的、哪些是错的。但话说回来，我认为在良好的执行情况下，如果你一开始就领先，你就应该保持领先。但你确实认为存在技术层面的错误，因为公司内部有很多戏剧化的纷争，在某些层面上拖慢了进度。我和 OpenAI 的很多人聊过，他们当时只是在应对公司该如何继续前进的问题，而且有些时候，一大批重要人物会离职，所以……但听起来你更多是在谈技术层面你认为存在的问题。这些事情有时是相互关联的。从技术层面说，我不认为人员离职应该是那么大的问题，但这有时只是问题的症状。我认为这本身不是问题，在很多公司，人员来来往往、有人离职应该是正常的业务流程。但如果有一种情况是，人们说「嘿，有人做错了事，这就是为什么我们不再相信这家公司，我们应该离开」，那可能确实存在一些问题。但嗯，是的，正如我所说，我认为确实有一些事情的推进速度明显比原本可以做到的更慢。如果你说得对，那些大型实验室是后来者。我的意思是，显然它们涉足 AI 已经很久了，但很明显它们曾押注要以一种不同的方式来做这件事。然后它们又从其他公司挖走人才。我不太清楚 Meta 具体在做什么，但给我的感觉并不是它们在走一条不同的路，它们只是在试图跟随同样的路径。这看起来从根本上……我的意思是，这看起来……我不明白这怎么会有一个非常好的结局。你只是有点晚了，而且在做着和其他人完全一样的事。还是说你觉得它们确实有某种不同的方法？是的。显然，我对它们的战略并不是特别熟悉，所以我不太清楚。但从外部来看，我的印象是，它们意识到在 AI 领域，你现在几乎可以采取两种不同的路径。要么你说，我想要拥有与其他人不同的模型，在某些方面更好，这就是我想为世界构建的东西；要么你说，我想要拥有和别人一样好的模型，但我想以不同的方式使用它们，或者我想构建不同的产品。据我理解，Meta 作为一家公司的核心在于试图连接人与人、建立个人关系，以及构建一些东西——可能是元宇宙，可能是社交网络，可能是各种体验。我这是在假设，但我认为它们的思路是利用我们已熟知和理解的 AI 技术和 transformer，去尝试在这些新体验中构建其中一些东西。这是我的理解。要知道，从一家利润极高、规模庞大、拥有全球最大社交网络的公司角度来看，这可能是一个非常不错的战略。在你们显然一直处于竞争状态的过程中，我们谈到 Google 正在某种程度上卷土重来，但我的意思是，有没有那么一个时刻，当你们开会或坐在一起时，觉得其他某个实验室最让你们印象深刻？我必须说，这是最近才有的情况，但过去一年里，Anthropic 给我留下的印象之深急剧增加。我从来不是一个特别在意模型个性的人。虽然我听说 Claude 的个性很棒。也许……
相当不错的。我不知道。但他们在编程模型和编程智能体方面所做的事，以及他们为这方面建立的品牌，还有他们拥有的众多满意开发者，这绝对是……再次强调，是惊人的成就。而且他们是在落后于 OpenAI 的情况下做到的，计算资源更受限，团队更小，但他们有专注点，他们有出色的执行力。他们在获取优质计算资源、优质类型的计算资源方面曾遇到很多困难，但他们成功打造出了绝对出色的产品，正在改变人们开发软件的方式，而且据我所知，也在有意义地提升企业生产力。非常了不起的工作。祝贺他们。它们确实似乎正处在一个高光时刻。是啊，我认识的每个人都在谈论 Claude Code，而我刚采访了一个用 Claude 养活植物的人。这是第一个被 AI 模型养活的生物。但我不知道他们是怎么做出这么好的东西的，让它如此广受喜爱，因为聊天机器人？是 Claude Code？而且 Kylie 在 X 上爆料，说他们因为使用它而被切断服务时非常沮丧。
OpenAI 也遭遇了同样的情况。是的。然后 Elon，你知道，他某种程度上承认了这件事。他说：「是的，我们用得太多了。这是一个警钟。我们必须把自己手头的事做得更好。」所以我想，我的意思是，这看起来……我不知道这是否具有普遍性，但看起来很多实验室其实都在借鉴这款工具，而且……所以是的，我不知道。只是……
希望切断他们的使用能意味着世界上会出现更多更好的 Claude Code。一百万个 Claude Code。
是啊。在 OpenAI，我们开发 Codex 已经有一段时间了。它是我们自己的 Claude Code 的对应版本，而且我觉得它也相当不错。说来有趣，我自己其实没怎么用过 Claude Code。我当时受雇于 OpenAI，所以我自己也不太了解。我刚才是在尽量委婉。是啊。
所以我真的不太清楚，但我认为 Codex 相当不错。它也不是一个差的产品，但是……只是从 Twitter 上的情绪来看，Claude 确实深受全球开发者的喜爱。所以，基于我们之前的对话，我认为可以这样理解：你最初是出于对科学的求知欲和兴趣。你的一些推理工作的根源在于你想要创造 AI 科学家，而且这长期以来一直是你的热情所在。当我看到你宣布离职的推文时，我有一部分想法是，你是否还想留在这场基础模型竞赛中，或者，正如我所听说的，你对走向不同的方向更感兴趣。但我又有点好奇，我能否想象你进入生物科技领域或类似的方向，以一种相当不同的方式来继续追求这件事。如果我能克隆自己，同时做多件不同的事，我会非常非常喜欢那样。但长话短说，在某个时刻，我醒来并意识到，我对自己一生中取得的成就感到非常高兴和自豪。
Jerry：但我现在想做的，是试着押注一两个非常非常大的研究方向，然后努力让它们成功。我认为人们应该愿意承担风险，而且就我所见，我也是风险承受能力最高的人之一，愿意尝试那些天马行空的疯狂想法。我觉得我应该把这用在好的地方。
Interviewer：你谈到这些的时候，我是说，要把你脑子里想的东西做出来，大概需要多长时间？这是一年的项目吗？还是说你之所以说它风险高，是因为你愿意花四五年时间去追逐这个东西，而它最终可能并不比现有的更好？
Jerry：我非常愿意投入大量时间。但与此同时，我认为人们应该快速执行，做事慢没什么可骄傲的。所以我希望它能快得多，仅仅因为把研究项目执行好本身就是一种美德。但真正重要的部分其实是我之前提到的专注和信念。如果你同时做很多不同的事情，很多时候你每一件都会分散注意力、分散资源。尽管研究实验室很喜欢讲算力受限、研究被算力拖慢的故事，我觉得这确实是事实的一部分，是其中有意义的一部分，但更多时候往往是缺乏专注。你一天能关注的事情就那么几件。我真的很喜欢告诉和我一起做研究的同事们：少跑点实验，多花点时间去深入思考它们。因为有时候，哪怕你只是字面意义上多花几个小时去看你的实验——什么都不跑，就只是更深入地分析数据——也可能比跑更多实验带来更大的突破。所以，OpenAI 或者任何拥有这么多算力的人，如果把资源分散在太多项目上，就像你说的，其实如果把算力集中到更少数量的项目上，算力是够的。再说一次，这有点关乎冒险和信念。如果你有三个项目，其中一个成功了，那你就很好，你就做了有价值的事，另外两个可以砍掉。如果你做三个项目，三个都大获成功，那当然非常好。但如果你只做一个项目，进展会快得多，因为你能更专注、更有信念。如果它不成功，那你就完蛋了。但如果成功了，你就拥有了世界上最好的模型。而对于 OpenAI 来说，现在要把全公司的精力都集中在某个全新的、与众不同的东西上，并且不在乎下个季度 Gemini 会不会推出更好的模型，这确实是件很难的事。而且这肯定需要一种特定类型的人，才愿意尝试这样的事情。我觉得这就是这里的故事。
Interviewer：明白了。
Interviewer：对了，我知道你没法透露什么秘诀之类的，但我确实很好奇。在我看来，他们即将押注的应该是那些能让他们赚大钱的项目。我是说，今天有关广告即将进入 ChatGPT 的消息基本上引爆了全网。我在想，我们能预见他们往哪个方向走吗？他们大致上把资源投在哪里？
Jerry：嗯，我觉得我不应该、也不能谈任何关于 OpenAI 的计划。
Interviewer：说得也是。（笑）
Interviewer：你觉得这些模型公司中，会有谁有勇气——也许用“勇气”这个词不太对，因为也许不在模型里放广告是个错误的决定——还是说这一切是不可避免的？
Jerry：这是商业策略，而我是做模型训练的。
Interviewer：对对。抱歉，我不是想逼问你。我保证，因为我们之前聊过一些这方面的事。只是当我们谈完这整轮对话后，我还是有点想理清这一点。就是当你谈到你想做什么、想探索这些新方向的时候，而且我知道我们之前聊过，你确实需要所有这些算力资源。所以，我还是——也许你也没想好呢——我在设想，这是 Jerry 自己在测试这些新想法，还是你觉得对于你想做的这类东西，你某种程度上得待在一个有足够实力、有足够推动力的地方才能实现？
Jerry：这是我当下最试图弄清楚的问题。每个 AI 研究者仍然需要 GPU，需要 FLOPs，而我需要思考最好的方式是什么。
Interviewer：这是波兰的机会啊。我应该给你建一个国家数据中心（笑），也许这主意也不算太坏。（笑）
Jerry：我真的在努力理解。我知道我想做的研究类型，我在试图弄清楚、理解什么是最好的方式去做。
Interviewer：咱们让它成真吧。
Jerry：是啊。
Interviewer：波兰，锁定。
Jerry：好国家，为你自己争取一个。
Interviewer：建个数据中心，把它给 Jerry 吧，伙计。我觉得我要是他们我真会这么做。
Jerry：好，好。（笑）
Interviewer：嗯，那些是我最大的几个问题。我可以跟你聊上好几个小时。我觉得我不想逼问你，而且你看起来这么开心，整个人都在发光。我不想……
Jerry：好多人跟我说过这个。Jerry，你现在比以前开心多了。
Interviewer：你确实有光彩。所以我不想一直追问你接下来做什么、接下来做什么。
Jerry：我不知道。但我从一位目前正在自己开公司的人那里听说，在 OpenAI 工作比创办自己的初创公司压力还大，这让我挺震惊的。但 OpenAI 在很多方面确实是个压力稍微有点大的地方。
Interviewer：好吧，我们很快让你走了。我刚才又想到一个角度。除了大家都在追逐同样的东西之外，你有没有看到人们在这个领域里犯了什么巨大的错误？或者说这是最明显的、最主要的……
Jerry：我不认为有什么巨大的错误。就像，要做巨大的错误对每个人来说都很难。问题只在于，你有多少精力去探索其他东西，versus 你有多少精力继续大致上做你一直在做的那些事。
Interviewer：对，我刚才问得不好。也许这个问题你也没法回答，因为你已经知道你想自己去追逐的想法了。我在想，有没有一些研究发表出来的东西，你觉得是被低估的想法，世界没有像应该的那样给予足够关注？
Jerry：我觉得，说实话，这样的例子有很多。但想法最需要的，就是多一点关注、多一点算力、多一点投入。我觉得有一种比较独特的情况：很多研究者喜欢做从零到一的工作，很多学术研究也做到了这一点——你提出一个全新的想法，证明它某种程度上可行，然后就发表论文完事了。而我认为我真正擅长的，也是我和我的团队在 OpenAI 做得非常好的地方，是把研究从一到一百推进下去。
Jerry：采纳那些我们以前未曾尝试、但已有一定验证的不同新想法，并研究如何让它们在大规模上可靠运行。训练 frontier model，同时还要结合很多其他相关因素。我认为这其实也是大量学术研究需要的东西，因为概念验证固然很酷，但能够用某项特定技术训练出世界上能力最强的模型之一，这需要大量非常具体的工作才能实现。如果做得不好，可能需要数年；而如果你有一个好的算法，知道如何引入这类东西，可能只需要几个月。所以这也是我未来很想多做的事情之一。
Ashley Vance：对了，我们之前聊到 OpenAI 的一些人员离职时，你说过公司应该能够承受这些损失。但这在某种程度上毕竟是一个明星驱动的领域，你看，Alec Radford 做出了那个东西，你知道的，transformer。
Jerry：是靠很多人指导才做出来的 。
Ashley Vance：而且显然，从这些实验室的行为来看，他们认为这是一个明星驱动的事情。我不知道，你正疑惑地看着我。但确实，这里面有全行业范围的工作、学术界范围的工作。不过也有些时候，一些重大突破来自某个人，它们被绑定到少数几个人身上。但显然你似乎不认为这是一个明星驱动的领域。
Jerry：我认为这在很多方面都是一个复杂的话题，但我觉得两者可以同时成立。很多时候，你会发现 OpenAI 里有一小撮人产生了巨大的影响力，推动了一系列完全突破性的成果，然后这些成果又传遍整个行业，这种事我见了一次又一次。但与此同时，每当我看到有人跳槽，却很少看到这对公司产生实质性影响。我真的认为，公司的特质，乃至公司的运作方式，才是真正的研究引擎，而不是某个特定研究人员在这里或在那里。我真的看到那些跳槽的研究人员，通常在新公司并没有那么高的产出，即使他们过去常常做出很棒的工作。他们会突然变得有些分心，或者需要重新适应，又或者现在并没有特别新颖的想法。当然，在这个领域的经验确实能给你带来一些东西，但我认为更重要的是创造一种个人责任感的氛围，让人能够探索，或者说创造条件让人们去做伟大的事情。我觉得可以组建很多团队来做伟大的事情，无论是那一批特定的人，还是另一批不同的人。我不认为这有那么独特。实际上，我认为一个好的研究架构、一个好的研究文化、良好的合作，要比团队里有没有某个特定的人重要得多。
Ashley Vance：说得通，说得通。好了，我肯定要结束访谈了。你冥想吗？
Jerry：我一直在努力在生活中多做这件事。我一直想融入一些冥想，但我觉得我不擅长冥想。
Ashley Vance：好了。在你去做下一件事之前，如果你愿意，我知道波兰有一个非常豪华的黑暗静修。他们有一些类似霍比特人洞穴的地方，但里面看起来像 Four Seasons，反正你也看不见，因为他们会把所有灯都关掉。但如果你需要在这个波兰的黑暗静修里待三天，我们可以帮你安排，然后你就能彻底重置一下，再回来。
Jerry：把详情发给我。
Ashley Vance：好，好。好了，Jerry，谢谢你。非常感谢。你还好吧？
Jerry：是的，非常感谢。太有意思了。我失业的时候，我爸也说过：“你应该去做冥想静修。”所以这可能不是最后一次听人说起这个。
Ashley Vance：经营这个地方的人很棒，他是个很有意思的人。谢谢你，非常感谢你来参加节目。希望这次离职访谈没那么痛苦，而且……
Jerry：谢谢。和你一起工作很愉快。
Ashley Vance：好了，老兄。很高兴认识你，显然我们祝你在追逐这些新想法时一切顺利。
Jerry：谢谢。
Ashley Vance：好，谢谢，Jerry。
Ashley Vance：《Core Memory》播客由我 Ashley Vance 主持。节目由 David Nicholson 和我制作。主题曲由 James Mercer 和 John Sortland 创作。节目由 John Sortland 剪辑。一如既往感谢 Brex 和 E1 Ventures 让这一切成为可能。请访问我们的 Substack、YouTube 和播客频道，获取更多 Core Memory 的内容。谢谢大家。