这完全违背了做初创公司的常理，对吧？按理说你应该先发现问题，而我们根本不知道问题是什么。有没有这样一种可能：AI 变成了管理者，给你出主意，还给你分配一些任务去做？这可能是我做过最难的项目，因为它感觉完全注定要失败，对吧？就好像我的每一种直觉，每一种作为开发者的直觉都在告诉我它注定失败。哦，感觉完全注定要失败。
Greg 在 2010 年从 MIT 辍学，成为我们的第一位工程师，后来升任 Stripe 的 CTO。2015 年他离开后，联合创立了 OpenAI。OpenAI 现在势头正猛，Greg 是我认识的最具产出的人之一。干杯。哇，你这里真有一些老照片，还有一些很冷门的 GDB 趣闻。所以，是啊，我们觉得得让大家放松下来，让大家感觉宾至如归。非常好。谢谢。好的，那我就直接开始问我的一大堆问题了。如果你当时不在 AI 领域工作，怎么能预感到有些事即将开始奏效？人们在 1970 年代、1980 年代、1990 年代就一直在说 AI 是未来，然后到了 2010 年代末，一切突然就发生了。嗯，我当时并不在这个领域。所以我非常清楚地记得 2013、2014 年左右的感觉，那时候 Hacker News 上似乎每天都会出现一篇“deep learning for X”的新文章。我当时还在想，deep learning 是什么？我在这个领域只认识一个人，就请他介绍更多圈内人给我认识，结果不断被介绍给我的竟然是一群我大学里最聪明的朋友。现在如果你去看看当时正在进行的研究，基本上在 2012 年，图像识别领域第一次可以用 neural net 解决，而且效果比任何其他方法都好得多，彻底碾压了所有传统 computer vision 方法。就是这样一个学习系统，性能超过了 40 年来“写下所有规则、手工设计算法”的做法。然后你很容易就会想，好吧，这种方法对 computer vision 确实有效，但永远不可能适用于 machine translation。结果到了 2014 年左右，machine translation 突然也取得了很好的成果。我觉得这个模式在一个又一个子领域中被复制。我一直很好奇的一点是，这么多不同的事情怎么突然就同时奏效了。我们有 LLM，它们显然很惊人；同时图像模型也真正管用了；text to speech 和 speech to text 的效果也比以前好得多。那么这一切同时开始奏效的背后，共同因素是什么？嗯，是 deep learning，对吧？我觉得 deep learning 长期以来就是最酷的技术。你知道，为什么 deep learning 在 1980 年代不起作用？好吧，你看看从 1940 年到现在，我们经历的 compute 有多少个数量级的增长。我的意思是，简直惊人。你觉得它们全都可以归结为把 compute 扩大规模应用到正确的算法上吗？当然，算法的类型会变化，而且有些成果甚至不是 deep learning。但我认为从根本上来说，这关乎 compute，而且你需要一种可扩展的算法，能够真正吸收这些 compute。
OpenAI 是第一家认真对待 scaling hypothesis 的公司吗？我觉得宣称“第一”总是很难的，但很明显，我们比任何人都更早、更疯狂地取得了成功。所以我认为我们对自己需要做什么有着真正的信念。你知道，有些人觉得 OpenAI 是为了证明 scaling hypothesis 而成立的，但实际情况几乎相反。scaling hypothesis 是我们观察到对我们有效的东西。我们第一次真正看到这一点其实是在 Dota 2 项目期间。我们一开始用 16 个核心训练一个小 agent，Jakob 和 Shimone 从 ML 角度主导这个项目，就在他们的台式机上。然后他们扩展到 32 个核心，感觉每周我回到办公室，他们又把规模翻了一倍，性能也提升了一倍。一切都如此清晰：你只需要继续加码，看看这东西到底在哪里会衰减，但它从未衰减。创始人往往被过度吹捧，因为你一开始的产品是个相当合理的想法，然后你倾听客户意见，跟着有效的东西走。你的意思是说，OpenAI 对 scaling hypothesis 也是这样？你们一开始试着做 Dota AI，注意到增加 compute 效果很好，然后就想，还有哪里是只要堆更多 compute 就能产生收益的？我觉得这在一级近似下是正确的。我认为 OpenAI 与典型初创公司的一点区别在于，我们完全反着来，对吧？按理说你应该先有一个要解决的问题，没人会一开始就关心技术形态。完全没错。而对我们来说，我们真的是先追逐技术，完全不知道它会被如何应用。对，而且追逐技术的过程中，很大程度上你得让现实冷酷无情地抽你耳光，真的没有别的办法来取得成果。你不能光靠意志力把它变出来，也不能光靠说服别人这就是那个东西。你得让系统真正跑起来。我们得去弄清楚什么才是正确的前沿，问题在哪里，哪些东西正处于即将奏效的边缘，然后真正加倍押注那些方向。你还从 Dota 项目中学到了什么？或者换个说法，你们本可以直接从 LLM 开始，跳过那段荒野时期，但听起来这段经历某种程度上塑造了 OpenAI 这个组织。嗯，我觉得 Dota 给了我们很多教训。其中之一对我来说其实是管理上的教训。我记得项目刚开始时，我试图设定一系列里程碑，对吧？比如，到这个日期我们要达到这个选手的水平，到那个日期要达到那个选手的水平。但这行不通，完全行不通。我记得第一个里程碑到来时，完全没达到。所以你意识到，你无法控制结果，对吧？你不能设定以结果为导向的里程碑。你能控制的是投入，比如到这个日期我们要做完这些实验，到那个日期要实现这个功能。这才是真正有效的。我记得那件事就像个故事一样，哪怕我们有意编排，都不可能写得更好。我们当时打赢了内部最厉害的选手，然后和一名半职业选手对战，他一直在碾压我们，碾压我们，然后突然我们开始变得挺强了。于是我们盲打误撞地去了 The International 这个锦标赛。第一天我们打了三个对手，成绩是 3:0、3:0，然后 2:1。我们想：“糟了，我们输了，怎么回事？”结果发现，和我们打的那位职业选手使用了一件我们从未训练过的道具。我们想：“完了，我们要被虐惨了。”那我们怎么办？只能改变训练。于是大家通宵赶工，把这件额外的道具加了进去。凌晨 4 点，他们终于把任务跑起来了。那个周三我们要对阵世界排名第二和第一的选手。我们的半职业选手先和它打了一局，他说：“这个 bot 彻底坏了。”我们想：“糟了，肯定出 bug 了。”
"出大事了。"他说："你看，它承受了不必要的伤害，我去杀了它。"他冲上去杀它，结果输了。他说："真奇怪。"他意识到，刚才发生的是它学会了一种诱敌策略。然后我们想，我们有一个超级机器人，但开局很糟糕，因为它在尝试诱敌。那如果把我们现有的两个机器人拼接在一起呢？然后那个机器人就无敌了，呃，我们和那个排名第一的玩家对战并且赢了。对我来说，这就是深度学习运作方式的故事，对吧？就像你无法控制自己会走向何方。你可以控制所有输入。你可以设定这些指标、这些衡量标准，还可以有各种评估。而能够判断自己所处的位置，几乎与能够向前推进同等重要。但如果你把所有这些要素都做对了，你就能创造真正的奇迹。而且你描述的这种情况，对一个组织来说非常有效——让人有动力通宵熬夜。你知道，如果目标遥不可及，就不会有那么强的动力。但事实是存在近期的 reward function，而且你能展示出具体的进展。我想是的。没错。我是说，我觉得一些我最喜欢的工程故事都有同样的特质。我记得你和我曾经通宵熬夜搞定 ISO 8583 集成。为那些真正具有重要历史意义的关键项目通宵熬夜，还有所有创业公司，都是如此。很高兴听到这种 live open 的传统还在延续。那么，呃，Dota 已经被攻克了，呃，国际象棋已经被攻克了，呃，围棋也已经被攻克了。我想按照任何人的衡量标准，我们都已经通过了图灵测试，呃，你知道，人们评论说当我们做到时几乎没有什么大张旗鼓的宣传，但我们似乎已经非常明确地做到了。那什么是一个好的新图灵测试？好吧，我告诉你两件事。一是如果你看图灵测试的严格版本，我实际上会声称我们还没有做到。所以没有人真正再多走一步，去验证我们是否能拥有一个真正与人类完全无法区分的 AI，而且这是否甚至是一项好的任务也不明确。但我认为，就你的问题而言，正确的问题在于，嗯，就能力而言，我们应该追求的里程碑是什么？我记得 2018 年和我们的一位董事会成员聊天，他说，你知道，我明白你们都对近期的 AGI 很兴奋，但感觉这事儿没上轨道。我问，你什么意思？他说，在一个拥有近期 AGI 的世界里，你应该已经看到 AI 创造了巨大的经济价值，而它在哪儿呢？在 2018 年，我认为这是非常公平的批评，而显然现在这种情况开始改变了。感觉有一件事可能会真正改变 AI 市场，那就是个性化。直到最近，当你向 ChatGPT 提问时，就像走进街边一家随便的店铺。他们以前没见过你，对你一无所知，诸如此类。这显然不理想，因为你知道，它是你数字生活中如此亲密的一部分。我很好奇你们从产品角度如何看待个性化，因为对我来说，这感觉就像是两年半前聊天界面出现以来最有意义的改变。两年半前。我是说，我认为这绝对至关重要，而且它被非常正确地视为某种下一个前沿。像我这样的人，以前即便只是用 Google 搜点东西，也会开无痕模式，因为我不想让我的电脑记住那段历史；我以前在 ChatGPT 上也总是使用临时聊天。但现在我的使用方式完全反过来了。我希望 ChatGPT 能知道、能记住一切。我希望它记住我所有的互动，因为这很有用。好的。好的，所以你们从产品角度弄清楚了如何让记忆真正更好地运作，而这其实既是一个产品角度的问题，也真的是一个研究角度的问题。我猜想产品和研究之间存在一种来回切换：当你从产品角度发现某个有用的东西时，产品人员会说——我就像你一样只是个产品人员——研究人员去把这个做好，然后这就引发了更多研究。呃，我们其实……所以在某种程度上，在我们看来那是一种失败模式，对吧？我们真的不希望存在那种壁垒，我们真的希望模糊界限，让人们交叉协作。所以这与传统的产品构建方式和做研究的心态非常不同。实际上，部分原因是当时我们有了 GPT-3。我们知道需要打造一款产品才能继续融资。呃，我们就想，那我们做什么产品呢？我们列了一个清单，上面大概有上百种不同的产品，对吧？我们可以做医疗相关的东西。然后你就会想，好吧，那现在我们得把产品卖给医院，我们还得去雇医生。然后你就意识到，你放弃了 AGI 里的 G，对吧？你会去做某个特定的东西。于是有人提议说，嗯，那我们为什么不直接做个 API，让人们自己去琢磨怎么用呢？是的。而且，这再次说明，这和你们理应如何创业的方式完全相反，对吧？你应该先有一个问题，而我们根本不知道问题是什么。没错。没错。倒推回问题本身。所以这实际上感觉像是我做过的最艰难的项目，因为它感觉彻底没戏了，对吧？就好像我知道，我的每一个本能、每一个 builder 的本能都觉得这事儿要完蛋。哦，它感觉彻底没戏了。不只是没有定论或者什么。不，感觉没戏是因为你还在做这件事。我是说，就像在某种程度上，如果你……不，绝对没有别的路了。没有别的路了。这是我们唯一的机会。嗯，我记得还有人说过，我无法想象会有人为这个模型的输出样本付费。我当时想，也许他说得对。呃，而且你知道，我自己也还在试图想象这事儿。是的。而且当时完全不清楚我们是超过了阈值还是没到阈值。你知道，我们把它展示给人们看，人们很感兴趣，但这和人们说“我要在这上面建立我的公司”是非常不同的。那么，第一个获得任何关注的用例是什么？是 AI Dungeon。嗯，那又是什么来着？呃，哦，对了。AI Dungeon 是一款文字冒险游戏。哦，当然。是的。是的。哦，好吧。但那是真正的收入，或者说非零收入。是的。而且实际上，呃，我相信他们是我们的第一位付费用户。那有没有让你们困惑，比如“啊，显然 OpenAI 的未来是游戏”？你知道，我明白，对吧？好吧，回归我们的本源。正是如此。而且呃，你知道，这也很有趣，因为是的，我们曾经梦想过所有这些应用，你知道，医疗和所有这些东西，呃，而你知道，你从游戏应用起步，但我们能在许多其他领域看到生机。而且我认为，从很多方面来说，GPT-3 就像是世界上最好的演示机器，对吧？当我们发布 API 时，人们带着各种你能做的酷炫东西而来，但让它们变得可靠是如此困难。而直到下一代 GPT-4，直到我们开始弄明白如何做好 post training，你才真正能够在这些东西之上建立真正的商业。比尔·盖茨最近说，GPT-4 是他自 Xerox PARC 以来见过的最好的演示。你知道这句话，因为我想是他说的，他看的当晚就对我说的。是的。是的。呃，所以这是很高的赞誉。呃，我想谈谈医疗那件事，因为你提到了。正如你所说，你的家人有一些亲身经历。你提到过获得了非常有价值的诊断帮助。我们自己家里其实也遇到过，不过情况要轻微得多——我们借助 LLM 排查问题，治好了一只猫。我觉得这是个很有意思的例子，对吧？因为我认识的很多人都曾有过类似的经历，也许是因为医生能给你的时间实在太少了。除了医疗这类应用之外，还有没有其他领域你也看到了很多成功案例，很多人都有类似的故事，只是我们不常听到？是的，我认为这是个好问题。顺便说一下，医疗这个领域，我原以为会是我们最迟才能成功创造价值的领域之一，但事实证明门槛其实很低，你只需要比 WebMD 更强就行。所以我觉得，我们也看到了其他一些领域存在非常普遍的趋势，比如现在非常有趣的一个方向就是生活教练、人生建议类的应用，你刚才也提到，这个方向确实正在迅速兴起。确实如此。所以我认为，教育也是另一个显然正在产生重大影响的领域，现在已经有一些研究表明，人们借助这些工具能够学得更好。这是意料之中的，对吧？这其实就是 Bloom 两西格玛效应在产品中的体现。是的，是的。打个比方，这就是为什么 Sal Khan 创办 Khan Academy 的初衷——思考如何为每个人提供个性化辅导。我们给他演示 GPD4 时，他说就是这个，我们要做成一个 GPD4 应用。所以我觉得，这些非常了不起的应用正在影响每个人的日常生活。显然，编程是另一个例子，人们在各种专业场景中都能看到它的作用。我们正在走向这样一个世界：就像如果你想从事生产性工作却没有电脑可用，你会受到制约一样，没有 AI 也将受到同样的制约。好的。说到无法便捷使用 AI，我想提出一个看法：如今 AI 产品开发似乎主要受限于 OS。你有这种感觉吗？我们是不是暂时陷入了僵局？我确实感觉到有一点被困住。但不用担心，这是可以克服的。不过是的，我认为确实如此。你看，两年前我们在 JGBT 里发布了插件功能。你还记得吗？记得，记得。那其实是试图让任何人都能开发应用，然后由 GBT 来调用。但当时的模型还不够好，对吧？那时候我们限制一次只能用三个插件，函数数量也有限，而且不够可靠。而现在，MCP 基本上正在真正兴起，它是一种将 AI 连接到不同工具的方式，很大程度上是在延续同样的理念，并真正把它做成。目前我们所处的阶段也很相似，有些接口我们还没有，对吧？比如能够访问你的手机以及所有那些 API，问题在于模型是否达到了足以使用它们的阈值。我的观察是，基本上对于那些难以接入的不同接口，可能会有大约六个月的滞后期。但一旦我们有了足够好的模型，我们会找到办法的，人们总会找到办法。所以我觉得，我完全相信我们终将实现被承诺的那个未来，只是还需要做一些工作。我时常觉得，当我用手机时，我想要一个单独的按钮，直接问：chatb，你怎么看这个？我需要你的评论，我需要你核实事实，我需要你解释，诸如此类。然后你就截个图，打开 chat GBT，点击上传照片，这感觉非常像 1993 年的做法。相比之下，我手机上如果有个按钮直接说：嘿 chat GBD，你怎么看这个？那显然好得多，而你们显然无权去造这样一个东西。这就是我所说的，感觉我们在某种程度上有点受限于操作系统。我完全理解，但我想说，这里有两个维度，这也是自 2020 年我们发布 API 以来我一直在思考的：能力和便利性。你指的是便利性，对吧？截图再粘贴进去确实很不方便。但问题是，如果能力足够强，你愿意接受任何不便，对吧？就像如果通过截图发给 chat，它能给你惊人的洞察，比如告诉你如何以某种方式搭建 Stripe，哪怕要花一个月，你得艰难跋涉到山顶，你也会去做，对吧？便利性不会阻止你。所以我想表达的是，如果能力足够高，人们就会开始去做，他们会发现这些用例，而便利性自然会跟上。而且在便利性方面存在巨大的压力，对吧？手机制造商有压力，我们有压力，每个人都有压力，去降低这种……
所以我只需要耐心等待，三年后一切都会好起来。是的，而且要真正投入进去，去使用 AI。人们喜欢对 AI 提出一种批评：是啊，它很方便、很实用，但它在数学或科学领域还没有提出任何一项真正新颖的突破。好吧，如果你当初去当数学家，你本可以做到的，但总之，人类毕竟在记分牌上保持着比分。你怎么看待这种批评？等着瞧吧。好的。所以你认为，比如拿一个千禧年大奖问题来说，我们有可能会看到 AI 解决它？我认为肯定会的，毫无疑问。两年、五年还是十年，这才是问题所在，只是时间的问题，对吧？这也是我想问的，我觉得两年到五年是一个比较合理的数字。归根结底，这又回到了 benchmark 的问题，对吧？实际上能够解决一个千禧年难题是非常高的门槛，非常高的门槛。一旦你能做到这一点，很多其他事情就绝对有可能实现了。我觉得我们正在开始看到这一领域的最前沿。对我来说，如果看看我们对 AGI 的定义，我们最近开始谈到一个思考 AGI 层级的框架，从 chat bots 到 reasoners，到 agents，到 innovators，再到 organizations，共五个层级。我们现在基本上处于 level three 左右。而第四层级，这些 innovators，将会完全不同。我最近发了一些我们去得克萨斯州 Abene 的照片，我们正在那里与合作伙伴 Oracle 一起建造大型数据中心。想象一下，把整个数据中心用来全力思考一个问题，对吧？想象它只专注于如何解决一个千禧年难题，或者如何治愈某种特定癌症。也许它需要接入某些仪器设备，也许需要接入 robotic wet labs，也许需要接入世界上不同的工具。但这种级别的计算能力，再加上能够实验并从你的想法中学习的能力，将会是世界从未见过的东西。好的。也就是说，同样地，与我们未来将要投入的算力相比，我们现在放在这些问题上的算力还远远不够。是的。我们仍然离不开这些小型计算机。所以这就涉及到了 scaling law，它们最终会因为算力耗尽而触及上限吗？还是说我们会发展到发明新型核能的阶段，从而解锁下一个层级？现在投入使用的很多能源都是供给数据中心的，而在你们训练 GPT-2 时并非如此，所以这不正是即将到来的瓶颈吗？我是说，这本就是理所当然的吧？本质上就应该是能源被转化为智能，而那是你唯一的瓶颈。但我是说，与过去几年我们见证的指数级增长相比，那会是一个相当大的平台期。嗯，我认为除非在许可、施工规划等方方面面出现重大改变，但这正是我认为的核心所在：如果你审视这个领域的每一个趋势，都会看到这种指数级增长，这种由 S 曲线叠加而成的指数增长。确实。但这些指数增长大多存在于科技领域，你知道，就是硅谷那种很容易实现指数增长的地方。而在审批、房地产、筑坝拦河和建造核电站方面，要实现指数级增长就难得多了。让我们走着瞧吧。看看核聚变结果如何。是啊。好吧，但即使是核聚变，大多数行业观察人士也会说大概还需要 5 年。那么未来五年的电力增长从何而来？所以你看，我认为我们最终受限于能源是非常有可能的。这也正是为什么我们花了大量时间去极力倡导一个事实：我们只需要更多的电力。而且我认为，我对市场的观察是，归根结底，资本主义市场确实会供给所需。我认为一场绝对的需求海啸正朝我们袭来。但我有一定信心，再说一遍，当压力足够大、当足够清楚地认识到这就是瓶颈——而且这不只是对某一家公司而言，而是关乎国家竞争力——的时候，你看看其他国家正在大规模建设电力设施，规模远超我们。我认为，美国若想保持竞争力，除了建设之外别无选择。我们必须解决电力问题。确实如此。说到瓶颈，2023 年人人都在谈论数据墙。我觉得有意思的是，现在没人再提数据墙了，但 AI 的进展似乎并没有放缓。这仅仅是因为 test time compute 吗？还是说人们对数据墙以及它构成瓶颈的位置判断错了？又或者数据墙其实依然存在，只是还有两年才到？本质上这些都是原因，对吧？真的，确实如此，对吧？就是你不断改变范式，这才是 Kurzweil 世界观真正的核心，对吧？就是说，某种做事方法总会走到尽头，如果你只盯着那一种方法，就会感到绝望，对吧？你会觉得就到这了。但不知怎的，你总会找到一条新的 S 曲线，我认为这正是已经发生的情况，比如 synthetic data，再比如 reinforcement learning。如果你从根本上看 RL 范式，它其实就是一个数据生产机制，只不过 AI 恰好是在用它们自己生成的数据训练，然后你非常快速地从中学到东西，再基于这些继续学习。每一个这样的突破都把我们带得更远，所以我认为还有很多算法上的思路、很多技术、很多更好地利用现有数据的方法。因此，从根本上说，S 曲线仍在延续。如果你拉远视角看，整个过程是平滑而不间断的。所以这有点像芯片微型化，每一代人都说：“好了，这就是芯片能做到的最小尺寸了。我是说，就到这了，微型化结束了。”但不知怎的我们总能找到办法。是啊。而芯片的一个不同之处在于，我认为说到底还是存在某种量子极限。我们是正确的。但我们从未真正接近过那个极限。是的，是的。
AI 编程会走向何方？特别是，vibe coding 现在非常火爆，它差不多算是 2025 年的代表性术语。它算是有点用，而且非常令人印象深刻。但还没有人真正让 AI 软件工程师端到端地跑通生产环境。所以我很好奇，你对未来一到两年 AI 编程的发展有什么预测？嗯，我的总体观察是，在这个领域，一旦某件事开始有点用，下一代就会非常棒。我认为 AI 编程现在正处于这个阶段。所以我认为我们会看到 AI 接管越来越多枯燥乏味、令人痛苦、对人类来说不太有趣的部分。不过，有一点非常有趣：我认为到目前为止，vibe coding 其实接管了很多本来相当有趣的代码工作，却把代码审查和部署这些一点也不有趣的环节留给了人类。所以我希望我们在这些其他方面也能取得很大进展。但归根结底，我们最终应该拥有一个完整的 AI 同事，而且我认为它真的会成为你想创造的任何东西。你可以当经理，对吧？你可以真正拥有一支软件工程智能体团队。现在我觉得会非常有趣的一点是，会不会出现一种世界，在那里 AI 变成了经理，给你出主意、给你分配一些任务去做。这在我们的认知里完全是反过来的。但有没有可能，你真的能为公司取得成果，真的能让人们的工作变得更有意义，因为他们拥有一个真正深刻理解他们的 AI，就像你的 AI 医生真正深刻理解你的所有需求一样。不过，这不是我们在这里讨论的共通脉络的一部分吗？AI 工具表现不佳的地方，往往是因为它们试图泛泛地做某件事，比如语音识别做得不够好，是因为它试图识别所有声音，而不是专门识别我的声音。同样，在 AI 编程中，它们在完全不需要上下文的地方表现得很好，比如基于公开可用的库一次性生成一个应用；而在你必须理解百万行代码库的地方，你们还没完全弄清楚怎样才能做好。在各色挑战之间作这样的类比公平吗？嗯，我认为这里面有两件事。一是我认为这已经在改变了，对吧？所以如果你看看 Codex 这样的产品，它其实很擅长在大型代码库中操作。比如我问它某个功能在哪里实现的，它找得比我还准，对吧？这有点不可思议。看到它四处摸索、到处探索，真的非常酷。实际上，我们在 Codex 上真正追求的一点，就是为那些不一定在做 vibe coding 的软件工程师打造工具。它不是关于从零开始搭建一个新应用，那固然是个很酷的演示，但大多数软件其实不是那样写出来的。是的。而且实际上，我认为企业级应用的杀手级功能可能是重构，对吧？比如重写你的 CPA 应用，或者像 Facebook 当年用 HipHop 转成静态 PHP 那样。没错。如果你仔细想想，完成每一次重构所需的深度复杂思考其实没那么高，大量都是机械性的工作，只是庞大的体量让它变得困难。而这绝对是一个为 AI 量身定做的问题。所以我认为，我们将看到各类 AI 任务的效率因此大幅提升。现在我们身处这样一个世界，你刚才还提到了另一点，就是说，也许你需要在某种程度上进一步收窄范围。但我认为这些模型的工作方式是，你实际上确实希望有一个模型能知道越来越多的事情，并且希望它对你有一定的个性化。但事实是，他们拥有这样一个通晓一切的 base model，这其实是一个非常有用的起点。所以，我确实认为未来会出现一个世界，我们将拥有能力越来越强的 base model，而关键在于如何真正将其与你所在组织的代码、上下文和历史连接起来。
OpenAI 是如何决定做哪些产品的？我很好奇你是怎么想的——什么时候该开发特定产品，什么时候又觉得“哦，用 ChatGPT 就能轻易做到，那就足够了”。是的，这确实是个非常棘手的问题，对吧？这是我们一直在纠结的事情。我想，实际上当我们刚推出 ChatGPT 时，我们面临的情况是：我们既要做企业业务，又要做消费者业务，作为一家初创公司，这看起来太可怕了。我记得和一位董事会成员聊过，他说一开始感觉你们的战略非常不聚焦，对吧？因为你们同时在做这么多不同的事情。但仔细想想，也许可以类比 Disney 这样的公司，你创造了一个核心资产，比如《Little Mermaid》。然后你用各种不同的方式将其产品化。对吧？你会想到《Little Mermaid》的游乐设施、午餐盒、T 恤等等。我觉得我们也有类似的成分。我们拥有核心模型。然后问题在于，哪些应用能让它以较少额外的工作量快速创造大量价值。所以我认为，决定进入哪些领域时，要看它会让我们偏离通用路径多远；这个领域有多重要，尤其是对实现更大目标而言；以及它与我们正在做的其他事情之间有多少协同效应。编程就是一个协同效应非常明显、ROI 非常明确的领域，对吧？因为如果我们能让自己跑得更快，就能加速一切。在北达科他州长大，这对你有什么影响？——北达科他是个很棒的地方，在那里长大……其实，得了吧，我去过那里，很棒。那里非常安全。我们家的门甚至没有能用的锁。就是那种地方。我在学业上有很多自由。六年级时，我爸教了我一些代数。七年级是他们第一次把学生分到进阶数学班，所以我当时要去上预代数。于是我妈妈带我去看老师。我们问老师：“能不能跳级？”老师非常轻蔑地看着我们说：“每个家长都觉得自己孩子特别。我可以向你保证，你儿子在我的课上会被充分挑战的。”所以一个月后，我坐在后排，只是在计算器上玩游戏。她会随机点我名，想难倒我，而我只是看着黑板说：“2x。”然后她说：“好吧，公平地说，你儿子在这门课上没什么可学的了。”于是他们把我调到了八年级的代数课。但到了八年级，我在中学已经没数学课可上了。所以你去了大学，对吧？——嗯，我在高中时就开始去 University of North Dakota 上课，在那里修了很多课。而且，通过数学营和数学竞赛这类活动，我也认识了很多全国最顶尖的数学孩子。所以你是说北达科他的社交场合不会太让人分心。——不会太分心。但……对，确实很有趣。最后一个问题。你还记得吗，2017 年我们要去 Camp YC 的时候，我问你 AGI 还有多远，你说还有两三年。——我真的那么说了吗？——你说了。是的，是的，是的。我没看到录像。嗯，我只是在想，我当时说得对吗？你对吗？我们该怎么评判呢？因为我们并没有实现 AGI，但也不能说完全没有实现 AGI。所以我很好奇，你对自己预测 AGI 的历程有什么反思。——我想说，AI 是令人惊讶的。我觉得这是最一致的主题：我们想象的东西，最终得到了不同的结果，但我们得到了更好、更神奇、更有用的东西，所以我对这个结果其实相当满意。但现在要预测它会走向何方，再次强调，很难控制这里的产出。OpenAI 有一个目标我们已经成功实现了，那就是每年至少有一个成果，让人感觉比以往任何东西都好了整整一个台阶。我想你知道那种感受，你每年就想看到一个非常棒的、让人惊叹的 AI 成果。就是那种东西。——我喜欢这个说法。这个说法很好地呼应了一点，那就是……你知道，我们评判那个预测的方式是，你已经不再基于产出去设定指标了。——是的。完全正确。完全正确。没错。但确实感觉我们正非常接近某种相当神奇的东西。——我同意。谢谢。谢谢。