我们真的值得认真思考一个问题：我们究竟为什么建造技术？从根本上说，是为了改善人类，改善人类生活，让我们能够成就更多。我认为我们正在亲眼见证这一点变为现实。大家好，我是 Reid Hoffman。我是 Aria Finger。我们想知道，如果在未来，一切发展都朝着对人类有利的方向演进，将会发生什么？我们将与各个领域的远见者对话，从气候科学到刑事司法，从娱乐到教育。这些对话还会迎来另一位特殊的嘉宾：GPT-4，OpenAI 迄今为止最新、最强大的语言模型。每一集都会有一则伴生故事，由 GPT-4 生成，以激发讨论。你可以在节目备注中找到这些故事。在每一集中，我们都寻找未来最光明的版本，并了解如何才能抵达那里。这就是 Possible。
Aria，这显然是我们期待已久的一期节目。我们都知道，2023 年在很多方面将是通过 AI 实现智能放大的一年，而其中最引人注目的驱动力之一就是 OpenAI、ChatGPT 和 GPT-4 正在发生的一切。我非常期待与 Sam Altman 和 Greg Brockman 的对话，因为他们是最早就开始思考这些问题的人：这项技术将带来哪些影响？我们如何提升人类？我们如何塑造未来的可能性？如何避免可能产生的严重负面影响？这场对话一定会非常精彩。我的意思是，这感觉是最顺理成章的一期。当初我们和 Trevor Noah 一起推出 Possible 时，我们就说过会有一期与他的对话，专门讨论 GPT-4。而在我们每一期节目中，无论是与 Kim Budil 博士还是 Saul Griffith 对话，我们都让 GPT-4 参与创作故事，并对未来提出设想。因此，与 Sam 和 Greg 一起收官显得如此自然——他们当然是 OpenAI 团队的一员，是他们创造了 ChatGPT 和 GPT-4。我特别期待与他们交谈，因为我们所有的节目都围绕如何改善人类展开，无论是如何创造可持续的能源未来，还是如何构建未来的城市。而 Sam 和 Greg 谈论 AI，并不是为了技术本身。他们问的是：“AI 如何改善人类、改善世界？”因此，正如你所说，能听到他们关于如何让这项非凡技术以如此人性化的方式被运用的观点，实在令人欣喜。显然，鉴于 ChatGPT 及其他产品在全球引发的热潮，大家可能都已熟知，但为了让不太了解的听众知晓：Sam Altman 是 OpenAI 的 CEO，也是 Helion 的董事长，曾任美国科技创业加速器 Y Combinator 的总裁。Greg Brockman 是 OpenAI 的总裁兼联合创始人。他共同主导了 OpenAI bot 的开发，并且实际参与公司的日常运营管理。他还是 Stellar 的董事会成员，这是一家非营利基金会，致力于构建一种区块链，让跨境转账只需不到一美分。以下是我们与 Sam Altman 和 Greg Brockman 的对话。Sam、Greg，我期待这次对话已经很久了。不仅是因为我们曾一起做过大量工作，更是因为，就那些对我关于未来 AI 的看法影响最深的人而言，你们俩都在争夺我心中的第一位。所以这太棒了。欢迎来到我们的播客 Possible。谢谢。很荣幸。很高兴来到这里。那我们不如先定个基线。请介绍一下 OpenAI 的使命是什么，也就是说，指引你们所有决策的“北极星”是什么？Sam，不如从你开始，但我也想听听 Greg 的看法。我们正努力为全人类开发并部署有益且安全的 AGI。这是一个前所未有的项目。我们很难始终确信自己做的每一件事都是正确的。一路上我们会犯很多错误，但这就是我们的指引方向。我深信这将是人类迄今所发展的最具积极变革性的技术。而且，如果这项技术能帮助我们发明所有未来的技术，那么我认为未来将会无比光明。
Reid，你知道，我们创办 OpenAI 差不多是八年前了，正如你所记得的，因为当时我们都有一种感觉：AI 真的要来了。但不是马上。这是一个漫长的过程，我认为前方仍有很长的路要走，但我觉得这项技术让我们有机会去影响它的发展轨迹。我认为这可以成为最具积极性的力量，而这也是我们想要为之贡献的。因此，我们的愿景是 AGI——我认为它在某种程度上也将是一个光谱——能够惠及全人类，并且我们通过多种方式将这种愿景落实为行动。我觉得我们从最初的日子里学到了很多，那时我们怀揣着宏大的使命，却不知道如何将其与实际的战术执行连接起来。而多年来，我们弄清楚了如何构建组织架构，如何将我们的价值观融入其中，如何真正打造出有用的系统。看到就在过去这几个月里，我们的许多技术已经成为主流，人们开始获得我们一直所期望的那些益处，这真的很棒。但仍有许多工作要做。我们仍然处于这项技术的非常早期的阶段。不过，有一点我们深信不疑：每个人都应该在其中拥有利害关系，每个人都应该有发言权。而弄清楚如何真正实现全球治理，如何让这些系统获得具有代表性的输入，我们认为这与任何技术层面的事项同等重要。由于在创业早期就与你们并肩同行，我知道这是你们八年前像今天一样坚定而大胆地秉持的信念。请向我们详细说明一下——你知道，世界上有 80 亿人，其中大概超过 10 亿属于经济上有优势的中产阶级——OpenAI 为之努力的 AGI 使命，将如何让另外 70 亿人受益？是的，所以我认为 AI 中一股重要的力量将是关于可及性。我们真的认为，让每个人都能使用这项技术来改善自己的生活，将其用于自己的目的，能够让自己的偏好和反馈进入系统以代表自己，这将是一个基线。而且，关于这项技术究竟会如何发展，还有很多问题。我认为我们已经看到其他技术扮演了这种集中化力量的角色，它们确实在一定程度上提高了整体水平，但不知为何，那些处于极端优势的群体反而更加集中。这就是我们构建公司架构的一部分原因：我们是一家 capped-profit 公司，因此，如果真的有大量资本集中到 OpenAI，那它实际上并不由股东拥有，而是由非营利组织拥有，并分配给全世界。因此，我认为这里存在一些超越常规的可能性，你可以想到像 UBI 这样的东西，以及类似形式的分配。但我认为，从根本上说，核心在于为每个人提供这种赋能技术，降低创造、表达创意、完成新任务的门槛，推动人类在你关心并热爱的任何问题上前进——我认为这才是真正的关键。我深信不疑的一点是，也许所有真正可持续的经济增长都源于技术进步。我认为这在某种程度上——还有那些帮助我们取得技术进步的社会、政治制度及文化——也是如此。所以，我认为我们正在做的事情惠及另外70亿人的方式，与以往的技术并没有太大不同——当然，希望规模能比以往更大——但本质上，技术就是我们提升所有人的途径。聊聊教育和医疗吧。你觉得在哪些领域能看到惠及全球的进步？因为我认为我们现在已经能清晰看到其中一些方向了。是的，我认为教育是我极其感兴趣的领域之一。实际上，如果我们没能成功创办一家人工智能公司，我的备选方案之一就是做一家编程教育公司，因为我觉得如今教学的方式——每个人都有这样一个故事：有一位老师真正理解自己，花时间了解自己，弄清什么能激励自己，并真正激发自己去做更多。想象一下，如果你能把这样的老师提供给每一位学生，让他们随时随地、全天候免费使用。这仍然有点科幻，但已经远没有过去那么科幻了。你可以看看 Khan Academy 这样的机构，他们正开始将 GPT-4 引入课堂，并真正研究如何引导这项技术，使其成为一个有益的辅导老师：如果孩子说“哦，干脆帮我做作业吧”，它会回答“不不不，我不干这个”，而是试图探查孩子对什么感兴趣，以及如何真正激励他们。因此，我认为这种技术能够达到全球规模，并弄清楚如何充分激发人的潜能，这正是我们现在开始进入的领域。关于教育我想问一个问题，因为——我很喜欢你们所梦想的，是把教育带给每个人，给每个人带来经济机会。但我想很多人可能会说，“我们不是已经有这些了吗？我们有 Khan Academy，有 Coursera，有所有这些在线课程，它们本该兑现这个承诺，但我们并没有看到成果。”那么，为什么你们两位——Greg，既然你提到了，我想先请你说说——为什么你们认为这次真的会成为一个根本性转变，造福当下数百万、数十亿缺乏教育的人？是的，我认为人工智能总体上是一个充满“未兑现承诺”的领域，对吧？回顾这70年，每个人都感受到了潜力，对吧？因为我们究竟是如何接受教育的？是通过那些聪明的人，他们真正能够帮我们拆解问题、教我们东西。想象一下，如果你能拥有一台机器也能做到这些，也能在这方面提供帮助。我认为我们一直在构建很多“躯体”，我们造出了 Alexa、Siri 这些虚拟助手；我们构建了很多像 Khan Academy 这样的应用，它们能够触达学生。但问题在于“大脑”——如何真正拥有一台机器来实现这种放大效应，成为一种技术，成为人们能力的效能倍增器？而这正是我们一直缺失的。所以真正的问题，我想，是对我们所构建之物的考验：它能否跨越那道鸿沟？能否真正实现？我认为我们显然已经超越了许多人认为可能的范围。毫无疑问，像 GPT-4 这样的能力——我觉得每个看到它的人都会真切地感到：“我没想到计算机能做到这些，但现在它们做到了。”我认为还有第二步也很重要，那就是不仅仅拥有原始知识，而是我们能否真正引导机器去执行我们想要的任务，反映我们的意图，并按照社会选择注入其中的价值观来运作？我认为所有这些技术，正是我们正在研究、正在构建的。但我也认为，整套部署体系几乎就在等待合适的大脑出现，这同样重要。所以，我认为我们有机会。这并非板上钉钉，但我认为未来几年的考验将说明一切。规模化带来了哪些惊喜？Greg，你刚才已经提到了一些，就是它的能力远超许多人的预期，尽管这也是你们 OpenAI 团队里许多聪明人的研发理念的一部分——认为规模在这里至关重要，能够催生大量能力。但还有哪些惊喜呢？Greg，我们先从你开始，然后 Sam，我们再转到你。好吧，我来告诉你第一个惊喜。这要追溯到2017年，当时我们发表了一篇名为 “Unsupervised Sentiment Neuron” 的论文。它当时没引起太多关注，但对我们来说，这是一个真正的警钟，让我们意识到必须认真追求这种范式。你知道，我们训练了一个模型，只是让它预测 Amazon 评论中的下一个字符。你原本预期它会学会标点的位置、名词在哪里、动词在哪里。但令人惊讶的是，它学会了一个 state-of-the-art 的情感分析分类器，能告诉你一条评论是正面还是负面。于是你看到，语义从句法过程中涌现出来了。就像，意义是从哪儿来的？我们从未告诉机器这些意义，它却通过执行这项任务自己琢磨出来了。因此，我认为这种“机器永远学不会 X，永远学不会数学，永远学不会算法”的说法，我们已经看到它们一个接一个地不攻自破。当然，它还不完美，我们还有很长的路要走，现在仍处于早期阶段。但我认为，我们已经开始能够解决——比如编程，对我来说可能是最典型的——看到这么多人获得了巨大的提升，真的很有意思：以前从未编程过的人能够开始进入这个领域，而优秀的程序员则能做得更多、完成更多。我认为达到了这样一种能力水平：它确实能加速我的编码工作流……最初的 co-pilot 做不到这一点，但 GPT-4 绝对可以。在我们转到 Sam 之前，你能不能具体说说你的编程能力加速是什么样的？因为我想大多数人可能会想，“这到底是什么情况？是不是 Greg 现在成了甩手掌柜？”这种 co-piloting 到底是什么形态的？这其实非常有趣，因为你通常不会从所有机械性的组成部分去思考你的任务，对吧？你只是大概想，“好吧，我要写这个程序。”然后你并不会真正意识到，你其实正在把它分解成这么多碎片，你其实在敲一大堆东西。你大量时间都花在记忆到底是哪个库提供了你需要的函数、如何调用它们、参数具体是什么。然后你开始意识到，“我要搭建一个系统”或一个应用，或任何你想做的事，这种高层次任务突然变成了一系列按键敲击，而其中很多按键其实都只是 boilerplate，只是机械重复。所以早期 co-pilot 这类应用本质上就是：如果有 boilerplate，我来帮你搞定。然后，你知道，模型开始变得越来越好。如果你不太熟悉某种特定的编程语言或某组库，模型会很乐意为你补充这些内容，因为它几乎就像——它见识过太多东西，见过形形色色的案例。所以它大概知道：“哦，在这种情况下，这个正好能用上。”但 GPT-4 特别有意思的地方在于，它甚至开始跃升到更高的层次，比如：“好，这里有一条报错信息”，而这些报错信息通常非常晦涩，对吧？有时你四处搜索，浏览各种网站，试图从别人的只言片语中拼凑线索，但没人和你遇到完全一模一样的报错。你只能对着现有信息做点模式匹配。而 GPT-4 就像是心中有数。它会说出：“哦，对了，你知道的，你在 Jupyter 里忘了用 nest-asyncio 库。”这种程度的精妙判断现在开始成为可能了。因此，它不仅能处理很多常见错误，还能识别常见模式。而且，有时它甚至能冒出一些创意点子。比如我对 GPT-4 最喜爱的应用——主要是好玩，但有时也相当实用——就是把代码总结成一首诗。你其实能从中获得关于那段代码在做什么的真正洞察，而且读起来非常有趣。Greg，这是从你的文件里生成的一首诗。我会把启发这首诗的代码链接放在本期节目的 show notes 里。在代码交织的世界里，API 起舞，数据闪耀， 一个请求发出，一个回应显现。 在 Python 的语言中，我们的逻辑掌舵。 穿越 header 与方法，我们铺就道路， 在异步的时光里，发出异步的调用。 伴随着 session 与 stream，代码徐徐展开—— 一部技术的杰作，才华在其中凝聚。而这正是某种——我自己绝不会去写诗，我也从没读过人类写的关于代码的诗，但不知怎么的，AI 写的这些诗就相当引人入胜。
Sam？关于规模带来的惊奇？我刚查了一段引文要念。出自 Noam Shazeer，quote 是：“我们无法解释这些架构为何看似有效。我们将它们的成功，如同其他一切，归因于上天的仁慈。”
这对我来说是一个反复出现的主题。我非常认为自己是一个经验主义者，所以如果某件事有效，而且如果你加大投入它能可预见地变得更好，即便你无法给出完美的解释，我也会非常自信地相信这条曲线。但当你退后一步审视全局——从 Greg 提到的那项“Unsupervised Sentiment Neuron”研究，那东西为什么能 work 其实挺神秘的，你知道，我挑战任何人给出一个非常严谨、深入到底层的解释，说清楚那里面从头到尾到底在发生什么——再到 GPT-4 所做的某些东西是如何开始涌现的，再到 gradient descent 为什么能如此有效。这些都很让人惊奇。我已经与它和解说。我完全相信它。我认为它会走得非常远，但话说回来，当它开始奏效的时候，确实令人惊讶，我得这么说。甚至在我们创办 OpenAI 之前，当我们观察到 AlexNet 的结果时——那对我来说就像魔法。我上学的那个年代，如果你作为学生想研究机器学习，别人会告诉你，要想保证职业生涯走进死胡同，唯一的办法就是去研究 neural networks。我想稍微转换一下话题。你们两位让我非常欣赏的一点是，你们都很乐于承认自己可能出错：“我不知道会发生什么，我们需要去问别人，我们不是唯一掌握答案的人。”而且 Sam，几周前在 Twitter 上，我记得有人嘲讽地发推对你说：“哦，下一步你是不是要说我们应该监管 AI 了！”然后你说：“没错，我们应该监管 AI！”（笑）
所以我的问题是，你怎么看这件事的发生？你怎么看——很多人说“哦，你们发展得太快了”——在监管、全球治理或吸纳各方参与方面，你会呼吁什么？我认为现在有很多焦虑和恐惧，而且当人们感到害怕、愤怒或其他情绪时，我总是相信他们的感受，即便我认为人们并不总能解释清楚原因。我觉得人们现在是对变化的速度感到害怕。很多 OpenAI 的员工多年来一直在应对的更新，世界上的其他人要在几个月内全部经历一遍。在那一刻感到强烈的焦虑，是非常可以理解的。听着，我们认为极其谨慎地推进非常重要，而且我认为这方面需要强有力的监管。我不认为那种天真意义上的暂停会有多大帮助。你知道，顺便说一下，我们在完成 GPT-4 的训练后，花了不止六个月——不是远不止，是略多于六个月——来对其进行对齐和安全测试。所以，在这些事情上花时间很重要。但真正重要的是，我认为我们需要弄清楚什么样的监管方式、哪套规则、哪些安全标准才是真正有效的，能在 messy 的现实语境中真正起作用。然后再想办法让这成为全球通行的监管姿态。你知道，当人们总是有点聚焦于自己的恐惧时，就像 Sam 你刚才说的，他们往往会说“慢下来，停下来”等等。而我认为，这往往会带来一堆问题。其中一个问题是，我们其实正在给一大堆行业强力助推，而你知道，你想要那样，你想要那种为行业注入动力所带来的好处。另一件事是，我们从更大规模的模型中学到的一点是，对齐做得更好了。所以从某种很有争议的意义上说，未来在安全性和安全预防措施方面的问题，会比现在处理得更好。因此，只要带着谨慎、听取各方声音、完善治理、花数月时间进行安全测试，我认为我一直在提议的最终监管方向，大致是要求你能够补救模型所造成的伤害。所以如果出现特别糟糕的情况，或者你能提前预见到，你就能及时修正。这是我在监管框架出台前就已经看到你们在做的，但显然需要将其纳入一个更集体化的监管框架中，最好让全球各地都能认同，我认为这就是一种愿景。在这方面你们还有什么要补充的吗？当人们思考应该以何种方式参与时？你提到了这一点，但我想再强调一下，我们非常坚信的是，让世界保持相对恒定的变化速度，要好过比如说秘密研发 AGI，然后在完成时一次性全部部署出去。这个想法是，让人们相对渐进地有时间去适应这种将改变世界的不可思议的新事物，去感知它，有时间去更新认知——你知道，机构和人都不擅长在一夜之间完成更新——去参与到它的演化过程中，提供关键反馈，在我们犯蠢时及时指出，去发现那些能带来巨大收益和潜在危害的领域，在风险比未来更低的时候犯错并吸取教训。当然，我们仍然希望能尽量避免犯错。而且我说的不只是我们，我指的是整个行业，要理解就像任何新技术一样，棘手的部分会在哪里。这点上 Greg 推动了很多，尤其是在困难的时候，我非常感谢他。但我认为，这正是让这样一种新技术变得安全的方式。而这很 messy，很困难，这意味着我们很多时候不得不说：“嘿，我们不知道答案”，或者“嘿，那件事我们错了。”
相较于任何替代方案，我认为这对社会而言都是最好的路径——不仅能让社会达成最安全的结局，也能让全社会的声音有机会塑造我们所有人，而不只是让那些会在秘密实验室工作的人说了算。长期以来，我们一直在认真思考这个问题。回想当初创办 OpenAI 时，我们真正思考的是如何从那个起点——从很多方面来说几乎是一无所有——走向安全部署的 AGI，并让它切实造福全人类。如何把这两点连接起来？如何真正抵达目标？我认为那种方案，也就是 Sam 隐约提到的那种，就是“嘿，你先秘密研发，然后某一天再发布”，有很多人真的在倡导这种方式，而且它有一些不错的特性。这意味着——我想很多人看到这种方式会觉得：“嘿，这里有一个技术安全问题，要确保 AI 是可以被引导的；还有一个社会问题。第二个听起来特别难，但你懂的，我懂技术，所以我只专注第一个就好。”而最初的方案有一个特性，就是允许你这么做。但这从来都无法让我真正安心，因为我认为你必须同时真正解决这两个问题，对吧？你怎么知道你的安全流程真的奏效了？你不会希望只有一次机会把这件事做对。所以我认为——你看，还有很多东西要学。我们现在仍然处于非常早期的阶段，但我认为过去四五年里，我们开始部署这项技术并从中学习的这个过程，教会了我们太多太多。而三四年前，我们其实还不具备修补问题的能力。你知道，当 GPT-3 出现问题时，我们只能在 GPT-3 的部署方式层面打补丁，用过滤机制，用非模型层面的干预手段。而现在我们开始走向成熟，真正能够进行模型层面的干预了，而且 GPT-4 本身在我们所有的安全流程中确实至关重要。能够以自动化的方式真正理解模型输出的内容，GPT-4 在这类任务上表现得非常出色。所以我认为我们学到了很多东西，而这种迭代部署的过程对此真的至关重要。这正好为我下一个问题做了铺垫。你说过就在几年前，你们还一无所有，才刚起步。所以，要让一切顺利推进，也许还需要一些运气，才能仅靠几百人就超越世界上最大的科技公司，走到今天的位置。我很想听听，Sam，促成这一切的魔力是什么？OpenAI 内部是否有核心领导者？你们是如何抵达这个不可思议的境地的，何况你们深知这才只是开始，前方还有漫长的路要走？我认为我们做了很多事情，有些是刻意的，有些则是运气好。很重要的一点是我们建立了一种文化——这也要归功于 Greg——一种真正死磕细节、力求把细节做对的文化，并吸引那些想要这样工作的人加入。做非常严谨的工程，非常严谨的科学，并让这种积累在长时间里产生复利。另一点是，我认为我们是一个相当追求真相的组织。我们只想找到行之有效的方法，然后多做。这跟我们刚起步时领域里大多数其他 AI 研究努力不同，他们有不同的激励体系，有不同的优先事项。还有一点是，我们会下高信念、集中的赌注，所以不是把资源分散到很多事情上，而是做了当时在很多人看来不可思议的事。我们当时想的是：“我们要把大部分资源投入这一个项目，但我们仔细研究过，我们认为可以预测它的表现。”以上就是我想说的几点。Greg，有什么要补充的吗？是的，我的意思是，就这一点补充一些细节吧，就是直面冰冷残酷的现实，并从第一性原理出发思考。我想说在最早期的日子里，Ilya 和我每天大概会花一个小时——我们当时其实没有多余的会议室——所以我们会钻进后面的服务器间，聊各种事情，争论各种事情，问很多问题，比如我们应该招什么样的人。像是，你该招传统的机器学习博士吗？你该招从未做过这方面的软件工程师吗？你该招介于两者之间的人吗？然后，你知道，我认为对于每一个这样的决定，我们都能看到它们的后果，然后我们会更新认知，会学习。所以我认为这种迭代，这种“我们无法提前知道一切，但可以从与现实的接触中学习”的理念，从一开始就在我们的 DNA 里。甚至关于规模这一点，这个规模假设是从哪来的？你看 Dota，那是我们在 2017 年初着手攻克的一款竞技电子游戏。OpenAI Five，一个玩 Dota 2 的 AI，Dota 2 是一款拥有庞大狂热粉丝群体的多人在线战术竞技游戏。2018 年，他们直接挑战了 OG，当时的卫冕冠军队伍。“GG，比赛结束，OpenAI 拿下第二局，以 2-0 赢得系列赛……” 作为 Dota 玩家…… 结果这成了我们第一个真正意义上的规模化系统，而且每周随着我们投入更多算力，系统都会变得更强。很多人以为，“啊，他们是为了证明 scaling hypothesis”，但实际上恰恰相反，我们的目标其实只是把现有算法用到极限，这样我们就能开展新的算法研发。那才是我们真正想做的。所以我认为，当你试图朝这个方向推进时，是另一个方向在拉着你往前走，对你说：“嘿，嘿，这真的管用，这里面有东西。”而我认为，这种愿意说“我们会更新、会转向、会改变、会对眼前所见做出反应”的态度，从技术角度来看非常重要。是的，这段历史基本上已经被遗忘了，所以我想这是个有趣的例子，值得花一分钟提一下。当我们扩展 Dota 项目的时候，基本上没有人觉得“这肯定会成”。大家的想法是，“呃，我们也不知道接下来该做什么，所以得看看它在哪里会崩。”
完全同意。是的，我们当时有三条大思路。我们从第一条开始，我们特别兴奋想做第二条。我们真的很想做所谓的 hierarchical RL，也就是某种层级结构，你知道，有长期规划，然后有一些更短期的肌肉运动之类的东西。结果这些全都没必要。真正有趣的是，我们当时其实有很多闲置算力，就是说，我们有一大堆 CPU 闲置着，没人用得上。所以是 Jakub 和 Szymon，我们的两位研究员，他们当时就会不停地说：“好，这周扩大两倍规模。”然后你就能看到曲线，它就是会变好。而且我认为我们还发现了其他一些东西，对吧？存在所有这些 scaling laws，你现在能找到很多这样的规律，非常平滑的曲线，当你增加模型里的算力或数据量时，而且你可以在不同维度上调整，它们都会呈现出这种极其平滑的指数增长。我认为这背后有某种非常深刻的东西正在发生，从科学角度来看，我们一直在逐步揭开它——我不知道这是否关乎人类智能的本质，但肯定关乎我们正在创造的这种人工智能的本质。我觉得我们对这一点赞叹得还不够，因为我们已经习以为常，或许其他人也是如此。但事实是，你可以为了实现某一智能水平而投入任意数量的算力，而这似乎覆盖了惊人的算力范围和智能程度，这简直是一项惊人的科学发现。这确实非常了不起。另外，我确实想说，关于这件事的叙事中有时也会遗漏一点，那就是，并不是说字面意义上只要你有一台更大的计算机，一切就自然变好了，对吗？算力、数据、算法，这些进步的来源多年来一直如此，现在依然如此。我们也研究过算法进步了多少：它是一条平稳的指数曲线。因此，我认为这些投入——你实际上几乎是在小规模下、或是在整个行业中开发出来的——当它们结合在一起，最优秀的工程、最出色的系统、最顶尖的算法思路结合在一起，才会产生像 GPT-4 这样的系统。所以我觉得，在思考这些进步速度的问题时，有一点我们应该意识到，那就是要真正看清进步来自哪里。这不是任何一家公司的事，实际上，如果你看看整个供应链，从 GPU 到各种新算法思路，再到大规模数据处理系统，所有这一切加在一起，规模相当庞大。有很多人、很多不同的公司参与其中，从核心上说，这真的像是全人类的一个项目。这种技术进步正推动着我们能够交付正在创造的系统。那么你们觉得呢——我是说，显然，我认为你们俩都很明智，在关于未来的问题上避免做预测，因为它总是比你想象的更快、更奇怪、更不一样。我自己就曾做过一些愚蠢的预测，然后几年之后回想，“是啊，那是个愚蠢的预测，我当时就知道。” 那么在接下来的 3 到 10 年里，你们认为哪些行业和哪些世界性的变革会最先出现？我们讨论过教育，但还没怎么聊过医学，我认为这是另一个会产生显著影响的领域。你们怎么看？我认为将这些服务应用于法律领域会有很多好处，能让人们获得法律服务。我最喜欢的 GPT-3 应用是一个叫 Augrented 的工具，它可以帮助收到驱逐通知的租客理解通知内容，对吗？因为那个群体中的很多人未必请得起律师，而你实际上可以帮助他们完成那些原本做不到的事。这就是我们看到的非常有效的用例之一。你认为是否存在一些对 AI 更有抵抗力的领域，实际上我们不会看到变化，或者说在这方面变化会更慢？嗯，我认为物理世界可能是目前最有抵抗力的。我们自己曾有过机器人项目，几年前我们实际上把它关停了，因为你知道，当时很多人——我们曾有一些领域领先的成果，我们有一只很酷的机械手能还原魔方，诸如此类。但我们意识到数字世界发展得快得多。所以那个团队实际上变成了我们的 Copilot 团队。你能看出来，那是一种权衡，就是你可以去构建 Copilot，并把它交付给如此多的开发者。因此我认为，真正要弄明白的是 AI 如何能在我们的物理生活中帮助我们？而且存在很多交叉点，对吧？想想看，如果你有一只宠物，它戴着一个伊丽莎白圈，你想把它摘掉，但又想监控它有没有舔伤口，那么你能不能装一个摄像头看着你的宠物，让 AI 在发生这种情况时通知你。所以我觉得我们会看到数字世界在某些点上真正帮助物理世界。但这实际上比许多纯智力应用需要更长的时间。我觉得事情会变得相当奇怪。举个例子，当 Deep Blue 战胜 Garry Kasparov 时——有人把这说成是整个 AI 革命的开端——当时有很多预测说象棋彻底完了，没人会再下棋了，它不再有趣了。它的确影响并改变了一些东西，但我认为象棋从未像今天这样受欢迎过。我们并不喜欢看 AI 之间对弈，那本该是更精彩、更复杂、更高水平的对局，随你怎么说。在这种情况下，我们似乎真正感兴趣的是其他人类能做什么。如果你借助 AI 作弊之类的，那就会酿成大丑闻。但你看，这背后似乎有某种深层的东西，那个预测不仅错了，而且与实际情况、与许多人的预测完全相反。我认为在很多其他情况下也会如此。在转向其他关于技术和未来可能性的议题之前，因为你们除了在 AI 领域身先士卒，也在其他领域有所作为，我想听听你们对《Impromptu》这本书主题的看法。去年当我们都在试用 GPT-4 时，我说：“好吧，我怎样才能不只是讲述，而是展示人类增强理论呢？” 于是我想，“嗯，为什么不和 GPT-4 一起写本书，以此直接展示：这就是一个增强时刻。” 你们觉得我在人类增强、增强智能这个问题上有多正确？又在多大程度上有点操之过急？你对工具增强人类这件事的直觉反应是什么？非常认同，我的意思是，那是我们希望能尽可能推动的方向。你知道，你无法过于强行地推动技术，但你可以在边缘地带施加一些影响，而幸运的是，在这种情况下，技术似乎本身就想要朝那个方向发展。我曾看到一条让我印象深刻的推文，有个人说他从未想过自己能与像 GPT-4 这样强大的智能共存。你知道，当你走到这一步时，你已经深入 AGI 的领域了，而事实证明，构建一种擅长增强个人意志、让我们所有人在工作中更高效、更出色的 AI，比许多人想象的更有可能。不仅如此，事实证明人们真的很喜欢它。对我来说，OpenAI 最令人欣慰的部分之一，就是人们多么喜爱这款产品，并从中获得了各种难以置信的好处。我认为这真的值得深思：我们究竟为何建造技术？从根本上说，是为了改善人类，改善人类生活，让我们能够取得更多成就。我认为我们甚至在这个阶段就正在看到这一切展开，而且我认为即使当你向更强大的系统迈进时，确保我们真正为这一目的去架构它们也将变得极为重要，对吧？让人类作为管理者、人类作为最终接收者、人类作为这项技术的受益者，你都要能给出答案。所有这些都属于我们使命的一部分，就是要确保我们对人类如何继续融入其中、如何继续成为所有这些系统的最终受益者有一个答案，无论它们变得多聪明。对AI的批评之一是能源消耗，Sam，你说过未来不仅会有无限的智能，还会有无限的能源，而且你在Helion上做了大量投资。我们很幸运在早期一期节目中请到了劳伦斯利弗莫尔实验室的Kim Budil博士，她让我们所有人都非常着迷。我很想请你谈谈你为什么投资核聚变，以及你如何看待它的前景。是的，我不认为会是无限的智能或能源，我认为价格是持续下降的，丰度是持续增加的，但你知道，我们永远不会达到无限。我认为对这些AI系统的能源批评是一种非常粗浅的批评，通常出现在人们试图把所有能想到的东西都列进一张清单的时候。但我确实认为，丰富的能源——真正全球规模、丰富、廉价、清洁的能源——不仅会有应对气候危机以及诸如此类问题的所有明显好处，而且纵观历史，能源成本与生活质量的相关性可能比我随手能想到的任何其他单一投入都要高，因此资助那些试图从根本上改变这一成本的努力似乎是一件很好的事情，而Helion正在这样做，我希望明年会有好消息。
Greg，我知道我们谈了很多教育方面的事，但我们也谈到了医疗，我知道你作为天使投资人，在1%或0.5%的副业中也做了一些投资，因为我知道你在OpenAI的工作已经非常辛苦了，你如何看待医疗保健、药物发现、开发、初级护理等领域即将到来的变化，以及你一直在做哪些事情来推动这些领域？是的，我们在OpenAI内部也有一只基金，投资于基于我们技术构建的初创公司，所以像Ambience [Healthcare]这样的初创公司正在真正尝试将这项技术落地。实际上，甚至微软也开始通过Nuance在Epic和许多医院中部署我们的一些技术。Nuance和微软的合作让我更加确信，我们真正能够满足患者的需求。这将以一种我认为我们自己无法达到的速度推进这项技术……我今天在这里做的所有事情，原本会花费我长得多的时间。这将帮助我提高效率，这样我就能花更多时间真正与患者交谈，看着他们的眼睛……能够收集和获得我们以前可能无法获得的关于患者的洞察，这让我非常兴奋。我认为这将改变医疗保健。所以我实际上认为，如果你想想医生面临的一系列问题，其中很多是行政性的。我的父母都是医生，我听他们讲过所有那些故事，关于他们如何被迫进入这样一个世界：一边和病人说话，一边拿着iPad，在Epic里填写各种框框。这根本不是患者护理应有的样子。所以我认为我们将进入一个世界，即使是看看Nuance的即时转录，以及之后获取医生笔记，医生也能够真正专注于患者护理，真正专注于策略。而且，你知道，人们已经在使用ChatGPT的一些用例，我认为非常有趣，对吧？所以如果你在Twitter上看，有人用ChatGPT救了他的狗的命，故事是这样的：他去看兽医，兽医真的不知道该怎么办，说，我们观察一下这只狗吧。但狗的情况持续恶化，兽医仍然不想做任何不同的处理，所以他把医疗记录输入给ChatGPT，ChatGPT非常正确地说：“我不是兽医，你真的需要咨询兽医，”但还是愿意给他一些建议、一些假设、一些解读、一些头脑风暴。凭借这些，他有了信心去找第二位兽医，后者随后进行了检查，救了狗的命。我认为这是一个非常有趣的寓言，因为它真正指向了这个问题：我们希望AI如何嵌入其中？比如，在医学等领域，你必须非常小心避免过度依赖，但人类也不完美，对吧？第一位医生做出了糟糕的判断，可能真的会带来致命的后果，因此，弄清楚如何让合适的人进行合适的监督，而且最终，你知道，作为患者，你其实对结果负责，对吧？也就是说，尽管你不是医学专业人士，你却必须表现得像个专业人士，对吧？所以，我们的系统在某种程度上并没有很好地服务于所需的结果。但有了AI，我认为如果我们做得对，如果我们设置好正确的guardrails，我们就能在所有这些领域提供增强和放大。你们如何看待这种运作方式？比如Greg，你说过你通过OpenAI投资那些使用你们平台的公司。那么，会是OpenAI直接创造这些变革吗？还是其他公司将使用你们的API？所有这些即将发生的变革的结构是什么？我知道我们不该预测未来，但很想听听你认为每个人使用AI来让这些行业变得更好的最佳方式是什么。我们现在看到的是，人们正以惊人的方式在各个地方整合OpenAI API，随着模型越来越智能，这不断提升产品和服务的能力——这种情况将持续下去。所以这个问题我想我们可以比较有把握地回答。到目前为止，有哪些意外的惊喜，无论是在API的使用中，还是在投资方面，或是在各种赋能、增强或其他方向上？我知道网络和平台带来的一种现象是，有些事情是你预料之中的，有些你预料的事情没有发生，而另一些事则让你完全觉得“我从未想到过！”哪些是让你“从未想到过”或“那是个惊喜，来得真快”的事？好吧，我跟你说说GPT-3在平台滥用方面的事。我们原本预期最可能被滥用的方向是虚假信息。我们以为所有人都会这么做，所以我们把所有精力都投入到确保能够监控它、能够观察正在发生什么上。而实际上，最常见的滥用方向是医疗垃圾信息，为各种药物制作广告。因此，这项技术本身的形态，它如何契合人们想要使用它的方式，与你预期的非常不同。实际上，我们在产品开发中也看到了这一点，你知道，比如API从何而来，ChatGPT从何而来，两者都源于这样一个地方——Sam对此记忆犹新——我们花了，我不知道，几个月的时间，只是写下我们能为GPT-3和GPT-4做的所有不同想法，比如也许我们可以做医疗方面的东西，或者法律方面的东西。而对于每一个这样的想法，都觉得我们不得不放弃AGI的梦想，对吧？我们可以成为一家向医院销售产品的公司，但你真的必须认真对待成为一家向医院销售产品的公司，那会成为你的主业。所以我们想，“你知道吗，也许其他人能想出如何使用这项技术。”这与你应该做的方式完全相反。作为一家初创公司，你应该有一个待解决的问题，而不是拿着一项技术去寻找解决方案。我认为从这件事似乎奏效的事实中得出的结论是，AI可能就是这样不同，因为这就好比每一家公司、每一个个体、每一项业务都是语言业务。语言流深深根植于其中。因此，如果你能在现有的语言工作流中增加一点价值，它就会被广泛采用。你认为科学发展的重点领域会有哪些？我们显然已经看到了蛋白质折叠等各种进展，但从使用 AI 或现代 AI 技术的角度来看，未来 3 到 10 年科学加速的领域会是什么？嗯，我有个简洁的答案：Terence Tao 最近说 GPT-4 让他效率提升了。他是著名的数学家，AI 省去了写资助申请的繁琐，以及人们实际上花大量时间处理的许多事务。因此，我认为会出现很多这种平凡的应用——你会意识到，世界上最聪明的头脑正把所有时间花在应付这些不太理想、不太能激发智识的工作上，而我们将看到人们在各个领域取得更多成就。是的，这绝对是我目前最坚定的答案。我们可能会发现它在其他方面也很出色，但事实上，它基本上对每个人都是生产力倍增器，这将让我们最顶尖的科学家变得更强，而这也将成为科学大幅加速的途径。最终，这些系统或许能帮助我们——找不到更好的词来形容——在“一个大脑”中容纳比人类更多的知识，并发现新的联系、新的想法等等。但我们目前所见已经令人非常印象深刻了。另外补充一点，我认为我们尚未从这项技术中看到的一点是真正提出新想法。不过我们已经看到了一点苗头，对吧？你看 AlphaGo，有一步著名的棋是人类永远不会下的。而人类随后从中获得了大量关于如何改变这项游戏的洞见。我们在 Dota 中也看到了同样的情况，我们击败了世界冠军，而他们那年其实赛季表现不佳，之后他们再次赢得了世界冠军，那也是该游戏历史上首次，用的策略看起来很像 OpenAI 的策略。因此我认为这种能够向机器学习的理念，是我们尚未在 GPT 身上真正看到的，而它可能会释放出大量潜在收益。好了，我们进入快问快答环节。有没有哪部电影、歌曲或书籍让你对未来充满乐观？Greg？我是说，我觉得电影 Her 非常有趣。在好莱坞很难找到对 AI 的正面描绘。我认为从好莱坞的视角来看，Her 已经是巅峰之作了，但我觉得我们可以做得更好。我认为我们真的能够打造出一个令人惊叹的世界。我本来不想总是用同一个答案回答这个问题，但我仔细想了想，觉得它确实就是正确答案：《无穷的开始》（The Beginning of Infinity）。超级老套，但对我来说，很难有比那本书更能让人乐观的了。太棒了。Greg，我刚重看了 Her，真的很棒！（笑）我同意你的看法。那这次从 Greg 开始。在行业之外，你看到哪些进展或势头让你受到鼓舞？能源。说实话，我很关注 Helion。我认为，任何有机会实现一项极其艰难的技术突破、从而解锁更美好未来的人或公司，都会得到我的支持。我也会这么说。我认为这绝对是目前世界上第二令人兴奋的事情。当然，我也认为还有很多其他的，比如 mRNA 等等一长串，但我同意能源、Helion 以及其他一些方向。嗯，现在我觉得我已经知道你们对上一个问题的答案了，但我本来想问的是，哪项技术让你感到兴奋，认为它能改变你的领域？但我觉得 AI 实际上正在改变所有其他领域。不过 Sam，有没有哪项技术是你正在关注的，让你觉得“这将从根本上推动 AI”？天哪，我不想这么无聊，但如果 Helion 真的管用，我们能用它来为大型数据中心供电，那就太酷了。我是说，我等不及到明年了。你告诉我们会有惊喜到来，我很期待。从科学演示到可靠可用的东西之间，还有很长的路要走。那么，最后一轮快问快答，我想明天就是 GPT-4 发布满一个月了。对你们每个人来说，从 Sam 开始，过去一个月最珍贵的记忆是什么？其实是发布的那一刻。我们一群人一起在 OpenAI 的食堂里，有一个小小的倒计时钟。我们为此已经工作了一年多，最后关头还冒出了各种小问题。但那是一个非常有团队精神的欢乐时刻。对我来说有趣的是，我其实很喜欢发布的过程。到这个时候，我曾经反思过一点：这些年我在 Stripe、OpenAI、Dota 之间经历了太多次发布——你身处一个座无虚席的竞技场，两万粉丝在为你的 AI 欢呼或喝倒彩。我认为每一次发布都是那么不同，对吧？总有新的东西可以学习。所以对于 GPT-4，我非常享受和团队一起撰写那篇博客文章的过程。有很多地方你需要非常认真地思考：我们做了什么？为什么这样做？等等，这真的合理吗？然后真正把这个故事理顺，把所有内容整合成一个易于理解的完整方案，真正传达出优点和缺点，还有你的希望和梦想，以及那些没能如愿的地方。因此我非常享受那种认真思考现实、并用易于理解的方式将其写下来的过程。在结束之前，关于 AI，你认为大众媒体的讨论中有哪些特别需要纠正的地方？我是说，我们的一些问题显然也涉及这一点，也就是要去思考你可以为之建设的惊人未来，而不要只停留在潜在的科幻式负面情节上，但总体而言，有没有什么像是“看，要关注这里，别被那个过分分散注意力”？我有两点。第一是关于进步从何而来。很多关注都集中在这些大规模升级上，但我实际上认为它们更多是进步的标志，而非进步的驱动力。它们是有用的产物，所以确实值得关注，但真正的是计算、数据、算法这些，它们一直在进步，并且在整个行业范围内持续进步。我认为潜在风险的一个来源是能力过剩（overhang）——也就是说，如果你把这些东西组合在一起，就能生产出对社会产生阶跃式影响的东西，但你实际上还没这么做，这种可能性越大，我就越开始感到紧张。你知道，对我来说，就连看到人们对 ChatGPT 的反应，以及大家觉得它好像是凭空出现的这种感觉——而其实我们多年来一直在看着这项技术一点点变好、一点点变好、一点点变好。ChatGPT 背后的模型并不是新的，当时已经发布了将近一年。因此我认为这里存在一种连续性，我们需要真正弄明白，作为社会、作为行业、作为世界、作为物种，我们该如何协调。但你必须真正深入技术的细节，才能找出应该关注哪些地方，才能说“嘿，我们都应该以此方式协作”。我认为如果你对此很天真，如果没把这一点做对，实际上可能造成的负面影响会超过正面影响。而我认为第二点是人们讨论得不够的，那就是真正去思考：人类在哪里需要帮助？有一个例子值得思考，就是专业化，对吧？如果你去看医生——比如我记得有一次手腕受伤了，因为不用手腕，后来开始脖子疼，我就问医生：“嘿，您知道这可能是什么问题吗？”他看着我说：“我是看手腕的医生。”[笑]他不打算回答我关于脖子的问题。我们需要找到出路，需要有一种跨专业的方式，真正把不同学科的知识汇聚起来。而这正是 AGI 的本质——能够做到这一点，学习新事物，进入新领域并解决问题。所以我觉得我们缺少一种工具，或者说社会需要这样一种能力。我认为，真正去关注“差距在哪里？我们如何填补？”与说“我们现在是不是在无意中填补了一些不想填补的东西？”同样重要。我很喜欢和 Greg 以及 Sam 聊天，尽管显然我已经和他们共事多年，也很了解他们的思维方式——他们发明创造，开创未来，创造可能性——但听他们谈论如何从改进教育到如何加速科学发展、如何驾驭未来等问题，仍然非常有趣且有益。这总能给我很好的提醒。你想，OpenAI 成立了，七年后 GPT-4 发布。这条直线如此顺理成章。所以听 Sam 和 Greg 说“哦，一开始我们并不知道解决方案会是什么。我们不确定会不会是 LLMs。我们在不断尝试。那时候我们有多余的算力，就把各种问题扔进去试”，这太棒了。回想那些让他们走到今天的不同迭代，创业路上有起有伏并不奇怪，但听创始人亲口讲述他们尝试过的不同东西仍然令人惊讶——他们清单上有三件事，哦，第一件事成了，而我已经准备好迎接第二和第三件。我仍然想知道他们背后还藏着什么准备部署的东西。我认为这次对话的另一个非常有帮助的地方在于，非常务实地分享了这条创新之路是如何运作的。就像说：“你看，我们之前在做机器人，在做手部以及如何让它们运作，但进展太慢了。那个方向行不通，我们不得不把精力重新集中在真正能产生影响的领域。”这种大量尝试，有些成功了就加倍投入，有些不行就重构调整，是创新故事的一部分，也是每个人都需要学习的。很多时候，人们对创新的误解在于以为可以像规划建筑项目、盖房子那样去规划它，并且完全按计划执行。但实际上，创新是快速行动、实验和尝试。而且，偶尔会出现“哎呀，这个没成”，以及“哇，我们有这么多闲置算力，试了一下发现真管用，那就多做点”的情况。我很喜欢他们对安全的重视，同时也喜欢他们希望把技术交到人们手中的态度。他们希望数以百万计的人去试用 ChatGPT，这样他们就能把它做得更好、更安全，让人们能够以他们甚至无法想象的创新和不可思议的方式去使用它。就像在说：“让我们让其他人来决定如何用这项不可思议的工具去实现所有即将发生的积极事物。”
在听到 AI 的未来应用场景时，有一点让我很喜欢，那就是在我们国家和世界各地，中产阶级或富裕阶层能享受到的许多东西，那些没有那么多钱的人却无法获得。所以当 Greg 谈到“想想那些面临驱逐的人，他们无法像其他人一样获得法律服务，而有了 ChatGPT 或 GPT-4，我们就能真正扩大公正，把法律服务扩展到数亿人”时，我觉得这才是这里真正的愿望。你知道，正如 Reid 在本期节目中提到的，我们如何让全球数十亿人进入中产阶级，让他们像其他人一样获得中产阶级水平的食品、住房、公正和法律代理。所以对我来说，这才是 AI 真正的梦想，看到 Greg 和 Sam 也在思考这个问题，真的令人兴奋。
Possible 由 Wonder Media Network 制作，由我本人 Reid Hoffman 和 Aria Finger 主持。我们的节目统筹是 Shaun Young。Possible 由 Edie Allard 和 Sara Schleede 担任制作。Jenny Kaplan 是我们的执行制片人和编辑。特别感谢 Theresa Lopez、Surya Yalamanchili、Saida Sapieva、Ian Alas、Greg Beato 和 Ben Relles。