Satya Nadella：让人力资本与 token 资本复利增长

因此，这正是我们希望体制乃至范式发生根本性转变的核心原因之一：你应该欢迎模型进入。它们应该在你控制的机器内部进行 hill climb。你的数据就是你的上下文，你将其输入模型，事实上是在收集企业内部人类与 agent 之间如何完成工作的这些 traces 或 trajectories。但你让这个过程形成持续闭环，而不让其外泄。我认为这就是最基本的运作方式。

是的。其实，与 tacit knowledge 相关的一个对应问题——也是你我在微软董事会曾讨论过的——就是 AI 员工的未来角色是什么？因为问题的一部分在于，我们不仅打算提供放大人类工作的工具，这是优秀的 AI 公司所做的事；而且我们还打算至少配置一些专业员工。但挑战在于，对企业而言真正重要的一点是，你的员工承载了大量 tacit knowledge，知道该如何行事。你愿意让这些知识被其他公司获取并在别处配置吗？关于将 AI 视为甚至可能是专业员工，你个人以及微软对未来工作的看法是什么？

是的，我认为这话没错。思考这个问题有两种方式，我来讲讲。先举一个类比，等下再回到正题。如果在八十年代初有人来找我们说，你知道吗？未来会有 40 亿打字员每天早上醒来就开始打字。我们会问，为了什么？这毫无意义，对吧？我们有打字员池，有幻灯片池。我们对此很满意，除了我们后来发明了一个全新的东西，叫做知识工作，每个人都在打字、创建 artifact 等等。

所以我认为，我们在概念上尚未形成良好且共识性的理解：当你拥有——这么说吧，以微软为例——20 万名员工，再加上 200 万乃至 2000 万个 agent，全部处在一个 loop 中时，未来的工作会是什么样子？会发生什么？会诞生什么样的 tacit knowledge？在 agent 之间、agent 与人类之间流转的又是什么 artifact？所有这些将在未来多年逐步展开。你可以在编程领域看到这种形态的雏形，对吧？事实上，这是观察此类社会变革的绝佳场所。

想想看，我们从传统的 IDE 起步，说，嘿，AI 就在里面，它在进行 code completion。这本身就很有用，也很好理解。我们一直都有拼写纠正，IntelliSense 在 15 年前就已出现在 VS Code 中。它只是变得更好用了。后来我们说，哦，你不用再跳出 IDE、打开浏览器去 Stack Overflow 搜索了，现在你可以把所有编程知识带入一个 chat session。这也很好理解。你仍然待在 IDE 里，同时有了聊天功能。再后来我们说，好了，现在你有了 reasoning model 和一些初步的 agent loop 等等，于是你可以分配任务了。于是我们有了 agent mode，对吧？

所以你不仅有了 chat，还可以给它布置小任务，看着它完成，然后接受它的成果并插入到项目中，诸如此类。接着迎来了重大突破：完全自主的 agentic loop，可以长时间独立工作，你基本上可以 fire and forget，对吧？你可以指定一个高层意图，它就去完成整个 PR，而你只需接受这个 PR。所以，我认为这种转变将发生在所有工作领域。现在我们甚至在 Copilot 中也看到了，我们有了 chat，有了 Cowork。事实上，在 Build 大会上我们还宣布了 Scout 和 Autopilot。所以编程领域正在发生的事情，也将发生在知识工作中。

有趣的是，我们在 Build 大会的 GitHub 板块推出了一项新功能，叫做 Canvas。因为事实是，随着我们都越来越擅长使用这些编程 agent，我们现在面临的最大挑战是我开了 100 个 CLI session 来操作这 100 个 agent。现在管理它们给我带来的认知负荷太高了。首先想想看，这是命令行里的线性 chat session，而我有 100 个这样的会话。所以你看，我们现在又回到了 IDE，对吧？于是我有了一个新的 IDE，我们给它起了一个时髦的新名字，叫 ADE，即 agentic development environment。这就是新的 GitHub Copilot 应用。

这个 GitHub 应用看起来就像一个 inbox，只不过它是一个 agent 的 inbox，这些 agent 在所有 repo 中工作，让我能够对我交给它们的宏观委派进行微观调控。但这是一个完整的 UI，让 agent 可以与我交互，我也可以与 agent 交互。所以我们在 GitHub 中引入了这项名为 Canvas 的新功能，比如有时候用 Kanban 看板可视化来梳理你的 PR 会很方便。这对 agent 和我进行交互都非常有用，比单纯的 chat session 强多了。我认为这类创新就是工作方式的演进方向。

事实上，对我来说另一个迷人的研究方向是，AI 研究中有一条路线会让模型变得更加精细，学会如何 stay the course，并理解人类在 steerability 上的偏好。对吧？因为这正是我想要的。事实上，我想要的模型不仅能进行 instruction following，还要真正具备 steerability。只有当你拥有这一点时，你才会对它有信心。所以我认为未来的工作关乎通过这种 interplay 产生的 tacit knowledge。正如知识工作因 digital artifact 和人力资本而诞生，新的工作形态将是 AI capital 与人力资本协作，在某种意义上共同创造 digital artifact。

那么你认为，在为企业构建额外支撑结构的重要性方面，人们忽略了什么？其中之一显然是为人类提供赋能，比如 Canvas 等等。但例如，在 agentic 环境中，安全意味着什么？

这是个很好的问题。确实如此。所以针对你的问题，首先是体验层，这显然很重要。其次是我们之前提到的，我们需要将 hill-climbing machine 作为概念加以实例化。但第三点是可管理性和安全性。首先要具备 observability，对吧？我们最早做的一件事——我们甚至还讨论过——是的，就是一个叫做 Agent 365 的东西。我需要掌握情况，我需要一个清单。我说，哦，微软可能有 2000 万个 agent。我首先要知道这些 agent 是什么，它们在做什么，它们的 reasoning traces 是什么。它们必须是完全可检查、完全可审计的。

顺便说一下，当 agent 在运行时还具备另一项属性，它们可以生成代码并执行。因此，它们执行代码的环境——甚至可能包括文件系统访问、网络访问——需要受到策略的管控。所以现在你需要赋予它们身份，需要给它们 sandbox，然后需要制定策略来管理它们。于是我们构建了一整套名为 Agent 365 的方案，实际上，我们扩展了 Entra 来提供身份管理，扩展了 Defender 来提供安全防护，扩展了 Purview 来让你甚至可以自动为正在生成的数据打标签，从而实现数据保护。所以我认为，security containment、manageability、observability 是我们能够对这些 agent 建立信任的方式。

另外还有一点，我想 Reid 在我们的开发者大会上也很鲜明地提到过：当你构建这些长时间运行的 agent 时，这一点有多重要。想想看，在编程语言中，我们一直都有编程模型来理解程序的可验证性，对吧。而且它是在运行时执行的。因此，我们在 Foundry 中为这些长时间运行的 agent 增加的一项特性叫做 asserts。这让我们能够断言边界在哪里，对吧？所以，与其把 guardrails 当作某种分类器来讨论，你现在真正需要的是在执行过程中具备一种能力，确保执行路径不会偏离正轨。

因此，随着我们搭建平台、运行时、安全层、管理层和可观测层，现在正涌现出大量的工程深度。

那么我们来聊聊 CEO 的角色。我认为《财富》杂志最近形容你在微软的 AI 团队内部表现得像一位创业公司 CEO。但更普遍的问题是，因为很多 CEO 都会向你寻求关于全球科技战略的建议。你认为 CEO 们应该在 AI 方面做些什么？AI 因其本质，给许多公司带来了一个 refounding 时刻。那么你建议他们如何参与其中？

好问题，因为我一直在思考这个问题。因为在某种程度上，显然，如果你是一位科技公司 CEO，你必须深入了解技术栈（tech stack）；你不可能在技术公司当 CEO，却对未来走向没有根本性的世界观。而且要在它成为普遍共识之前就做出判断，你必须对公司的发展方向做出裁决。这就是我们行业里一种相当二元化的转型。所以我认为，如果 CEO 不身先士卒、主动射门，明知道这些是相当残酷的转型，那就没有希望。

但说到现在，有趣的一点是，如果你不是科技公司的 CEO，你过去只需要是一位出色的 CEO，这意味着你要精通银行、医疗或其他什么行业，而且你总能找到优秀的合作伙伴和技术顾问。但现在我在改变先前的看法，对吧？因为我认为……因为我注意到了正在发生的事情，而我觉得业界其他公司和 CEO 群体还没有广泛地清醒认识到这一点。我对此感到困惑，因为他们仍然很乐意与一家科技公司发篇新闻稿，说“是的，我已经有了 AI 战略”，然后指向他们搭建的八个 agent 和某些成果。

但 AI 不再只是一种技术，它是公司的未来，对吧。这就好比说，“哦，我不了解我公司的人力资本”。所以我认为，在这一点上，你必须深入理解什么是你的 token capital。你能回答这个问题吗？当你能具体地说，哦，昨晚，或者基于我们所有运营中发生的全部工作，我们将其转化为了一套知识，而这在某种程度上现在已成为我的 token capital 的一部分。它可以是一些 context，可以是一些 skill，可以是模型中的一些 weights。

它不必是某一种特定的东西，但你需要能够清晰地将其具体识别为你所拥有、所控制、所创造的东西，并且你要建立一个系统让它实现 compound。所以我认为这可能是最艰难的转变。这种转变不同于……哦，这不像进入移动时代、PC 时代或云时代，在那些时代我只需要一个 IT 部门知道如何与一堆供应商打交道，做一些聪明的事来降低成本或提高效率。这次也应该从那里开始。

我不是说那不是起点，但问题是，当 AI 基本上掌握了关于你们行业所需的一切知识时，你们的行业结构会发生什么变化。如果你从这个角度入手，那么我想你就会开始明白，这不仅仅是技术，而是对公司的一场根本性变革。

其中一点，考虑到企业的本质，你在领导微软方面做得非常出色。在众多天才般的时刻和技能中，有一点是进行收购与建立合作伙伴关系。无论是 LinkedIn——显然是我们心头所好——GitHub、OpenAI 等等。我认为微软在全球领先的一部分体现在：如何在这些其他生态系统中建立信任，以及在 AI 世界中如何建立信任？这将极为重要，尤其是在公司自身也在发生变化的时候。那么你学到了哪些教训，你倡导做哪些事情来建立并维护这种信任？

是的，这非常关键，因为在某种程度上，我一直在思考什么是长期稳定的。对吧。即使从微软的角度看，长期稳定在于我们要成为一家工具和平台公司，我们的根本定义是由平台之上创造的价值量决定的，而这一价值量应远远超过平台本身所捕获的价值。对吧。这是实现稳定的唯一方式。如果你做到了这一点，你就拥有了信任。对吧。因为这样一来，客户和合作伙伴就知道这不是零和博弈，尤其不是那种博弈论意义上的零和博弈——那种“哦，我先补贴两三年，然后再吃掉你午餐”的把戏，而科技界的人非常擅长玩这种把戏。

所以我总觉得，嘿，这些统统不是正路。正确的思路是，你要非常有原则地认定自己是一家平台公司，你真正的生死存亡取决于你能否在平台之上创造成功。而当他们成功了，你也会成功。这就是为双方建立信任和长期稳定的等式。我认为在 AI 时代，这将是一切。对吧。

我觉得我会非常惊讶，Reid，如果一年之后你坐在这里，而世界还没有彻底转向思考：我的 AI supply chain 长什么样？它如何帮助我公司实现 AI 回报的 compound，并且我能明确指出这是我独有的价值价值。在我们知道这些 learning systems 本质上没有边界的世界里，它们必须有边界，而这主要出于市场结构、社会机制和其他机制的原因。

没错。我们聊了很多关于聊天机器人和代码的话题，这两个领域已经取得了惊人的爆发式进展。未来几年，LLMs 的下一个前沿领域有哪些？

说起来，其实我知道有一件事让你非常、非常兴奋，说实话，我也为你感到高兴，但这也促使你去审视自己的时间该如何分配，具体还是由你来说吧。不过，科学领域正在发生的事简直令人难以置信。事实上，你和 Sid、Manas 一起创办的公司就是一个很好的例子，要我说，这就像编码和知识工作领域已经发生的事一样，如今也开始在科学领域上演了。我甚至想说，我真希望这个顺序是反过来的。因为如果 AI 率先在科学上取得一些对社会大有裨益的发现，那么公众对 AI 的接受度会高得多，人们会真心认为这是一项非常有用的技术。所以 Reid，我真的为你正在做的事感到兴奋。显然你投入了大量时间，要不你聊聊这个？

Reid Hoffman是啊，过去这一个月我意识到的一件事是，我们在数学方面看到了巨大进展，实际上，我们在内部把某个成果称作化学领域的 move 37，因为我们看到了一些化学发现，有望真正攻克非常有趣的癌症和其他疾病。现在还处于极早期阶段，所以这些都需要时间，毕竟涉及所有的 IND，但关键是我们已经开始看到一些苗头。我们有一些世界上最顶尖的计算化学家，他们看了之后说：这非常有趣，我们以前从没见过，而且说不定能成，就是这类反馈。

于是 Sid、Ujjwal 和我讨论这件事，我说，听着，我认为我需要回到 founder mode 来推进这件事。我需要能够专注于此。然后本周你我谈话的一部分内容就是，好吧，在微软董事会已经十年了，这不仅因为 LinkedIn，显然还有 OpenAI、GitHub 以及许多其他事务，这都是巨大的荣幸和乐趣。但你知道，到今年年底，我现在真的应该过渡到 founder mode 了。所以，嗯，就是这样。而且你知道，我们永远都会一起合作。但现在是时候重新深入公司了。

Satya Nadella首先，能邀请你加入微软董事会、与你共事，显然包括通过 LinkedIn 以及所有合作项目的往来，这一直是我们的荣幸。微软董事会肯定会非常想念你，但我知道我们始终会保持紧密联系。我也为你感到高兴。当你说要回到 founder mode，这意味着我对你将要打造的东西更加好奇了，因为正如你准确地指出的，此时此刻，让这些技术的影响更广泛地惠及社会，正是当务之急。

Reid Hoffman是的，没错。我们回到 AI 带来的思维模式这个问题上，因为对此我有一个大致的看法：你拥有的是一种“异类智能”，一种被重度构建来模仿人类智能的 AI，这为我们创造了大量实用价值。但它的推理模式和我们并不相同。对吧。人们经常遇到这种情况，就会说，哦，这很可怕。而你会想，不，其实这正是你需要关注的，以确保存在对齐。但这也非常美妙，因为它能带来全新的东西。所以我们现在在做的化学研究就是这样。人类之前在 Manas 并没有发现这种化学路径，对吧。

那么关于这种推理模式，还有哪些思路能够放大人类的能力呢？

Satya Nadella这个问题很棒。你知道吗，我其实还没那么深入地思考过它如何提升我们的……我是说，如果你说我们人类会进行归纳和演绎，而现在与 AI 处于一种认知循环中，这就很迷人了，对吧？因为我的探索空间正在发生变化。就拿编程来说，我的同事向我介绍了一件最令我着迷的事：他在 GitHub Copilot 中写了一个新技能，叫做 cognitive coverage。这太有意思了。他所做的是，每当一个 agent 为我完成某些工作时，他说，就像我们以前有 test coverage 一样，我们现在有了一个叫 cognitive coverage 的新概念，也就是作为人类，我们要从 agent 的所作所为中学习。

于是它就会生成一个小测验。因为我确确实实认为，向它学习的过程就是在某种程度上培养我形成演绎理解的能力，去理解这个 agent 做了什么。对吧。所以正如你所说，这本质上是一种模仿。一方面它像是一种模仿游戏。但这种模仿游戏确实能创造出某种东西。然后，我能够演绎式地理解它，我认为这可能是人类最需要培养的重要技能之一。所以这个 cognitive coverage 的概念，我简直被它迷住了，对吧？

也就是说，我认为未来会出现这样的机制：agent 在运作，一方面它们必须对齐；但另一方面，新的关键在于我们要知道，哦，我们已经从认知上覆盖了 AI 所做的事。

Reid Hoffman是的，而且我认为这一点与你之前提到的 token capital 和 AI capital 是相交的：对于现代知识工作者来说，这套技能的一部分在于，我要如何战略性地使用 AI canvas orchestration，同时还要考虑资本配置的平衡。因为我们已经看到，人们可能会在无效的方式上疯狂消耗大量 token，就像回到五角大楼乱花钱的年代，花一百万美元买个马桶座圈。所以，要把你的思维、认知以及 token 管理结合起来。你怎么看这种将 cognitive coverage 与 token intelligence 相融合的技能？要如何才能放大最终的产出？

Satya Nadella这个问题问得很好。事实上，我一直在思考一件事：我认为人们必须深入研究的是，在所谓 token abundance 的时代，哪些东西会变得更有价值？其中之一就是你提到的，如何使用 token 会变得非常有价值。无论谁搞明白了，哦，我可以更高效地使用 token 来换取一个对世界重要的结果，谁就能领先。对吧。这是必然的。那么要如何培养这种直觉呢？对吧？也就是：那个结果是什么？我如何衡量它？评分标准 rubric 是什么？事实上，我认为这正是 evaluation 的关键所在，尤其是……

尤其在 RL 体系下，你需要投入多少时间，这一点再清楚不过：如果你真的想设置好 rubric 和 eval dimensions，或者 rubric-scoring dimensions，使它们真正捕捉到那种只有你能定义的高品味。因为如果你做到了这一点，你就能实现 token efficient。对吧。事实上，token efficiency 的另一面是，我们在 Build 大会上甚至展示过一些例子，比如说你是一家零售商或包装消费品公司，你要处理的一项事务是 trade promotions。对吧？现在你会收到来自各家零售商的大量索赔，然后你要处理这些单据，而目前是人类在做这些事。

你可以借助 agentic workflow 轻松实现自动化，然后你可能会说，我用了一个 frontier model 来做这件事。但我有一条准则是：不要把 frontier model 用在非 frontier 的问题上。对吧？所以这不是一个 frontier 问题。你不是在试图发现某种新材料科学。这是一个可重复的确定性流程，但人类可能犯的各种错误、误判等却可能渗透其中。因此，这确实需要智能，但你可以使用类似 MAI-5B 的模型，利用 traces 在 RLE 中进行 hill climb，从而取得甚至超越 frontier model 加提示词的表现。对我来说，这就是 token efficiency。

因此，这种对系统极限和系统特性的理解，我认为在这个阶段变得极其宝贵。

是的，我同意。另外我认为有一点很重要，需要让人们真正理解——你也知道，因为我们参与过很多这类对话——其他国家对 sovereign AI 存在很多担忧。我想在这里探讨一下可能会很有帮助，因为我们刚刚深入聊了公司以及主权的问题，比如公司的信息或员工。我们为公司所做的事，与国家应如何思考并参与构建对 AI 未来的信任，这两者之间有什么相似之处？

是的，我的意思是，这很有趣，因为我之所以真正转向关注公司，原因之一就是公司遍布世界各地。对吧？这是个好消息，因为从某种意义上说，即使国家抽象地思考主权问题，它们也可能犯下大错，最终侵蚀自己如今天然具备的比较优势，而这种优势正体现在国内通过公司组建和繁荣发展所进行的商业活动中。因此，保护这一点才是主权的最佳形式。有时候我觉得人们会想，要是有一道防火墙，或者所有数据都在本地，诸如此类就好了。你知道，我并不是说这些不需要考虑，但这甚至与那些都无关，对吧。

也就是说，关键在于确保你拥有经济，这意味着你需要有公司，意味着这些公司必须在 token economy 中蓬勃发展。这意味着它们需要能够积累 IP。因此，事实上，与外部公司建立合作伙伴关系以赋予你这种能力，我认为这比突然在某个 frontier 上落后更重要。对吧。所以我认为，这正是政策制定者也必须思考基础设施的地方之一。对吧。毕竟，token 的一端是电子，另一端是 token。所以你要成为成本最低、最环保地将这些电子转化为 token 的机器——也就是数据中心——的生产者。对吧。

所以我认为这一点对每个国家来说都应该高度优先。当然，国家也应该优先发展自己的半导体生产等等。对吧。这些都是非常合理的做法。但除此之外，我认为最重要的是采纳李嘉图一直以来的正确观点，那就是各国天生就有各自的比较优势，而现在它们需要利用 AI 来放大这种优势，也就是说，最理想的情况是，无论是小企业、大型跨国公司，还是公共部门，这个国家的效率都在提升，并且都在 frontier 上运作。对任何国家来说，最糟糕的就是以主权之名脱离 frontier，那就完全说不通了，因为你正在落后，你必须留在 frontier 上。

但与此同时，依赖单一的 frontier model 也同样没有道理，因为那样你就不是主权独立的。所以解决之道在于能够说：不，我们会利用模型，逐家企业、在整个经济层面做 hill climb。我认为这就是关键所在，也是应有的姿态。

另外，芯片其实也是个很好的话题，既涉及我们为公司在构建的 Maia 和 Cobalt，当然也涉及与 NVIDIA 和 AMD 的良好合作。那么首先，Microsoft 自研芯片的战略任务是什么？公司或国家又能从中借鉴什么？

是的，如果你仔细想想，这很有意思，对吧。甚至可以说，这是一个很好的观察角度，因为我想说，你看看 NVIDIA、AMD 或 Intel 所做的事情，它们打造的是通用技术，你懂的，就是那种。事实上，当我看到我们今天用 GPU 所做的事时，我们当然在用 GPU 做 model training 和 model inference，但我们也在加速其他工作负载。事实上，Build 大会上令人兴奋的发布之一，就是使用 NVIDIA GPU 来加速我们的 Microsoft Fabric 数据仓库。对吧。事实上，随着 agentic workloads 的发展，我们正在发生的一个变化是，我们对所有方面的性能都有更高需求。所以这很棒。这正是由于其通用性，对吧？

GPU 有，你知道，NVIDIA 有 CUDA。CUDA 可以作为一种编程模型运行在 GPU 之上，用于加速各种工作负载。事实上，我们正在使用 NVIDIA 的旧芯片来进行加速，这在经济上也是可行的，我们很聪明地采用了整个机群，并在其生命周期内持续使用，我们不仅把它用于某些尖端 AI，还用它让旧的工作负载获得更好的性能。这对 NVIDIA 很好，对我们也很好。但这也说明了新工作负载方面发生的变化。AI 的新工作负载正是这些 data-parallel synchronous workloads，training、inference，以及这些新的 agent runtime workloads，它们具有非常不同的调用模式，非常不同，而且高度持续。

这在三年前还不存在任何规模，而现在它们已经大规模存在。因此，我们有必要开始思考，甚至在我们触及半导体之前就要考虑：我在建造数据中心，我的土木工程受到影响，我的冷却系统、机械系统都受到影响。事实上，直流到交流的转换——我们正试图确保电力以千瓦为单位输入，对吧？数百千瓦直达芯片而没有任何损耗，对吧。所以我们甚至试图最小化数据中心内的电力分配，以便为这些工作负载进行最大程度的优化，因为它们的规模太大了。而这正是我们在用 Maia 做的事情。对吧？

例如，Maia 正在与我们的 MAI 模型以及 OpenAI 的模型协同设计，以从它们身上榨取最佳性能。我们正在设计 Cobalt，这是我们的 Arm-based 计算核心，而且我们设计它时，例如，利用了 GitHub 上所有的 agentic traces。对吧。编码。你知道，编码 agent 的调用模式与人类应用，甚至是异步的人类应用，都很不一样。因此，我们正在对其进行优化，并获得了巨大的延迟改善、性能提升等等。所以，我们将成为一家系统公司，持续为我们涌现的大规模新工作负载进行优化，同时利用合作伙伴的通用技术来最大化这些技术的效用。顺便说一句，我认为这种灵活性才是真正好的地方。

而我认为你的问题问得非常好，国家也应该这样想，对吧？就是说，如果你真的认为，哦，有一个东西能回答所有问题，对吧？如果我说，一切都是 Maia，一切都是 Cobalt，这对 Microsoft 来说可能并不是正确的选择。但与此同时，如果我们说，我们对外部的创新持开放态度，我们会在内部创新，事实上我们会把所有东西拿来 benchmark，我们会基于原则来做，最终是为了更好的经济性。

是的，因为打造能够创造人类繁荣的高效资本 token 工厂，并赋能众多企业做到这一点，才是目标。所以这是不同的线索。从与你的多次交谈中我了解到，你对现代儿童这一话题思虑颇深。显然，我们正在打造用于家教、同事协作等场景的产品。而我们整个行业共同探索的问题之一是：我们应该做些什么，才能既帮助儿童以正确的方式成长，又保障他们的安全。Microsoft 正在考虑哪些原则？你个人又在思考哪些方式，以便通过关爱儿童这一代，来对人类的下一代尽到责任？

是啊，这是个好问题。在儿童安全方面，我们显然有许多重要的事情必须去做。因此，当任何数字技术问世时，我认为我们现在都必须将儿童安全视为头等大事，对吧。AI 安全议题涉及网络或生物武器对齐等问题，但儿童安全同样是一等一的大事。所以我认为，有一件事我们必须确保：当前这类——我们不妨称之为 chatbot——与儿童对话时所面临的某些挑战，是我们需要高度警惕的，并且必须确保儿童拥有必要的能动性，能够按照他们自己的意愿与之互动，而不是被说服，举例来说。对吧。这些都是非常重要的。

但你提到的另一点，我认为也极其关键，那就是在这样一个 token 极度充裕的世界里，做一个孩子到底意味着什么。我认为这才是问题所在，对吧？学习应当如何进行？我们应该如何激励儿童？他们又该具备怎样的能力，才能进入一套全新的教学体系？因为我觉得，即便是传统方式，比如说我成长过程中对学习的那种焦虑，说到底其实是机会稀缺、优质学习资源稀缺等因素造成的产物，而这些情况在未来未必还会存在。

因此，我认为首要任务之一是创造一种学习环境，让学生——尤其是儿童——从最早的年龄段起，就不会对数学、科学或其他什么学科产生恐惧，事实上每个人生来都充满好奇。只是与世界的接触侵蚀了儿童与生俱来的好奇心和自信心。我们如何进一步培育它？通过赋予他们探索的能力，让他们知道无需焦虑。毕竟，专业知识将永远充沛。真正稀缺的是你的认知对这些专业知识的覆盖度，对吧。如果我五岁时就有人对我这么说，我想我对待人生的方式可能会非常不同。

那么，我们作为一个社会，要如何为这一点创造必要的条件？我认为这大概会非常重要。

而且我认为，这也是我从与你的深入交流中深切感受到的一点：这是我们科技行业的责任之一，对吧？这就像是……不，不，我们不能推卸。鉴于 AI 技术已无处不在，我们必须对下一代负责。

没错，我们从一开始就在思考意外后果，并切实建立安全护栏等等；然后，新技术的巨大优势必须被民主化；再然后，我认为需要进行结构性变革，对吧？你不能说教育保持原样不变，我们仍然看重同样的文凭。我不这么认为。不，我不这么认为。总得有所改变。

还有一个我们还没机会聊到的话题——在这个语境下非常自然——就是教皇利奥的通谕，我认为这实际上是教会方面领导力的一次非凡展现。我是说，教皇方济各大概在十到十一年前就找我帮忙，一起探讨 AI。对吧。所以教会在这方面一直惊人地积极主动。而通谕中有一点我毫不意外，就是它的人文主义精神，对吧？因为人们以为，哦，这是关于宗教的，是关于如何祈祷的。但实际上，至少就我所接触到的教会层面而言，他们一直是人文主义者。对吧。你对此有什么思考？

关于教皇的通谕？看到教皇发声，而且据我了解，这在历史上是有先例的。对吧。我相信工业革命时期的教皇也曾就劳动状况、应当怎么做等问题发表过看法。因此，教皇站出来捍卫我们所有人都深切关心的事物——即在 AI 时代的人类尊严与人类能动性——我认为这非常重要。我很高兴他倡导了他认为重要的东西。而对我来讲，另一面是社会应当是什么样子？

如果让我看看，至少就描述而言，当我思考技术进步被用以创造巨大繁荣的最伟大方式时，西方的故事是相当不可思议的，对吧？事实上有一本很精彩的著作，是 Joel Mokyr 和其他几位作者合写的，我想书名是《Two Paths to Prosperity》，它本质上描述了东西方长达千年的历史。你知道，我这里是在转述，但根本上说，西方围绕如何利用科学革命、工业革命所形成的一些文化与社会建构，全都需要社会组织方式发生真正的变革，才能从根本上利用这种新的、非常巨大的力量，对吧。而这事实上定义了现代世界。

因此，我觉得我们现在需要的，之一就是让道德哲学等领域也能类似地汇聚起来。我认为教皇基本上是在说，这应当成为指引我们前行的道德哲学。你再把它与市场是什么、民主是什么，以及科学技术革命是什么结合起来。所以，如果我们能以某种方式进入一个良性循环，让道德与科学突破、政治体系与市场相互强化，那么我们将拥有丰裕，众多利益相关者都将受益。而如果我们做不到，我们就会失去社会许可。对吧。

所以我只是认为，把西方的成功狭隘地理解为仅仅是技术突破，我觉得这种说法并不成立。对吧。那是无数种力量在良性循环中不可思议地汇聚。它也有非常糟糕的部分。对吧，我们知道这一点。所以你必须避免那样。对吧。而我认为，这也是教皇本人在通谕中写到的一些内容，我觉得很棒，那就是甚至要去思考：哪些是不好的部分？我们如何不重复它？如何倡导这种正向循环，我认为被出色地呈现了出来。

而且我认为很棒的一点是，它聚焦于如何让全人类保持中心地位、如何提升人的尊严、如何不仅满足富裕国家的需求，也满足整个世界的需求，我认为这是一座伟大的灯塔，指引我们应该如何思考这一切。

Satya我确实对此有过深入思考。例如，从某种意义上说，我一直深切关注全球南方终于迎来能够实现真正追赶增长的时刻。因此我认为，在 AI 时代，现在存在一种真正的风险，即这种趋同增长甚至会放缓，事实上还会走向反面。那么，全球层面的结构性安排又该是什么？顺便说一句，坐在美国帕洛阿尔托的某个人可能会觉得这跟自己没关系，但根本没有这回事。我们共享这个星球，我们的命运远比我们以为的更加紧密相连，哪怕我们对远方正在发生的事浑然不觉。

Reid好的，在进入快问快答之前，最后一个问题。正如你我所知，在美国和欧洲，现在出现了很多对 AI 的反对声浪。你也知道，我一直在尝试通过《Superagency》这样的书来回应这种观点——我想说，不，这是一个获得能动性的机会。转型会很困难，但你终究必须接受这种能动性和变革。而如果你经过深思熟虑、主动投身其中，它会带来巨大助益。你认为我们应该如何帮助美国和西方的人们理解，为什么拥抱 AI 实际上更加重要？

当然，这并不意味着反对声浪中没有真实的问题——显然，工作转型等都会是实实在在的问题。但我们该如何帮助人们看到，这也可能成为他们未来的重要组成部分？

Satya是的，Reid，至少现在我的结论是，我们需要有真实、有形、务实且易于理解的成果，让它们自己说话。因为我认为已经发生的事情是——坦率地说，这也是我们这个行业存在的问题——我们谈论它的方式。我是说，当你走出去说，嘿，所有知识工作者的经济机会都将消失，或者说白领工作没了，然后你又说，我对构建这项技术感到兴奋。那么，谁会希望你成功呢？我是说，我不想让你成功。这在社会层面上根本说不通。

所以我现在觉得，当你在大学毕业典礼上说 AI 意味着我们已经跨越了某个门槛，结果被人嘘，人们不相信我们，而且他们这样做是对的。因此，我认为我们现在该做什么？是时候去做艰难的工作了。艰难的工作是，如果你在建设一个数据中心，那就确保那个社区相信这个数据中心对他们大有裨益。它关乎他们的税基、社区事业、房地产价值、学校、水资源使用，还有电价。这不能又是那种，哦，我说了什么就算了。不，必须是实实在在的。这大概就是我们获取社会许可的方式。就业方面我也是同样的看法。

我们甚至不能抽象地说，嘿，lump-of-labor fallacy 嘛，永远如此，总会有新工作。那么新工作是什么？这些新工作的工资是多少？我现在可以去申请、去培训自己的是什么？我该如何真正创办一家新公司之类的问题。我认为，除非我们把这一点真正讲清楚——或者第三点，我们之前深入讨论过的，每家企业都需要参与前沿生态系统。而不是说，哦，我只是某个 foundation model 的数据供给方。那简直就是在说主权和尊严同时丧失了。对国家、社区和企业来说都是如此。所以我认为现在我们必须彻底表明：好的，这是 positive-sum。

这些确实是这项技术带来的一些挑战。我们会真正积极地去解决。我们可以阐明实实在在的好处。而这一点，同样地，你将在 Manas 所做的工作，以及其他人将要做的，都会非常有帮助，因为世界需要更多证据，证明这项技术最终是在广泛而非狭隘地改善我们社会中的人类境况。

Reid是啊，没错，AI for humanity。所以你不必急着回答。但我们对所有嘉宾都会问同样的问题。第一个问题是，有没有一部电影、一首歌或一本书，让你对未来充满乐观？

Satya是这本《Two Paths to Prosperity》。我喜欢它的原因在于，它为下一个千年发出了有力的行动号召。通往繁荣的路径是什么？过去这一千年里，至少有一部分世界做对了，那曾是一个蓝图。那么现在，我们能否作为整个星球，在下一个千年把它做对？我认为这正是我们必须完成的一些最优秀的工作所在。

Reid同意。你希望人们更常问你什么问题？

Satya这是个好问题。我希望人们问我，我对什么不感兴趣？因为我对很多事情都感兴趣，但有些事我并不感兴趣，例如，我们因为说了所有错误的话、甚至做了错误的事，而失去了在 AI 领域的社会许可，并且对于如何真正构建一个 positive-sum 的架构还没有完整的思考。

Reid是的，完全同意。那么，在你所在的行业之外，你在哪里看到了进步或势头？考虑到 Microsoft 支撑了世界上许多行业，你知道，可能是机器人、AI 等等，但你在哪里看到了令你鼓舞的进步？

Satya我是说，在某种程度上，我认为是生物领域的工作。细想起来，我们必须更好理解的复杂系统之一就是人类生物学。所以，任何能够帮助人类照顾人类的工具，可能都将带来……这令人敬畏。我最近接触到一件事，是关于免疫疗法的。我相信有一种测试，基本上是一种复杂且昂贵的测试，用来判断某种免疫疗法是否对特定肿瘤有效。

于是 Providence、UW 的一些研究人员和 Microsoft Research 联合开发了名为 GigaTIME 的东西，这是一个很酷的模型，基本上是对那种测试的模拟，降低了成本——过去只有某些机构才能做，需要花费大量时间和金钱。现在任何城市的任何三级医院都能做了。我认为这种医学和医疗实践在经济上的可及性，简直就是突破。

Reid那么最后一个问题。你能否给我们留下一个最后的想法：如果未来 15 年一切都有利于人类，你认为可能实现什么？以及我们的第一步是什么？

Satya我认为如果一切都有利于我们，我总会回到这个问题：世界 GDP 以 10% 的速度复利增长，这个梦想是什么？这是可能发生的。我的意思是，一个思想实验是，如果工业革命同时抵达世界的每个角落，每个国家都能充分发挥其比较优势。这就是一种极致的 positive-sum 架构。我们能做到吗？因为我们多少被困在一种观念里，会说，嘿，世界可不是这样运转的。历史关乎主导权和支配性力量。我并不是说我们要违抗这一切。

但底线是，既然你让我做梦，那我就梦想一下：如果人类能够超越有限理性，不再只是说，哦，历史会重演，我们永远好不到哪里去，只能打仗之类，而是说，不，不，不，也许我们可以改变轨迹。那么第一步就是接受那种可能性存在。我认为这才能让我们走下去。否则我们又会回到反复争辩的状态：哦，让我看看历史，然后试着去模仿。

Reid美丽的梦想。Satya，总是很愉快，下周董事会见。

Satya非常感谢，Reid。非常感谢。这太棒了。这次对话非常有趣。

Possible 由 Palette Media 制作。节目由 Aria Finger 和我 Reid Hoffman 共同主持。我们的执行制片人是 Shaun Young。Possible 的制作团队包括 Thanasi Dilos、Katie Sanders、Spencer Strasmore、Yimu Xiu、Aman Suri、Lexxi Kiven、Danny Garrison、Trent Barboza 和 Tafadzwa Nemarundwe。

特别感谢 Surya Yalamanchili、Saida Sapieva、Ian Alas、Greg Beato、Parth Patil、Ben Relles、Caitlin McCabe、Karen Ngo、Cynthia Thomsen，以及 Greylock Partners 的团队。