你知道，关于人类有什么特别之处，以及机器的哪些能力是可复制的——至少在近期内——我的观点是，AI 会非常擅长两类事情：一类是在数据中得到高度体现的，另一类是你能为其构建非常好的 RL 环境的。那么，你能为哪些领域构建出色的 RL 环境呢？显然，比如 AlphaZero 的游戏，对吧？游戏向来以能够进行自我对弈、并随时间不断发展的算法而闻名。现在有了推理模型，数学也是一个环境，尤其是借助 Lean，它几乎就像一种可执行的数学表达式，这是一个很棒的 RL 环境。代码执行也是如此——运行代码，然后在此基础上做强化学习，还有 GitHub 上已经存在的东西等等。但在很多其他领域，我们实际上仍不清楚该如何让 AI 变得更好。比如全新的根本性创意、新知识。我们尚不完全清楚该如何实现这些。你能用 RL 来做这些更偏软件层面的事情吗？也许你可以构建一个 world model，去近似模拟这些事情。但我感觉，那种创意、那种创造力，以及提出真正新奇事物的感觉，还有以一种非常复杂、难以处理的方式理解世界，进而提出一个可能从根本上改变事物运作方式或改变世界的想法——我认为这些仍将属于人类的领域。
你好，欢迎收听 Training Data。我是 David Khan，今天这期节目的客座主持人，将采访 Replet 创始人兼 CEO Amrad Masad。Amrad 对未来的愿景是：互联网上有十亿人成为开发者。在今天的节目中，我们将畅想这十亿开发者将如何重塑经济、社会、文化等等。很多人把 AGI 描绘成一个乌托邦式的未来愿景：人们不再工作，还有全民基本收入。但如果未来有另一种愿景呢？如果人们在工作，他们以开发者的身份工作，并彻底改变那些我们从未想过可以革命化的经济领域呢？比如医疗、教育、工业等等。这就是今天节目的主题。敬请收听。我是 Jad。欢迎，感谢你来做客这档播客。谢谢，我的荣幸。你我相识大概有五年了，四年前我有机会在 CO2 投资你。所以我得以见证你这段旅程。从我认识你的第一天起——甚至在我认识你之前的十年里——你一直在讲这个“十亿开发者上网”的想法，这是一个大胆的构想。随着 AI 时代的到来，它似乎获得了更多共识。能不能给我们讲讲这个想法？你最初产生这种直觉是什么时候，这段历程又是如何演变的？在聊这个之前，我其实记得我们第一次见面。那是在我们的 Bryant 办公室，其实也有点像家，一个 loft。我们坐在楼下的地下室里，所以我们在旧金山这个很小的地方既工作又生活。关于十亿开发者，这么说吧，我从小就早早开始编程。我第一次接触电脑是在六岁的时候。到了七岁，我就试着用它做东西了。我写的第一个程序是给我弟弟学数学用的，我做得太好，以至于他今天都在 Replet 工作。所以，我一直觉得在电脑上制作软件是件很自然的事，而我其实很惊讶这居然是专家的领域，而不是人人都能做的事。后来我思考为什么会这样，感觉就是很多工具太复杂了。实际上它们还在变得越来越复杂。回想我十几岁创业的时候，用的是 Visual Basic，我可以做一款应用，连上数据库，把所有东西打包成一个 EXE 去卖。然后 Web 出现了，感觉就复杂多了。它更强大了，可以通过互联网交付东西。但复杂性并没有停止。比如你今天做一个 JavaScript 应用，有很多事情要做。你可能得花几个小时，如果你是新手，可能得花几天来搭建开发环境，学习各种晦涩的东西，比如什么是 webpack，什么是转译编译之类的。我感觉这比我刚开始时还要糟糕。我觉得这并没有什么内在原因。也许是一些社会现象让编程变得复杂了很多，其中之一就是开源的去中心化特性。开源接管后，不再是微软的产品经理来设计编程应该是什么样子。但即使如此，我觉得你可以让开源生态系统成为一台去中心化的创新机器，同时你可以在此基础上，通过整合最好的开源项目，创造出绝佳的体验。在开源黑客的古老话语中，有大教堂和集市之分。集市的概念就是这种复杂的混乱状态，开源软件就生活在这里。而大教堂则像苹果或微软那样，自上而下地设计。但我觉得，这是一种错误的二元对立。我们可以从集市中建造大教堂，对吧？这其实就是 Replet 的核心驱动力。我觉得，如果你能通过消除这种复杂性让编程变得更平易近人，就会有更多人愿意使用它，而计算的本质也会改变，因为开发者和应用用户之间不再有巨大的鸿沟——这才是计算最初的愿景。这就是背后的驱动力。而且，成为程序员带来的机会也是惊人的。我相信我们之后会聊到我的故事，但我小时候就能赚很多钱，能拿到 O-1 签证来到美国，我觉得这样的机会本可以对更多人开放的。也许先带我们展望一下未来，比如十年后，或者你告诉我还要多少年，当十亿开发者出现时，世界会是什么样子？经济会是什么样子？我觉得你对软件的构建方式、企业的创建方式都有着丰富的想象。对我来说，这在某种程度上是一种对未来的乌托邦式愿景。跟我们讲讲那会是什么样子吧。是的，我尽量不想太过乌托邦。但关于这一点有几件事。首先，如果基本上任何人都能编程，大多数知识工作者都希望开发或制作应用，或者利用软件和 AI 来解决问题，那么“公司”的本质就会发生变化。因为如果你看看今天的公司，我们有各种角色，有各种部门孤岛，而公司的组织结构基本上是源于工业革命的工厂流水线模式。其实，如果你观察当今的社会，很多东西自工业革命以来就没有真正更新过。那个时代的主要创新，或者说工作方式上的创新，就是流水线。核心思路是，你只做这一件事，然后把你正在制作的东西传给下一个人，最终在工厂链条的末端会有一辆汽车、一个玩具或别的什么。社会在很大程度上就是围绕这个设计的，这基本上是我们拥有的主要设计原则。所以你看学校，比如你从幼儿园开始，然后上一年级、二年级，所有东西都是那样设置的。即使在公司里也是如此：产品经理写一份 PRD，然后交给设计师，再交给工程师，然后交给发布工程师，产品发布后再交给市场营销人员、UX 研究员，所以永远是这种部门墙和流水线模式。如果有能够做出越来越复杂的东西、并真正能利用计算来解决问题的通才，我认为组织里将会出现能够全面解决问题的人。所以，如果你是销售人员，你有一个能带动更多销售的想法，你可以快速启动一个类似 SDR agent 的东西，专门做基于你那个想法的特定事情。不存在这种隔阂——你不需要说：“哦，我得去找老板，想办法招个人来做 SDR。” 你其实可以直接启动一个 agent，让它做你正好想做的事。也许你在跟客户打电话，客户问怎么用你们的产品、API 或 SDK 来实现某个 XYZ 功能。按传统做法，你得回去找工程团队，问他们怎么做，还得层层沟通。但在这个世界里，你可以快速启动一个像 Replit agent 这样的东西，说：行，帮我把这个原型做出来，实时展示给客户看。顺便说一下，我讲的这些全都是来自我们客户的真实故事。所以，你可以把公司想象成一群通才型问题解决者。你在初创公司里能看到这种模式，对吧？我们在初创公司里能看到，但我认为这将成为大规模下的常态。另一件事是，我认为我们构建软件的方式也会改变。如果你想想我们怎么构建软件，同样，当你看一家公司内部时，你会看到这种类似工厂流水线的模式；但当你放眼整个经济时，你也会看到不同公司之间同样的割裂，以及产品是如何被制造出来的。比如供应链，对吧？在软件领域，我们也存在某种供应链：有一家数据库公司，有一家基础设施托管公司，还有一家前端公司，由它们来实际交付产品和服务。我认为，从工业时代进入网络时代，我们构建事物的方式会变得更像一张网络。所以，你可以想象这样的软件构建方式：如果我们有像 crypto、bitcoin、stable coin 这样的东西，让人们无需认识彼此、信任彼此就能进行交易。你可以想象，我坐在软件 agent 面前，说：好吧，我需要创建这个产品。然后 agent 会说：哦，那我去这个区域拿数据库，从那个区域拿能发 SMS 或邮件的组件，顺便说一下，它们要花这么多钱。而作为 agent，它们其实有钱包，我可以付钱给它们。当我发布软件时，我的软件会被货币化，每当有收入进来，它就会在整个网络中流动分配。所以，存在这种环绕式的服务，我的软件 agent 能够组合它们，而不一定需要任何集中式的系统。所有这些服务都由黑客和在网上赚钱的人运营。所以，我认为，当每个人都能成为通才型的软件和 AI agent 创造者时，软件本身的性质、公司的性质，乃至经济的性质都会改变。是的。也许把最后关于经济的这一点推到极致：在人人都是开发者的世界里，宏观经济学本身都会改变。你有这么多故事。你们的很多用户在国外，在其他国家。你们现在有多少个国家有用户？每个国家都有。中国比较难，但我们那里也有一些用户，基本上其他国家都有。那么你怎么看全球经济的变化？它如何改变当今经济的运作方式？你所赋能的这些人，会如何改变这些经济体？我认为有一点非常具体。我想 Peter 谈过互联网的悖论：互联网本应是伟大的均衡器，却把财富都集中到了硅谷和这一个地方。为什么会这样？这种纯粹虚拟的东西本来可以，也许也应该更加去中心化。关于网络效应之类的，你可以说出很多道理。但归根结底，我认为问题的一部分在于：是的，我们认为这项技术是人人可及的，但它并没有我们想象的那么可及。比如，印度有个大学生，住在某个农村地区，他在学校学计算机科学，但没有电脑或笔记本。他家里只有一部 Android 手机。他会去 Replit，开始用手机编程、学写代码，因为我们有移动应用。然后他开始在我们的 bounties 平台上接任务。Bounties 是我们平台上的人们向其他人提供服务的能力。背后的思路是：有很多人有时间，也有很多人有钱但没时间。所以有时间的人和有钱的人之间，这是一种显而易见的交易。很多人来我们平台学编程，他们想赚钱。所以我们想为他们提供机会。于是我们有个美国的创业者，他其实是做技术招聘的，正在开发一个招聘应用，但遇到了问题。他能够在我们的 bounties 平台上雇佣这个孩子，让这个孩子帮他解决一些问题，而这个创业者也因此能把自己的应用发布出去。那个孩子赚的钱比他全家一整年的收入还多。所以是的，机会将会分散开来。显然，这更多是提供劳务服务，但你可以想象，它其实可以创建一家公司，创建某种可规模化的东西。通过这种方式，也许我们称之为互联网的这个巨大造富机器，将能被世界上更多人接触到。是啊，这太了不起了。想到你的愿景，我认为它本质上是一种赋能的经济愿景。它是关于财富的愿景，关于繁荣的愿景，关于给予机会的愿景。我们会聊聊你的故事，但主要是给像你小时候那样的人机会。我很好奇想问你，你认为宏观层面会怎样？因为你更偏向金融思维。你觉得我们刚才谈的一切在宏观上意味着什么？我认为，如果我们朝着拥有十亿开发者的方向走下去，问题就在于：当今经济中有哪些行业尚未被科技化？可以这么说，它们终将被科技化。你想想看医疗、教育，这些在 GDP 中占比巨大的行业，从根本上说还没有被硅谷以及硅谷的技术所触及。而我想到的是，这些行业的准入门槛历来很高。因此，要为这些行业做点什么，你得去向他们推销，这很难、很棘手。那准入门槛最低的是什么呢？消费端。你我可以直接在手机上下载 Facebook。还有电子商务——我们想买东西，而让人买东西赚钱是相对容易的。所以，社交和电商可以说是经济科技化进程中最早启动的引擎。这时你再想想，软件工程师的薪资水平其实反映了他们的价值所在。所以工资一直在涨，这挺让人意外的。你可能会以为，随着市场上软件工程师供给的增加，薪资会下降。但这恰恰说明，软件工程师所驱动的价值实际上高于他们的薪资。所以我觉得，像 Replit 这样的公司，随着下一波开发者的到来，他们将创造巨大的价值，带来惊人的繁荣。让我感到兴奋的是，我们可以在经济的哪些领域创造价值，让印度那个使用 Replit 的孩子能够从中获取一部分价值、为家庭创造富足生活，同时也能让处于这种体验另一端的消费者——无论是医疗体验、政府办事体验还是别的什么——也能获得价值。我们已经看到了这种价值创造，但目前 GitHub 上大概有一亿注册用户，未来会达到十亿，所以你们会有这种惊人的增长。我觉得还有很多空间。另外，这也有一种文化上的影响，对吧？硅谷尽管对世界有着全球视野，而且因为有这么多移民，我们确实能与很多人产生共鸣，但这也是有限度的。我记得在 Facebook 工作的时候，我们在重新设计桌面端的照片体验，设计了一种很棒的垂直滚动体验，所有内容都是滚动的——那是在 iPhone 问世之后。大家都很兴奋，然后我们做了 A/B 测试，所有指标都暴跌。我心想这是怎么回事？难道我们做了个很烂、根本行不通的产品？然后 UX 研究员做了些测试，没有反馈说产品不好用，大家对产品都很满意。后来有一位产品经理仔细深挖了指标，发现大多数——你知道，绝大多数 Facebook 桌面端用户用的是上网本，或者那种屏幕比较宽、垂直空间不大的笔记本。这让我很震惊，因为硅谷人人都用着很棒的 MacBook。所以，我们能产生共鸣的程度是有限的，而且我认为我们打造的产品往往不太适合这些文化，导致世界被一种方式“压平”了。而当你把创新去中心化时，我觉得人们就能创造出更本地化的应用，真正造福他们的社区，而今天这方面还很欠缺。是的。你们的产品架构就是这样做的。也许你可以——我觉得这是 Replit 的一个秘密，大家还没完全理解——就是你怎么做出一款在移动端也好用的编程产品，对吧？人们想到这个领域就知道，背后有很多艰辛的工作。你怎么让它在所有这些设备上运行？能跟我们讲讲你们是怎么做到的吗？好的。一开始，我们公司最初脱胎于一个开源项目，它的主要突破在于，我是第一批将多种编程语言编译成 JavaScript 并在浏览器中运行的人。所以这项技术后来演变成了 WASM。你知道，我算是从一开始就赶上了。它当时是 Mozilla 的一个研究项目，叫 Emscripten。我和朋友用这项技术把 C 和 Python 编译成了 JavaScript，我们还为此贡献了很多。我们不得不在浏览器里做一个 Unix 模拟层，那是一个非常复杂的项目。但它激发了人们的想象。我们把它发到了 Hacker News 上，超级火爆，人们非常兴奋。我记得当时的一个高光时刻是 JavaScript 的发明者 Brendan Eich 发了推文。我心想，哇，我们就是约旦的小孩在做这个东西，结果很多很重要的人都很兴奋。当时我觉得那简直就是最棒的事了。但问题是，当我想在手机上加载它时，手机会崩溃，尤其是低端安卓手机。我当时甚至还想让它在诺基亚的 Symbian 手机上运行，因为我们要下载几十兆的 JavaScript。所以对很多人来说它能运行，人们很兴奋，但客户端执行的问题在于，很多人的机器性能其实并不好。所以后来——我跳到后面一点——我去 Codecademy 工作时，我们仍然希望世界上越来越多的人学习编程，然后我们开始有来自非洲和其他地方的用户，他们的电脑根本承受不了下载几十兆 JavaScript。于是我开始搭建后端执行环境，这样你在手机上用的其实是一个瘦客户端，你敲的任何代码都会传到服务器上执行，再返回给客户端。然后你还需要把 JavaScript 应用极度优化，让它体积非常小，做增量加载。现在用 React 做这些都很简单，但在 2011 年，这其实挺难的。我们不得不发明很多 Web 技术来让它跑起来。而且直到今天，如果你去应用商店下载 Replit 的 App，它其实是最小的应用之一，不到 100 兆，而大多数应用都在 1G 左右。嗯，你觉得为什么会这样？IDE 市场大概是最后一批迁移到云端的。而且如果你今天和很多硅谷开发者聊，他们还是想要本地的东西，放在自己的笔记本上。你知道，你没法逼我在云端运行这东西。而我们用过的其他所有软件，人们最终都妥协了——像是 Google Sheets、Figma，以及所有这些出色的 cloud-native 公司。你为什么认为开发者基本上是最后一批迁移到云端的市场？有句话怎么说来着，就像鞋匠自己光着脚走路一样？至少阿拉伯语里有句谚语，说的是为别人做东西的人往往满足不了自己的需求。我觉得有一部分是这个原因。而且我觉得这里面有某种文化因素。我实在说不出有什么真正的技术问题是无法解决或无法缓解的，从而阻止人们在云端编程。我觉得很大程度上是文化问题。有一种对自己机器上东西的掌控感。而且你知道，编程界有个老笑话，说编程领域的进步是一代一代发生的。所以需要老一代人逐渐退休。因此对新一代人来说——顺便一提，所有在 Codecademy 之类平台学编程的人——我觉得他们现在进入市场，对在云端产品上编程完全没有问题。我很喜欢这个观点。另一个问题，回到公司创立之初。你当初创办公司时，是否预见到我们会有 LLM、Sonnet，以及所有这些出色的模型，并最终改变编程？这个嘛，当我在 Codecademy 工作时，后来去了 Facebook，在此之前还做过开源的 Replit，我当时在做的事情就是跟代码打交道。我在写编译器、transpilers、解析器，这些东西非常琐碎，也非常复杂。而且感觉就是，这种苦差事机器应该更擅长。就像是，解析这个字符，把它放进节点，然后试图理解程序的结构。我在 2012 年读到了一篇论文，我觉得那是一篇被低估的论文，应该成为传奇级别的，也许不一定完全同级，但应该和《Attention Is All You Need》差不多。它叫《On the Naturalness of Software》，这个团队提出的论点是 NLP 可以应用于代码，他们从统计学角度论证代码在统计意义上很像自然语言，二者之间并没有太大差别。于是他们构建了一个 n-gram 模型，并用它来做代码补全。顺便说一下，n-gram 模型是可以扩展的。n-gram 模型是最早的语言模型，而且众所周知 Google 做过一个万亿参数的 n-gram 模型，在翻译一些非常非常简单的东西时表现还相当不错，它试图基于频率预测下一个字符。于是他们构建了那个模型，表现不错，虽然还不如 IDE 补全，但他们随后用静态方法——比如 IDE 补全——对语言模型生成的补全结果进行排序，最终效果更优，程序员也评价它更好。而且它实际完成的补全数量超过了静态方法单独使用，或经典的算法方法。所以在那一刻，感觉就像是，好吧，这就是未来。深度学习之类的东西开始崭露头角，神经网络也是，如果连这么简单的东西都能取得这样的成果，肯定会有更好的东西出现。于是我们试着做类似的东西，但当时效果不太好。实际上，当我去做路演时，我觉得那份 deck 还在网上，其中有一页我试着做了那种 Elon Musk 式的 master plan——现在人人都这么做——但基本上就像 Elon Musk 那个非常棒的 master plan：我们要先造 Roadster，它会很贵，然后用这笔钱资助下一代产品，形成规模经济，依此类推，而他们确实做到了。基本上就是：我们要为爱好者、学习者和教师创建这个网站，通过这种方式成长，这样就能获得大量关于人们如何使用和学习编程的数据，然后训练机器学习模型，最终成为一个 AI 驱动的工具。这个工具将比传统软件工具更强大，因此能让人们来到平台、学习编程、制作东西并部署它们。那是在 2015 年左右。于是每年我都会尝试用机器学习做点什么。第一次看到有眉目是在 GPT-2 的时候。当时有很多实验。你知道，GPT 早期社区很多人都有这种感觉：这能成，因为你看到了 GPT-1、GPT-2，它在扩展。就连 GPT-2 都有两组权重，其中一组参数量更大，你能看出 scaling 是有效的。所以 GPT-3 出现时太惊人了，对我们很多人来说是一个开创性的事件，那就是 ChatGPT 时刻。因为 ChatGPT 本身并不是（模型上的突破），它更像是一个 UI 创新，可能加上一些 fine-tuning。但很明显，它来了，浪潮将至，我开始调整公司方向以抓住这个机会。能跟我们聊聊 Replit Agent 吗？我的意思是，那感觉像是这家公司的一个变革性时刻，整个公司——你们有数百万用户，有社区——几乎就像是为了这一刻而建立的。跟我们聊聊 Replit Agent 吧。是啊，我们每年都在推进。我们实现了类似 Copilot 的功能。我们实际上是除了 Microsoft 和 OpenAI 之外，第一家训练代码模型的创业公司，而且我们曾短暂开源过它们，有 SOTA 模型，有 30 亿参数的模型，那真的很令人兴奋。但我一直认为具有变革性的将是 agent。实际上，我在 2022 年发过一个帖子，当时火了，讲的是软件 agent 将如何改变编程，甚至可能改变经济。于是每年我们都在尝试。我记得我们用 GPT-3 试过。当时我们不得不在 context window 上做的工作太疯狂了。每次我们生成一个类或函数之类的，都得把它总结成一句话，再塞回 context 里，这样才能继续迭代。所以那没成功。2023 年，AutoGPT 之类的东西出来了，你能感觉到模型在保持连贯性方面稍微持久了一点，但效果还是不太好。2023 年 10 月，我做了一个 TED 演讲，谈到未来人们会如何制作软件，其中讲到了 agent。我也某种程度上预测了 test-time scaling，我当时说，成本、速度和准确度之间会有一个权衡，有时候你想把更多 compute 或时间投入到一个任务中。你会制定这些计划，agent 会对计划进行迭代并构建软件。人类会在循环中，作为创意引擎。这就是当时的计划。这曾是我们构建路线的蓝图。到了2024年，大概在 GPT-4o 发布的时候，感觉我们差不多快达成了。于是我实质上让全公司都押注在这上面。事实上，我们在2024年5月确实做了一次裁员，部分原因是为了削减开支、聚焦重点，但另一方面是因为我骨子里就确信那才是正确的方向，而我们当时还在做很多其他不重要的杂事。所以大概在三月间，AI 团队的某人——我们团队的 Zen——第一次给我做演示，他给我看了一样东西，我立刻就感觉到：我们做到了。那几乎像是一个初级的 agent。于是我们花了七八个月时间来打磨它，但后来感觉就像是在跑步机上不停地修一个又一个的 bug，试图让它变得连贯可用。真正带来转折的是2024年6月 Sonnet 3.5 的发布。Sonnet 3.5 有两个重要特性。实际上，人们不太常谈及的那个主要特性是：Sonnet 能够生成数千 token——我想最多可达32,000 token——的连贯代码，所以你几乎可以 oneshot 整个代码库。而用 GPT-4o 做 agent 时，你每次只能写一个函数，然后测试。如果你还记得 Cognition 的那场演示，他们就是写一段代码，去浏览器看看，再写一段，再去浏览器。那根本行不通，成本也非常高。我们觉得那样做不成。而当时 Sonnet 写的是高质量代码，而且不会偷懒。OpenAI 的产品有个毛病就是懒。确实存在一个“懒惰”问题：你让它做某事，写到某处它突然加一行注释说“后面的代码在这儿了，兄弟”——我让你写这个程序，你怎么反而来问我？简直就像人一样。所以这带来了巨大的突破，我们觉得很快就能发布了。你知道，质量和发布时间之间总是有这种张力。所以我们定了个截止日期，我的生日，9月5日。这件事争议很大，实际上团队里至少有一个人因此差不多要离职，因为他觉得我们还没准备好，而他部分是对的。然后我们发布了 agent，引起了很大轰动，因为这确实是市场上第一个真正能用的软件 agent，是第一个。人们非常兴奋，因为你可以试用它，窥见未来。这东西可以帮你引入数据库并配置好，可以运行迁移，可以部署我的应用。但后来当用户群体超出早期采用者之后，很多人感到失望，因为它实际上挺烂的。所以我们在9月到12月之间全力冲刺，最终做出了我们真正自豪的产品，并结束了 beta 测试。尽管那时我们增长得不错，但从那之后我们增长得非常快，用户也从产品中获得了很大价值。现在我们的第二版即将推出，已经向一些 beta 用户开放了。我们做了 AB 测试，根据不同的指标来看，它的表现提升了50%到500%不等。它的次日留存提升了50%，转化率提升了50%，参与度也提升了50%。但真正出色的指标是：新用户使用 agent 制作应用后，部署的可能性是原来的两倍；而重度用户部署的可能性则是原来的五六倍。在 Replit 上，部署非常重要，因为 Replit 的伟大之处之一就是你能从一个想法直接走到部署上线。我们发现，完成部署的用户在 Replit 上的留存率要高出10倍。所以这个指标我们跟踪得非常紧密。所以现在回头看 V1，我觉得这东西太烂了，我们必须尽快把 V2 推出去。我在催团队，所以我们现在开始逐步推出它了，它真的非常好。你能给我们讲讲，为什么它能好这么多吗？因为我想底层应该还是 Sonnet 3.5，这似乎是现在大家最喜欢的模型。agent 实际是怎么运作的，背后有什么门道？在基础模型非常相似的情况下，你们是怎么让它变得好这么多的？是的。在3.5那个时代，我们必须搭建一个相当复杂的多 agent 系统，就像之前提到的 LangGraph 那样，其中有一个状态机的组件。而且我们不得不做很多非 AI 的状态转换。你越是把决策交给 AI，它往往做出的决定就越差，连贯性也越弱。所以 context window 仍然非常重要，因为实际上有研究表明，尽管这些模型号称支持百万 token 上下文，但在超过大约32,000 token 之后，它们在很多 benchmark 上的推理能力就会断崖式下跌。因此我们需要大量地处理 context window 的问题。我们设置了一个 manager，它和 editor、debugger 拥有不同的上下文，因为我们必须确保它们是隔离的，各自有不同的记忆等等。而且这些组件之间的工具调用也必须各不相同。我们为 agent 调用工具构建了自己的协议，因为当时 tool calling 并不太可靠，它会产生幻觉，虚构工具或虚构参数，所以背后做了大量的工程工作才让它跑起来。后来 Anthropic 推出了 computer use，也就是3.5 v2。我们一看到它，就觉得有个很重要的点没被宣传出来，那就是一个过渡的开始：他们实际上——看起来是——针对长程推理做了微调。因为如果你要让一个东西去做 computer use，它要面对大量的图像和上下文，必须持续地点击、推理、思考下一步、再点击别的东西。所以你可以 actually 展开一长串的 tool call 链，而推理能力不会出现那么严重的衰减。于是我们开始重新设计 agent 的架构，让它——这么说吧——少一点多 agent 的味道，更偏向单线程，因为模型本身越来越擅长这件事了，而这是一个大得多的简化。它带来了其他挑战，但相比现有模型，这是一个大得多的提升。所以这里面的教训是，你必须不断重写系统，因为你想要利用下一个版本的模型，而且你要能预测接下来会发生什么。3.7发布的时候，Cursor 在集成它时遇到了大问题。每个用 Cursor 的人都不喜欢它，我想他们也是最近才修好的。原因同样在于3.7更 agentic 了。所以当你试图以那种 composer style 的请求-响应模式来使用它时，它其实很不擅长，甚至变得更差了，因为它试图做一些决策，但你却没有给它留出空间去做这种循环。所以对于工程团队和产品团队来说，这是一个非常残酷的教训。如果你过度优化当下的能力，你就会进入一个 local maxima，而且很难从中脱身。这就像是一个以月为单位的《创新者的窘境》问题。你知道，《创新者的窘境》以前那可是以十年为单位的，对吧？你知道，一家公司凭借一项创新，通过推出一款深受人们喜爱的产品，取得了相当高的成功。但随后出现了一项颠覆性技术，他们却没有加以利用，因为这可能会对现有业务造成破坏，会蚕食他们的核心业务，所以他们往往选择忽视甚至抵制它。最经典的例子就是，柯达其实有过数码相机产品，但他们实际上并没有推出，因为这会蚕食他们的胶片业务，而那才是真正赚钱的生意。嗯，而这类事情现在正在以月为单位发生，这真的令人难以置信。因此，“快速行动、打破陈规”在今天实际上非常重要，比以往任何时候都重要，你必须接受有时交付的体验是很糟糕的。你提到了 Cursor。你怎么看这整个领域？感觉过去六个月里，编程工具的格局彻底爆发了，开发者们纷纷转向新的 IDE。许多以前不认为自己是开发者的人也正在进入市场。你对市场格局怎么看？以及，你认为选择 replet 而非这些其他工具的理想用户是什么样的？是的，所以我认为创新分为渐进式的，和更具颠覆性的、从零开始（clean slate）的创新，而我会把 replet 归为后者。你拿 VS Code，在上面搭建出色的 AI 体验。确实，Cursor 是一个非常 fantastic 的体验，我们团队很多人都在用。但问题在于，它本质上是渐进式的。你拿了一款 Microsoft 已经开发了十多年的软件，在上面增加了这个好得多的体验，但你仍然——它仍然只是字面意义上的一个额外层。而有了 rap agent，我们实际上采取了从零开始的方式。我当时想，好吧，我们需要做什么才能让人们完全不用写代码？我们希望朝着这个愿景推进：不仅不用写代码，不用 DevOps，没有 IT 琐事，我们不想让你去搭建数据库，不想让你写 migration。写 migration 简直是世上最糟糕的事情，虽然大家不怎么谈论这个，但构建软件最痛苦的事情之一，就是必须让版本控制、数据库 schema，以及你的部署设置和配置保持持续同步。实际上，大多数 outage——当你去读 Google Cloud 或 AWS 的 postmortem 时——都是配置错误，而且通常是过时的配置：软件变了，但他们忘了改 environment variable 的配置。所以，当你有一个 agent 真正去做这些事时，它其实能做得好得多。因此，我们为 agent 构建的系统是一个 transactional lock step 系统，它会一次执行一个转换。当你在 replet 里点击回滚时，它不仅回滚代码，还会回滚数据库的更改以及其他 environment variable 之类的东西。所有这些我们都考虑到了，所以当你作为开发者来使用 replet 时，你最需要担心的就是你的想法。嗯。你不需要考虑去哪里找对象存储，也不用纠结怎么配置 bucket，对吧？而当你坐在 Cursor 里时，要么你公司里有个后端工程师在操心这些事，你基本上只是在接入这些 API；要么你就得从头开始搭建它们。虽然 Cursor 能帮你调用那些 API，但你仍然需要设计更大的系统架构。所以我认为这些东西之间存在着根本的类别差异。这些产品是在接入现有系统，需要大量围绕这些系统的既有支持；而 replet 试图成为你构建一款软件时唯一需要采用的最终工具。我跟用户聊 replet agent 和在 replet 上部署时，听到大家喜欢的一点是，你可以直接部署，replet 负责搞定一切。你从零开始，最终得到一个完整部署的系统。你能谈谈这个吗？你认为部署领域在这里扮演什么角色？从某种程度上说，你们与很多其他公司不可比，因为你在 replet 上可以走完全程。你怎么看待这最后一公里？谁在意这个，它又如何融入长期愿景？是的。嗯，同样地，我可以说 Cursor 帮你写代码，但不帮你处理其他事情。Versel 帮你做 hosting，但不帮你处理其他事情，对吧？这又回到大教堂与集市的问题，它更像一个集市，你需要找到各种工具，配置它们，搞清楚怎么搭。而 replet，嗯，用另一个寿司的比喻来说，有按菜单点菜（à la carte）的，有主厨发办（omakase）的，replet 就是主厨发办。我们要做的是——我们自认为品味很好，会帮你做设计选择。它不适合所有人，如果你想自己做所有这些选择，那就别来用。我的意思是，市面上还有很多其他产品。所以，嗯，至于部署系统，如果你最终想要触达十亿人，让软件成为优先事项，他们中的大多数人都不知道如何搭建部署环境，因此 replet 这款产品本身就需要内置部署环境。这基本上就是我们做产品的一贯思路，你知道。在 replet 的早期，总有一种说法，说它是给学生用的，是给年轻人、给学编程的人用的。感觉在最近几年，这种情况真的变了，也许是 AI 推动了这一点。我之前跟一位 Netflix 的工程师聊天，他告诉我他是怎么使用 Replet 的。Paul Graham 显然一直是 Replet 的大力倡导者，也是公司最早的信徒之一。你认为用户画像发生了怎样的变化？未来它又会如何继续演变？Paul 作为远见者有多厉害？就像，你怎么能看着一个烂糟糟的、像 Raplet 这样的玩具，就看出它有一天能做大做强？或者看出那种人们睡在床垫上、借宿别人家的点子，会成为一家价值千亿美元的公司。嗯，太不可思议了。是的，这确实 fascinating。嗯，而且他也是极好的人，在公司非常艰难、其他人都不看好的时候，他给予了我们非常大的支持。长期以来一直让人沮丧的是，人们觉得 replet 就是个玩具，一个业余爱好的玩具，是学生、小孩子、青少年用的。但另一方面，我对此感到兴奋，因为我们有一群愿意实验、愿意尝试寻找软件未来、寻找我们刚才所说的那种能够把经济体系构建进软件基础设施里的未来的用户。我们尝试了很多东西，我觉得这些都会成功。我们还缺的核心部分就是 agent，但所有这些最终都会奏效。与这些用户之间发生的这种共同进化是非常重要的。另外，这种认知也很重要，因为竞争对手没有注意到我们。他们看着 rep，心想，哦，那就是个玩具，我干嘛要注意它？前几天，一位我非常亲近、且在业内备受尊敬的朋友来看我们，也拜访了很多朋友。他告诉大家，自己正在用 Replet 为一个新公司做原型验证。当时所有人的反应都是：那不就是你在做的那个像玩具一样的东西吗？他说，不，这对我来说非常有用，我之所以能快速迭代这些想法，靠的就是它。所以现在，大家的看法正在改变。这在一定程度上是因为，我们明确做出了决定，要把产品做得更高端。实际上，现在很有意思的是，Replet 是市面上最贵的产品。Cursor Composer 处理一次请求大概是 4 美分，而 Replet 一次请求要 25 美分。我们之所以这么做，是因为我们真心想做一个 agent，而不是一个 codegen 工具。如果你想做 agent，成本就会很高，它需要不断迭代，而且每次请求都要调用大量工具。这确实疏远了一些用户，但也部分地改变了外界的看法，让更多专业人士开始接受它。不过，如果要覆盖十亿用户，我们未来还需要再次下沉市场。我觉得我们一开始从一个极端出发，现在正从另一个极端开始，总有一天会在中间汇合。现在的 Replet 更像是一款 Roadster，随着我们通过使用更多开源模型等方式把成本压下来，它会变得越来越普及。你怎么看 vibe coding？我其实不太喜欢这个词。我觉得你不该抗拒它，因为我当初也不喜欢 Gen AI 这个词。就是，我也不知道，感觉一样。对，就是觉得它把可能性给贬低了。好像就是说，哦，这是个生成东西的工具。但其实你能构建 agent，不只是生成东西，它真的能推理。vibe coding 这个概念，如果你本来就是个程序员，比如你是 Andre Karpathy，你不想太操心代码，一直按回车，那说得通。但如果你用 Replet，你其实不是从代码出发，而是从一个想法出发，你在迭代这个想法，然后 agent 在你面前把代码展开。实际上，当你使用 Replet 时，你根本没有余裕去盯着代码看。所以我们现在有另一款产品叫 Assistant，它面向更高级的用户，在那里你可以做更多 vibe coding，因为它是请求-响应式的，你可以审查代码、做各种调整。如果要用一句话形容 Replet，那就是 vibe。别写代码，就 vibe。不是 vibe coding，就是 vibe。你一直有点反主流。现在硅谷有个很流行的概念叫 AGI。有一种说法是以后不会再有软件工程师了，而你的观点似乎正好相反，你认为未来会有十亿软件工程师。聊聊你是怎么看待 AGI 的？你心目中的 AGI 是什么？你会对那些说“我聊过很多软件工程师，他们说自己要没工作了，担心没人有工作，大家只能靠全民基本收入过日子”的人说什么？Replet 在某种意义上是相反的愿景，对吧？就是我们其实都会有工作，只是会变得非常强大，能做出各种惊人的事。我觉得这本质上是一个哲学层面的分歧。比如，人类的独特之处是什么，以及机器可以复制什么。至少在近期，我的观点是，AI 会在两类事情上变得极其擅长：一类是数据里已经大量存在的，另一类是你能为其构建非常优质 RL 环境的。那你能为什么构建优质 RL 环境呢？显然，像 Alpha Zero 那样的游戏就是，对吧？游戏出名就在于你可以做这种自我对弈的算法，让它们随时间进化。现在有了推理模型，数学也是一个环境，尤其是配合 Lean，它几乎就像一种可执行的数学表达式，那是个非常好的 RL 环境。代码执行也一样，运行代码然后基于它做强化学习，还有 GitHub 上已有的那些东西。但在很多其他领域，我们其实还不知道怎么让 AI 变得更好，比如真正全新的想法、新的知识。我们还不完全清楚要怎么达到那一步。你或许能用 RL 来做更多软件方面的事，也许可以建一个 world model 去近似这些东西，但我觉得那种创意、想出真正新奇事物的能力，以及以一种非常复杂、可交互的方式理解世界，还有能提出从根本上改变事物运作方式或改变世界的想法，这些仍将属于人类。AGI 会实现，但它会是一种 functional AGI，意思是它会做很多今天人类在做的工作，因为训练数据足够，而且有些工作存在你能用来训练的 ground truth。我称之为 functional AGI 的原因是，它从根本上说不具备通用性——你把它丢进一个极其新奇的环境，让它在没有明确反馈的情况下高效学习并取得成功，这还做不到，而这才是 universal AI 的定义。我们似乎并没有往那个方向走。不过我觉得可以到达某种程度。现在很多公司对 AGI 的定义就是在电脑前做有经济价值的事，对吧？我的意思是，他们把 AGI 当成一个 remote worker，我觉得我们会达到那一步。但如果我有了一个 remote worker，我会造一百个 remote worker 来实现我所有的想法。对，而且它仍然是一个工具，对我有用。它会取代我吗？如果我只是个 code monkey，那它可能会取代我。但如果我在这个世界上的定位是一个能产生想法、创造产品和服务的人，因为我理解人们想要什么、理解经济如何运转等等，那我觉得这依然是不可替代的。我想聊聊你的人生故事。你提到过来美国、拿 O1 签证、在约旦长大。也许从头讲起吧，因为很多人还不了解你的故事，这是个非常励志的故事。而且在某种意义上，你整个人生都在为 Replet 做准备。它不只是一家公司，你妻子在公司工作，你表亲也在，这就像是把你全部的人生和使命都投入进去了。带我们回到起点，这一切是怎么汇聚起来的？你怎么来到美国的？怎么进入硅谷的？好。我最早的记忆之一，还是小孩的时候，我不知道你还记不记得自己最早的那一段记忆，但我记得非常清楚，我父亲弄到了一台机器，拆开箱子，把它组装起来。我当时就被迷住了，甚至在我还不知道那是干嘛用的之前。我走到他旁边，从他肩膀上方看过去，他坐在键盘前，用手指一下一下地打字。他有一本很厚的手册，厚到要是砸到人身上真能伤着。他会照着它一行一行读，然后用一个指头敲字，嗯，cd、mkdir，你知道，就是那些 DOS 命令。我记得当时的感觉就是，哇，这简直是一台你能与之对话的机器。你知道 DOS 是什么吗？它就像一个 REPL，你知道 REPL 这个名字就是这么来的——读取、求值、打印、循环。你可以和这台机器进行一场真正的对话。所以我父亲会去上课学电脑，每天晚上都会带着一摞笔记本回来。他真是个十足的书呆子。俗话说有其父必有其子，不过我和我父亲不一样。我父亲是巴勒斯坦难民，成长过程中对教育有着极其执着的重视。意思是，如果我们想成功，就必须接受最好的教育，必须比别人都优秀。所以他总是全优学生，学习非常刻苦。我母亲则恰恰相反，她有点像自由奔放的灵魂。她喜欢诗歌，小时候教了我很多诗，而且我实际上掌握了一种吟诵阿拉伯诗歌的技艺。所以我身上融合了这两种特质：我可以非常凭直觉行事，完全依靠直觉去冒险，基于某种想法、愿景或者我就是觉得对的东西；同时我也有非常分析性的头脑，能坐下来对某些事情极度严谨，简直让人受不了，这真的受我父亲的影响。然后有一天，我父亲回到家，看到我坐在电脑前，他很生气。他把所有积蓄都花在了这台机器上，而我呢，把电脑拆开，把零件拿出来又装了回去。我说："别生气，我完全知道怎么用它，完全知道它的工作原理。"我给他演示怎么使用，怎么创建东西，怎么打开那些他一直在学的应用程序。他说："好吧，这太有意思了。"然后就说，行，这电脑归你了。我写的第一款程序，我想之前提到过，是用来教我弟弟数学的。我想，好吧，我可以利用这个东西，这台能对话的机器——而我至今仍然这样看待计算机，显然 AI 的出现让这一切真正发生了。我觉得你能坐在它面前学习、玩游戏、做一些有趣的事。这就是我做的第一个程序。后来十几岁的时候，我迷上了 Counter-Strike。我会去网吧和局域网游戏厅，不管身上有多少零钱，全都投进去玩 Counter-Strike 还有各种策略游戏。我玩得非常好，好到它成了一种收入来源，我真的赢过锦标赛之类的。你很早就开始接触电竞了。那是我人生的另一条支线。但我注意到这些地方有个问题，它们还在用纸笔管理。我想，你们有这么多电脑，完全可以写个软件来管理啊。于是我就写了一套客户服务软件，能做账目，给顾客分配账号、用户名和密码，管理他们在系统上的使用时间，还有安全功能，防止别人格式化电脑或者安装恶意软件。然后我就开始卖这个软件，靠这个赚了不少钱，卖给了约旦的很多商家。等我上大学的时候，我有了一个想法：AI 会变得非常强大，我们以后都不需要写软件了。软件给人的感觉就像是一件平淡无奇的事，不太有意思，你只是用它来做东西而已。那时候微软正好出了一些代码生成向导。所以我去学校的时候，其实学的是更偏电气工程的方向，特别是因为我父亲认为计算机科学不是真正的学科，因为约旦工程师协会不会承认你是工程师，除非你有电气工程之类的学位。顺便说一句，我父亲是这个协会的副主席。我之前都不知道，刚知道这件事。他真的很爱那个工程师组织。不过在整个大学阶段，我对编程语言产生了浓厚兴趣。我开始读 Paul Graham，读 Hacker News。Paul Graham 写了很多关于 Lisp 的文章，他其实有本书叫 On Lisp。Paul Graham 对编程语言的看法更偏向于艺术而非科学，他认为这些产物是美学产物，而不仅仅是功能性的产物。这也是我创建 Replet 的原因之一，因为我想尝试各种编程语言，但互联网上没有一个地方能让你尝试所有这些语言。后来我做出了 Replet，就是我之前提到的那个突破，它在美国病毒式传播，一堆科技公司开始采用。如果你还记得 2010、2011 年，那时候有 MOOC 的热潮，就像现在的 AI 热潮一样，有那么一小段时期大规模在线课程很火，对吧？Udacity 是那时候出来的，Coursera、Code Academy 也是。顺便说一句，它们都开始用 Replet，然后我也收到了很多邀约。最终我决定来美国，拿到了 O-1 签证，因为我的很多作品都发表在新闻和各种地方，所以拿 O-1 签证是可行的。2011 年初我到了纽约。我身上仅有的钱在机场被拿走了，因为在安曼机场，我大概带了 700 美元，那是我去美国的全部家当。机场工作人员不知道 O-1 签证是什么。显然约旦从来没有人拿过 O-1 签证去美国，他们不认为这是居留签证，以为是旅游签证，要求我必须买回程票。我说不是的，我可以去那里工作，这是工作签证。他们不信，我说你们去网上查啊。他们还是不信，强迫我买了一张回程票，花了大概五六百美元。所以我到那儿的时候只剩大约一百块钱，而我的年薪是七八万美元，在纽约。这数字挺大的。是啊，但在纽约也不算多，那时候房租大概要两千美元。我想在某个时候，有人出价收购你的公司，金额非常高。你是怎么决定拒绝的？考虑到你的背景，这似乎是个非常重大的决定。你成长起来，到了美国，有了这份工作，然后有人出价收购你的公司，金额足以改变人生。简直是天价。那时候我们只有六个人，而传出的数字在 5 亿到 10 亿美元之间。我们只有六个人。所以这本来能让我富得离谱，对吧？而且那段时间很艰难，我对当时的文化不太满意，我们从最初的三个人——基本上就像我们家人一样——发展到六七个人。我们招了一些我不太喜欢的人，文化在发生变化，我当时有点想重新来过。与此同时，我妈妈在约旦被诊断出癌症，我不得不回去，全家人都不得不回去，而全家占了团队的一半。回去陪伴母亲。那是一段压力很大的时期。当时，绝对理性的做法是拿着钱回家，从此过上幸福的生活之类的。但我有两方面的想法。一是我的梦想。长久以来，我一直梦想来到硅谷。我第一次听说硅谷是通过一部低成本电影《硅谷传奇》，里面戏剧化地呈现了史蒂夫·乔布斯和比尔·盖茨之间的争斗。我当时想：“哇，硅谷这个地方一定有飞行汽车和各种先进技术。”当然，当你来到这里，发现其实就是郊区。但我一直想来这里。我认为创新非常重要——当时我正在阅读关于这些创业者的故事——我觉得这是最重要的事，这些人就是英雄。同时，我也感到硅谷的重量压在肩上，因为保罗·格雷厄姆、Mark Andre 以及其他我非常尊敬的人都投资了这家公司，他们对公司寄予厚望，都非常兴奋。我不想让人失望。而且我觉得，如果卖掉公司，就无法实现它的潜力，未来我可能会后悔。而且，好吧，有钱固然好。我认为金钱其实很棒，能在很多方面改善生活，让你专注于热爱的事物。但你想成为什么呢？不过是又一个硅谷有钱人。这样的人很多，去做投资、当天使投资人。你的生活会有点无聊，而且除非你是 El Musk，否则你再也不想承受那种痛苦去创办另一家公司，投入全部的生命力和精力。出于所有这些原因，我们决定拒绝收购。现在你们有四千万用户。是的。而且我们的估值已经超过了当初准备出售的价格，我认为公司现在实际上被低估了。从六个人做到现在，一路上付出了很多艰辛。我想聊聊你的管理风格。你有一种独特的管理风格。我记得有一次在网上看到你说，你现在成了 Replet 的工程副总裁。我觉得这些年来你一直都是一个亲力亲为的领导者。你的领导风格现在可能更流行了，但在六七年前你这么做的时候并不流行。你是怎么形成这种领导风格的？对于创业者如何经营公司，你有什么建议？从某种程度上说，这是一种不足。你知道，Jensen 现在经常谈到，他算不上一个杰出的管理者，他有很多下属汇报工作，只在这些大型会议上和所有人对话，公开给出反馈，并不真的按传统方式做绩效评估等等。从某种程度上，我会说这或许是在如何进行传统管理方面缺乏技能。我的管理风格更像是我带领一个开源项目，或者像我在家乡带领一支运动队。我一直是个领导者，而且一直是亲力亲为型的领导者。微观管理和信任人实际上并不矛盾，最鼓舞人心的领导者既能深入细节、给出非常精确的指导，又能真正信任人们去交付成果，也信任人们有自己的创新和想法。从一开始，我管理公司的方式就是在 Rapid 里面放一个文本文件，把它当作某种笔记本。这个文本文件里有每个人的名字，以及我认为他们应该专注做的一件事，或者我期望他们交付的一件事。每周我和大家见面时，我们会围坐在桌旁，我会问他们：这件事你做了吗？答案要么是做了，要么是没做，或者介于两者之间。另一个问题是：下周你打算做什么？就这样，他们上周做了还是没做，为什么没做成，出了什么问题，以及他们下周要做什么。顺便说一下，我的高管们现在仍然写这个。公司里的每个人，每周五都会写：“本周我完成了什么，下周我计划做什么。”所以我仍然能在脑子里记住公司大部分人在做什么。我可以在公司里走一圈，然后告诉你这个人正在做这个，那个人正在做那个。部分原因在于，我能在脑子里承载很多复杂性，能够对产品里某个按钮该如何运作，或者我们应该执行哪些营销创意，做出非常深入的决策。所以我能游走在各个不同部门之间，既能全身心投入细节，又能重新 zoom out。另外，期望非常高。如果一个人周复一周地说要做成某件事，却一直没做到，这就是明显的解雇理由，没那么复杂。所以，Replet 的人员流失率很高，尤其是在入职后的头几个月。有 20% 到 30% 的人要么主动离开，要么被解雇，因为他们无法适应这种环境的节奏，或者对如何在这种环境中工作感到困惑。我认为你们文化的另一个独特之处在于，我记得有一次参加团队全员聚餐，在一家自助烧烤店，不知道你还记不记得。桌边坐了很多年轻人，其中一些人甚至没上过大学，没拿到学位。我的意思是，你似乎在招募 raw talent。是的。这是很多人谈论想做、想要去做，但很难做到的事。你是怎么做的？如何筛选人？如何找到这些人？如何给他们空间？如何培养他们？跟我们讲讲这是怎么运作的。首先，你需要能和怪人、不合群的人共事。我能做到这一点，无论是出于本能，还是因为我自己也是个怪人、不合群者，所以能与他们产生共鸣。我能看到某些人的天赋，甚至早在大学时期，我就能发现那些拥有隐藏天赋的人，并以某种方式加以利用。我有一种感觉：如果某个人的天赋没有被好好利用，我会觉得一种浪费，觉得这需要以某种方式被挖掘出来。我认为这是一种不错的管理技能。首先，你本来就不该对这类人抱有排斥心理。我记得我的妻子兼联合创始人 Haya，当初我们招 Mason 的时候，他还是个 18 岁的孩子。我开玩笑说他是从 Santa Cruz 离家出走的小孩，这倒有几分是真的。他高中时离开了 Santa Cruz，因为对自己的家庭和学校都不满意，就跑到城里去，进了一家编程训练营。那些训练营全都在用 Replit，其中有一家一直给我发 bug 报告。我说，我这儿没多少人手做这件事，不如把你们最厉害的工程师派给我。对方说，我给你推荐这个孩子，他这人很怪，但他是我们最出色的工程师之一。于是他来了。我记得有一天 Haya 说，这孩子连门都不会开，身后有人的时候也不扶着门，简直是直接摔门砸我脸上。我说，他其实不是针对你，他走路的时候脑子里都在想代码。对吧？时至今日，我还是会看到有人这样。但首先，我觉得大多数人一旦无法跟这类人沟通，或者无法跟他们产生共鸣，就会直接拒绝他们。另外，你知道，他们会在某些方面特别突出，但在另一些方面就不太擅长。但你可以组建一个团队，让彼此互补。一个人的长处恰好能弥补另一个人的短处。有人非常擅长快速写出成千上万行代码，有人则非常擅长测试，做代码审查时也极其有条理。如果你团队里有一个像牛仔一样狂写代码的人，又有一个更谨慎、更细致、更严谨，甚至可能因为其过分细致而有点烦人的人，把这两个人放在一起，肯定会有很多摩擦，但最终你能做出好的产品。所以你要以某种方式平衡团队，而且要去别人不去的地方招人，这能给你带来优势，因为所有人都在争夺市场上现有的人才。对我们来说，很多人才来自 Replit。我们办过很多黑客马拉松，或者在 Replit 上设立奖项，有些孩子赢了，我们就把他们飞来 SF 跟我们一起工作。我们团队里加入过 16、17、18、21 岁的年轻人，甚至年纪更大的、以前没有做过传统工作的，或者是 ND 游戏黑客。所以，我们的招聘来源非常多样。如果今天我重新创业，我会去找小众社区。在那里你能发现一些真正被低估的人才，不管是某个小众加密货币项目的社区，还是某种小众编程语言的社区。那是我会首先去寻找的地方。你几次提到了你的妻子 Haya。和妻子一起创业是什么感觉？这要看具体哪一天。我们其实早就一起共事了，我们是在 Jordan 工作时认识的。当时我们在一家公司，那是一个比利时人因为工作来到 Jordan，结果他太喜欢这里了，喜欢这里的沙漠，于是决定在这里开公司。我是第一个员工，Haya 是第二个。她是设计师，我是工程师。他跟我们说，我们先做咨询，然后顺便做一款产品，最后转型成产品公司。顺便说一句，但凡有这个想法的公司，最后都不会变成产品公司，你肯定也见过不少这样的例子。那家公司管理非常混乱，老板几乎不在，简直就是群龙无首。所以我和 Haya 就一起做了很多项目，纯粹是为了好玩。后来我们开始约会，不过在 Jordan 约会算不上真正的约会，就是出去喝杯咖啡。她晚上七点就要门禁。后来我着手做开源项目 Replit 的时候，她贡献了 logo 和一些其他设计，也帮了其他一些忙。后来我拿到去美国的签证，我们就结婚了，当时很年轻，我才 24 岁。她跟着我来美国，我们一直在一起做各种项目，艺术项目、游戏，还有别的。等到要真正成立公司的时候，我本来是去找联合创始人的，因为 YC 说你需要联合创始人，我觉得最好还是有联合创始人。于是我就去各种“联合创始人相亲”，见了不少人。然后 Haya 就说，我可以跟你一起开公司啊。我说，这真的会非常痛苦，特别痛苦，你确定要经历这些吗？她说，当然确定，我看你之前在 Code Academy 的时候就能做到，我也可以。三四个月后，她说，我低估了这事有多难。但她显然经受住了挑战，而且我觉得总的来说，这反而加固了我们的关系。因为我在 Code Academy 的时候，每天工作 12、14 个小时，她其实无法理解，什么样的工作需要这种程度的投入。而做 Replit 的时候，我们俩都是这样。所以就不会出现那种情况：你的伴侣一早出门，周末半夜才回来，累得要死，什么都玩不了，如果你是个普通上班族，跟一个 startup founder 在一起，你们的关系很难好。但如果你们俩都是创始人，你们就是在共同经历这一切。我觉得这最终是好事。不过在当时，这其实是我们的劣势，因为风投不喜欢夫妻档创始人，那时候也没多少先例。当然最著名的例子是 Paul Graham 和 Jessica，但现在也有 Canva 的创始人等不少成功例子。但挑战也是有的，比如我们现在全身心投入工作，但又有孩子，怎么平衡这件事就给我们增加了很多压力和负担。另外，公司里一出问题，很多人回家就能抽离，因为他们可以跟伴侣聊点别的来放松。但 Haya 和我回家聊的还是问题，这些问题会不断发酵，最后显得越来越大、越来越糟。所以你就得定规矩，什么时候才能谈工作，但显然你一直在打破这些规矩，因为你总是在想事情。所以我觉得这确实是个挑战，但同时也有某种非常独特、非常好的东西在里面。是啊。你们能做得这么好真的很厉害，而且你们的互动非常棒。谢谢。好，进入闪电轮。我们有一些闪电轮问题。scaling law 会持续有效吗？会的，只不过是把不同的东西做 scale。我们总会找到新的东西去 scale。你收到过最好的建议是什么？Paul Graham 问过我一个问题。我当时压力很大，他告诉我：“这是你毕生的事业吗？”就像说，“10年、20年后你还会做这个吗？”我说：“是的。”他说：“那你为什么太过担心日常的磨难呢？”就是说，你要接受这个事实：即使今天情况不太好，你也能解决，也能扭转局面，显然只要你们还没倒闭。这就是为什么你知道 Paul 总是谈不要死、作为一家公司要活下去。你最喜欢的新 AI 应用是什么？呃，我有很多，因为我自己做很多东西，我用 Replit 来做。我用那些基础的，比如 ChatGPT、Perplexity，但我每天都会搭建一些软件来使用。我觉得 Manus 是一个有趣的演示。是的。它实际上在推动我们讨论过的那个想法，即模型在保持连贯性的同时能工作多久，我认为他们展示了可以持续一个小时并保持一定的连贯性。既然你提到了 Replit 应用，最近有看到什么酷的 Replit 应用吗？呃，有很多商业上的东西非常迷人。有一件很酷的事，我去了纽约，见了一些投资者和客户，然后见了 Sears Home Services。那是一家百年老店。我以前不知道它还存在，但显然它的家居服务部门还在。我见到了一个非常酷、很潮的团队。他们看起来就像在创业公司工作一样，但他们在 Sears。他们告诉我，六个月前他们完成了 COBOL 迁移，花了 6 个月。然后我开始问他们用什么其他工具。他们没有任何 SaaS 软件，也没有 ERP 软件，没有任何这类现代 SaaS 软件。他们直接跳过了一整代软件，开始使用 Replit 创建 agent 来管理他们的业务。那真的很酷。是的。所以他们有那些外勤工人，每天早上醒来就想：“哦，我怎么优化路线才能赚最多、服务最多客户？”于是他们做了一个 AI 工具，每天给他们最优路线，举个例子。是的。顺便说一下，那个团队是非技术背景的。他们都是运营人员。你能从 COBOL 直接跳到 Replit，跳过中间所有东西，这太疯狂了。我的意思是，这确实……我们在对话开头就谈过这个，但这让你感受到哪些经济部门会被这项技术改造。最喜欢的书？《我是个怪圈》（*I am a strange loop*）。Douglas Hofstadter。是的。我其实不同意这本书的结论，或者也许是前提，但它仍然是探索 AGI、意识、灵魂这些概念的最佳书籍之一，以及作为人类意味着什么，与作为机器智能意味着什么。你最欣赏的基础模型是哪个？呃，我觉得 Claude 是最好的。3.7 在做 agent 方面真的是最好的。对你人生影响最大的人？我觉得我妈妈对我有一种超自然的信任，她会在我很小的时候就谈论我将要做的所有伟大的事，她给了我这种……有时毫无根据的自信。关于 AI 的推荐阅读？你知道，Twitter 真的很棒。我觉得最近有点退步了，但上面有太多论文和太多信息片段，去读那些论文，快速浏览一下，我认为只要读文献，你就能了解接下来会出现什么。最后一个问题：AI 领域最被低估的人是谁？我觉得是 Michael Katasta，Replit 现任 AI 负责人。我觉得他不太公开露面，但他是代码 LLM 的早期先驱之一，而且他是一位很棒的领导者，对 AI for code 的发展方向也很有远见。非常令人印象深刻的人。我每次和他聊天都很开心。好的。感谢你来做客播客。我真的很珍惜我们的友谊。谢谢你做这个。谢谢。我的意思是，感谢你对我们的信任，我觉得你在很久以前就看到了一些特别的东西，就像你注意到的关于 Replit 的所有特别之处，我真的很感激。谢谢。我们才达到 4%。4000 万用户。我们还有 9.6 亿要争取。是的。激动人心的时刻在前方。谢谢，AJ。谢谢。