你最近睡眠怎么样？你知道，我从来都不是那种睡眠特别好的人。这么说吧，我正在学习一门技艺，如何在压力异常的时刻找到放松和入睡的方法。一切都发展得太快了。身处其中是什么感觉？就像是指数增长的感觉。假设你乘坐一艘宇宙飞船以相对论速度远离地球。狭义相对论的原理是，你睡了一觉醒来，地球上已经过去了两天，所以你得在一天内处理两天的事；因为你持续加速，你再睡一觉，地球上已经过去了三天；再到下一天，四天过去了——这大概就是现在的感受。那你上床睡觉时，会不会总是 paranoid，担心醒来会看到什么？有足够多明确而紧迫的问题需要我们处理，我一直在应对这些问题，同时思考如何做好准备。但我不认为偏执或担心醒来会发生什么是有建设性的。我研究过历史上那些处理过极端高压情境的人。你需要学会理性应对，不要把各种危险相互夸大。这种在“我不担心”和“天哪，我们今天必须恐慌”之间来回摇摆的状态，我认为是不成熟决策的标志。而真正的成熟决策是：你不能忽视这些，我们不能自满。事实上，风险正变得越来越大。但我们必须理性应对。就像外科医生面对一台手术，或者军官指挥一次军事行动，又或者任何影响众多人的决策者都必须理性决策，他们必须理解风险，但同时要保持基本的冷静。我儿子昨天问我，能不能用我的 Claude 账户？我说绝对不行，我需要我的 token。即使在消费端，我们也看到越来越多这样的情况。我们本想更偏向企业端公司，但即便在消费者市场，哪怕我们没有投入太多精力，增长也开始变快了。你现在处于 AI 宇宙的中心。那是什么感觉？有趣的是，在我的整个职业生涯中，当然也包括在 Anthropic 的整个时期，都有一种平滑的指数增长，而这种平滑指数增长的体验就是：什么都没发生，什么都没发生，什么都没发生。发生了一点小事，然后突然——zoom——就爆发了。这是世界的体验，也是公司规模相对于其他公司和相对于世界的体验。所以我曾经盯着这张图表看了一段时间，然后说：“哦，是啊，大概在这个时候，我们可能会成为收入最高、估值最高的 AI 公司。”而事实确实发生了。所以从某种意义上说，我并不惊讶，因为图表上这就是一条平滑的曲线。但从另一个意义上说，当事情真正发生时，你会看到更多的细节和色彩。这确实令人惊讶，但我们只是继续牢记那些我们一贯关注的事情：如何训练出好的模型？如何将它们嵌入好的产品？如何确保一切安全？如何帮助人们，同时管理技术带来的社会风险？这些都是同样的问题，只是在更大的显微镜下而已。你小时候在旧金山长大是什么样的？我知道你父亲是皮革工匠，母亲在图书馆工作。这对你有什么影响？你知道，当时第一场互联网革命正在我身边发生，但我对它完全没有兴趣。我只喜欢做数学，喜欢滚动浏览东西。我对理解宇宙感兴趣，对科幻感兴趣——那大概就是我当时所处的整体环境。我想我只是对世界充满好奇。你长大的地方正是科技中心，现在也是 AI 中心。这座城市有没有塑造你的世界观？是的，我的意思是，我觉得那种总体上不墨守成规、强调个人主义、“疯一点也没关系”的精神，有很大一部分确实影响了我。你会听到这样的故事：在欧洲的一些国家，甚至在美国其他地方，用不同的方式思考问题，或者有一套疯狂的想法，是会受到打压或被视为怪异的。我对硅谷其实有很多批评。但我认为有一点是好的：它鼓励你，即使所有专家都反对你，也没关系。如果你有一个连贯的愿景和对世界的连贯看法，你就应该去追求。也许根本不会成功，但如果成功了，这里面有一种长尾效应——有些地方，你可以去勘探某些矿脉，也许会发现巨大的金矿。我认为这种精神非常重要。
2016 年的时候，你和你的妹妹 Daniela 以及她的丈夫 Holden Karnofsky 住在一个合租屋里。你们当时在争论什么？我想那时候 Open Philanthropy Project 刚刚起步，Holden 是负责人，而我当时是一名生物科学家。所以我帮他们处理一些关于发展中国家健康或生物学研究的事情。我大概就这些领域提供建议，哪些方向有前景，哪些方向前景不大。你离开 OpenAI 的决定已经成为硅谷的传说。
[snorts]
到底发生了什么？抛开公开的说法，真正的问题是什么？你们在什么上有分歧？听着，我会说得很简单。在构建强大技术时，你会面临许多棘手的问题，Anthropic 每天都在面对这些问题，我们不知道自己做的决定是对是错。所以在安全问题上，有很多合理的分歧可以存在。我们当然和他们有过一些这样的分歧。但仅仅有分歧并不足以让人离开。这里的人也和有过分歧，彼此之间也有分歧。但当你觉得无法信任某个人，当你觉得他们的价值观并非如他们所说，当你觉得他们不诚实，当你觉得他们参与其中的原因并非他们所宣称的那样，当你看到令人不安的行为模式和欺骗时，就很难继续与这家公司合作，很难继续信任这家公司。说到底，当你和对方没有共同的愿景，也不信任他们时，为什么还要争论呢？解决方式就是这样：你走你的路，他们走他们的路。我完全接受这种想法——我们按自己的方式做事，他们按他们的方式做事。我们会看到谁在市场上获胜，也会看到谁在公众舆论中获胜。我认为，这些比任何关于谁为什么离开的闹剧都更有说服力。我们正在提供一个范例，展示如何以我们认为负责任的方式部署这项技术。如果他们不同意，他们应该提出自己的论点，我认为这就说完了。在印度AI峰会上，你和Sam Alman似乎在舞台上拒绝握手。当时发生了什么？事实是峰会组织得非常混乱。我们都是最后一刻才上台，然后他们改变了我们的站位顺序，接着给我们拍了照，然后突然命令我们所有人握手。如果你参加过这类峰会——我并不是特别针对印度说什么坏话——但只要有国家元首出席的这种国际峰会，通常都极其混乱。好吧。但其他人都握手了。拜托。我……我不知道该怎么说。好吧。当时Narendra Modi突然在上面让大家…… 突然让大家握手。好了，好了。嗯，Sam和Elon正在互相起诉。你不喜欢Sam吗？如果构建世界上最重要技术的人连在舞台上握手都做不到，我们怎么能相信你们会在生存风险上合作？那么，我这么跟你说。构建这项技术的人在质量和可信度上存在巨大差异。我认为那种“没有人互相信任”的说法并不正确。我认识Demisabis，他做的Gemini模型是Claude模型的竞争对手。我认识他15年了。我们在很多问题上都合作过。我们从Google购买算力，也经常交流安全方面的想法。所以我的看法是，第一，有些参与者比其他人更值得信赖。而且，我认为Anthropic之外也有我信任、我认为值得信赖的参与者。我认为需要发生的是，可信的参与者需要团结起来，让不可信的参与者处于一种不得不采纳同样标准的位置。凭经验来说，我知道有些人不会主动做正确的事。但如果行业里的大多数都在做正确的事，那么剩下的那部分就会发现自己没什么别的选择，只能跟着来。有一种积极的版本，就是你激励别人。就像Demis和我互相激励。你知道，他做了AlphaFold，我们也在尝试做一些生物方面的事情，对吧？我们做可解释性研究，他们也开始做可解释性研究。这甚至不是竞争。只是每家公司做了很酷的东西，另一家公司觉得“这很酷，我们也想做”，然后看看能不能在里面做出点新东西。这就是“竞相向好”中胡萝卜的一面。然后还有大棒的一面，或者说隐性的大棒：这些人做了正确的事，那些人如果不做就会显得很难看。我们经常看到一种行为：他们勉强做了正确的事，同时却试图假装自己在做不同的事，还说我们有什么不好或阴险的地方。这是意料之中的。但我认为这就是让行业凝聚在一起的方式，也是让行业合作的方式。早期，其他人专注于有趣的、引人注目的消费级应用。你却押注在编程和企业领域，而且cloud code很成功，Claude co-work也很成功。你为什么做这个选择？这是基于价值观的决定，还是商业决定？我们创立Anthropic时，最根本的、始终重要的东西是：我们想把这个事做对。但接着你必须问自己，为了资助这些极其昂贵的模型研发，它需要成为一家公司，需要有一个商业模式。商业模式会妨碍价值观吗？这个问题始终存在。但我认为我从其他公司学到的一点是：如果你选择的商业模式与你的价值观根本冲突，你会很难办，对吧？要么你背叛自己的价值观，要么你变得无关紧要。你最终会陷入一种进退两难的境地，虽然有出路，有办法规避，但这终究是很难的处境。远远更好的是选择一个与你的价值观兼容的商业模式。所以当我们思考这个问题时，我们说，你看，我们见过社交媒体的世界、消费级产品的世界，它们似乎真的在鼓励参与度，甚至是成瘾。我们看到AI视频模型产生的那些垃圾内容，本质上就是想要最大化你注意力的分钟数，因为这是广告收入驱动的激励。而如果我们看企业领域，你知道，我们想让这些模型对人们有用。如果我想想AI能做的所有积极的事情——我固然经常警告负面的事情——但我们最终认为积极面会超过消极面，其中很多基本都属于企业范畴。我们想用AI治愈以前治不了的疾病，对吧？那就得和生物技术公司、制药公司、学术研究团队合作，这些都是企业，对吧？我们想用AI让能源更便宜、更高效，这也都是企业。我们想用AI帮助教育，大部分也是企业。我们想用AI解决发展中国家的健康问题，嗯，那些是非营利组织，但基本也算企业。我们想促进经济增长，这也基本属于企业。然后我认为还有另一个因素：企业非常看重信任和长期关系，对吧？消费级产品可能有一种……几乎是一种花招的感觉，对吧？而在企业领域，重要的是你建立一种关系，你和一家公司合作很多年，你兑现承诺，他们也兑现承诺，他们基本上信任你。所以，这与我们以积极、安全的方式部署这些模型的目标高度协同。因此，我认为拥有一个与我们价值观大体一致的商业模型对我们很有利。不是说没有冲突，不是说我们不需要做艰难的选择，但我认为这类选择的数量远比其他情况要少。一个开发者可以在一个下午就从Claude切换到GPT或Gemini。这个行业真的可能拥有长期领先优势吗？你知道，一个认真的竞争对手需要多久才能复制你们构建的东西？模型质量是最重要的。就像我们现在在模型质量上遥遥领先。确实存在一定程度的惯性，但我从未依赖过这个，对吧？
Anthropic 从未依赖过“这款产品很有粘性，用户不会换”这种想法。我认为你得有更好的模型，更好的产品。而且，我们看到增长率完全没有出现拐点。如果说有什么变化的话，那就是增长率还在上升，至少在录制本次访谈时是这样。所以，我认为这才是最重要的。
Claude Co-work 发布后不久，2850 亿美元市值一夜蒸发。交易员称之为 SaaS 末日。如果 AI 继续以这样的速度进步，有多少传统软件会被取代，速度又有多快？是的。你知道，这类问题很难提前预测，对吧？如果你能完美预判，那人们早就这么做了，他们会在市场上赚到大钱，而且永远正确。所以，没人确切知道会发生什么。但我想指出几点。所有这些传统软件公司都拥有若干护城河。我认为未来会发生的是，其中一些护城河会消失，但另一些会继续存在。快速编写软件的能力，我肯定认为正在消失。如果你的护城河是“我们写了这套复杂的软件，别人写不出来”，那祝你好运，你守不住这个优势。但我认为企业拥有客户关系，拥有对行业运作方式的专业知识，拥有独特的领域知识。所以，我给这些人的建议是：显然，不要自满，不要忽视它。列出你所有的护城河，并清醒地意识到其中一些将会消失，而另一些会因为成为制约因素而变得相对更重要。而且也可能出现新的护城河。我认为那些反应敏捷、积极利用仍然存在以及新出现的护城河的企业会做得很好。而那些自满的、自欺欺人的，以为过去有效的东西未来还会继续有效的人，日子不会好过。这就是我给的建议。归根结底，我猜——这取决于你如何定义 SaaS 和非 SaaS——但我认为软件行业会变得更大，而不是更小，尽管会有一些大输家。解释一下。我只是认为蛋糕正在做大。有了 AI，蛋糕正在做大。现有企业可能在相对意义上变小。其中一些可能会贬值。如果它们不能以正确的方式适应，有些甚至可能倒闭。但我认为，当增长非常快时，你经常能看到这种情况，对吧？如果 AI 能做到的事情增长了 10 倍，那么现有的传统行业整体增长 1.5 倍是很容易的，只是不如整个大蛋糕增长得那么快。所以我认为这种情况可能会发生。但这并不是说我们不会有一些大输家。我认为那些不适应、把头埋进沙子里、看不清未来、不认清自己护城河所在的人，将会非常艰难。你们最大的支持者是 Amazon、Google、Microsoft 和 NVIDIA 这样的公司。它们都有自己的议程。它们既是合作伙伴，也是竞争对手。你们的融资与巨大的商业里程碑挂钩。到底是谁在掌控大局？有很多时候，我们真正直言不讳地表达了自己的想法。你知道，我一直非常公开地主张有必要对华实施芯片出口管制。我这么说是因为，我认为如果中国在 AI 能力上领先，对美国、对世界的民主状况都会非常不利。一些芯片制造商显然不同意这个观点，但这并没有阻止我发表意见。即使在签署了更多合作协议之后，我现在仍然这么说。他们知道的是，我们一直与他们合作。我们是好的合作伙伴。我们可以一起共事。我敢肯定，他们希望我们不讲这些话，但这些是我的真实想法。你能怎么办？归根结底，他们从这些交易中获得的利益不比我们少。听着，我们都是成年人。我们可以在一件事上合作，同时在另一件事上存在分歧。
Bloomberg 报道称，你们的估值已经高于 OpenAI。我们在谈论一家成立仅 5 年的初创公司接近万亿美元的估值。你怎么理解这个数字？你为什么需要这么多钱？毕竟，你们在算力上更自律，盈利之路也更快。算力正在非常快速地扩张。所以，业务基本面看起来良好，与一年后你的算力将增长到现在的三倍、四倍——我不会给出确切数字——这些情况可以同时成立。这些算力爬坡非常陡峭，我们完全预期收入增速会赶上并超过这些投入，但融资是为了对冲这个不确定性区间的一种缓冲。所以这是非常理性的做法。这对业务的稀释非常小。而且这在逻辑上完全不是一回事。事实上，它与反面情况是兼容的，也就是说，这并不代表业务基本面有任何问题。有报道称服务器承压、出现可靠性问题，还有用户抱怨 token 不够用。你说过其他公司在基础设施上是在“YOLO”。你们真的拥有所需的一切，还是在玩追赶游戏？关于算力，有一点是算力是有市场的。所以我的观点是，假以时日，哪怕比几个月更久一些，我们也能获得大量算力。这里有一点值得说明：我认为按任何合理标准来看，我们购买的算力都不算少。我们原本计划算力每年增长 10 倍，每年 10 倍是我们的预期。但 2026 年第一季度的情况并非如此。我们看到季度收入增长超过 3 倍，这只是单季度 3 倍，并非年化 3 倍，当然 3 的四次方等于全年 80 倍。我们没有为年化 80 倍的增长做规划。为年化 80 倍增长做规划是不理性的，因为这意味着如果你只实现了 10 倍，你就少准备了八倍的量。所以我们正处于一个局部极端的算力爆发期。这不会持续下去。如果持续下去，到年底你的收入规模将达到地球上任何公司都……我认为这不会发生。这不可能。但你确实会经历这样的短期阶段：天哪，增长速度快得超乎我们任何预期。不过，你看到了我们与 Google 的算力协议，看到了与 Amazon 的算力协议。我们还能做、也还会做更多。市场是有流动性的。如果你能非常高效地利用算力，且存在需求，你就能拿到算力。可能只需要一两个月。超越你的主要竞争对手，感觉好吗？听着，我们面前还有很多艰难的挑战。有一种 race to the top 的理念，即我们试图带动其他公司一起向上提升。而且我认为我们已经看到，我们确实带动了它们。有时他们并不承认自己在这么做。有时他们一边攻击我们，一边模仿我们。但这种牵引力非常宝贵。我认为，无论是在商业层面还是模型层面，成为一家领军企业的价值，并不在于为了击败对手而击败对手，而在于有能力带动整个生态系统与我们同行。我们希望未来能在这方面做得更多。但获胜肯定还是让人感觉有点爽的。我是说，听着，我们一直在努力取得成功，对吧？我们并不是想失败，对吧？我不属于那种认为我们应该关闭这项技术、停止开发它的人。我们身处自由企业体系之中，这本身没有任何问题。我们只需要降低模型带来的风险，对吧？所以一直以来，都是在两者之间寻求平衡。在Anthropic的大部分历史中，你们都是处于劣势的挑战者。我想，当你没有什么可失去的时候，更容易占据道德高地。到了现在这个规模，要忠于自己的价值观有多难？我想说的是，我花了很多时间去思考为什么会出现这种情况。随着公司规模扩大，我在每个阶段都保持着警惕。在公司的每个发展阶段，都会出现新的挑战，都会出现新的方式，让公司要么失去在商业上求胜的意志，要么失去核心价值观。这两者我都担心，因为我认为它们是相辅相成的。实际上，我认为我们能够打造出如此优秀的模型，这一事实让我们能够在公司不断发展壮大的过程中，以一种有效的方式践行我们的价值观。这里有很多陷阱，有很多可能出错的方式。不是因为我和联合创始人或公司领导层的价值观变了，而是因为公司的组成变化得非常快。所以我大概花了一半的时间，向整个公司讲述Anthropic的文化以及文化如何运作。对吗？当你以这么快的速度增长时，你会从大型科技公司招聘大量人才。如果你不告诉他们Anthropic是如何运作的，他们只会重复他们唯一知道的东西，也就是他们之前所在公司的运作方式。所以这是一场持续的斗争和挑战。可以说，我和Daniela的头号优先事项，就是弄清楚如何保住这些，因为我们认识到从长远来看，这才是我们的核心。你们的产品迭代速度快得惊人。你们推出产品的速度和数量都太疯狂了。你们是怎么做到的？我认为有两方面原因。第一，我们是一家高度统一的公司，拥有统一的文化。我觉得我们在规模扩大的同时，仍然保持着极高的效率，所有人仍然步调一致，这种文化和组织上的统一性可以说是最大的因素。第二大的因素则是Claude本身，我们现在正在使用Claude来帮助开发我们的模型，提升效率，并快速开发产品。这需要培养各种新的实践。我们在这方面还是新手，但它正在带来大量的加速，并且越来越能产出稳定可靠的加速效果。这就是我会指出的两个因素。能跟我说说你见过AI做的最疯狂的事情吗？我认为我见过最疯狂的一些事情与生物学和医学有关。我见过不少案例，实际上包括Daniela的经历，Claude诊断出了一些连一群名医都漏诊的医疗问题。在生物学方面，模型在药物设计、计算化学等任务上开始表现得出人意料地好。我只是惊叹，作为一个曾经做过生物学家的人，我知道这很难，需要大量训练才能做到，而Claude正在变得擅长这些。我认为这是我们将获得巨大收益的领域之一，这是AI的积极面，我们将获得巨大的收益，生活会变得更好，人类体验的质量也会提升。一个世纪的科学进步，一个世纪的科学进步，以及一个世纪关于“做人意味着什么”的进步。回到1900年，想想当时我们面临的所有问题，人们过早死亡的所有原因，他们不得不承受的所有痛苦，我们今天不必再面对的物质匮乏。然后再想想再经历一百年这样的进步。我真的相信，这个世纪在科学和医学上的进步——如果我们能顺利度过这个阶段，而且我认为我们会的——我越来越乐观，我们将拥有一个美好得多的世界。我知道你很热爱写作。你的文章很有名。你会用Claude来辅助写作吗？是的，我会。但我还没发展到直接采用Claude写的文字的地步，因为我的风格非常独特，在这方面有点挑剔。不过我基本上会用Claude来帮我头脑风暴，帮我梳理主题，帮我思考可以用哪些参考引用。所以它扮演的是一种辅助角色。我不知道Claude距离写得比我更好还有多远。我们还没到那一步，但这肯定会到来。我也热爱写作，而且我觉得写作能帮你梳理思路。这其中包含大量的批判性思考。如果我们让Claude代劳，我们会失去这种能力吗？我对此有点担心。事实上，这也是我自己写作的一半原因。当然，写作是为了外部读者，很多人读我写的东西，但它同样是为了澄清我自己的思路，让我知道下一步该做什么，并在我和其他人之间建立一个共同的参照点。我认为我们仍在努力解决一个问题：究竟该如何使用AI，才能保留这些好处。我觉得我现在这样做是有效的——我用Claude做研究，用它来帮助组织我自己的思路。但如果我们直接端到端地使用它，比如让它写一篇关于AI风险的文章，首先，它不会写出我所想的东西，而且我也会恰恰失去那种好处。随着模型变得更好，也许存在某种方式，能让我们在写作中更直接地使用它们，同时仍然保留这些好处，但这会很微妙，不会是单一的做法。我们需要随着时间的推移逐步摸索。我认为我们可能会面临一种非常罕见的组合：极快的GDP增长，但同时伴随着高失业率，或者至少是就业不足，又或者是大量低薪工作、严重的不平等。他在谈论失业问题时一直非常直接。AI可能会在未来1到5年内消灭一半的所有入门级白领工作。那是一年前说的。AI发展得非常快。现在还是50%吗，还是更高了？我一直都是这么说的，如果你回看那些原始片段，它们总是被断章取义，剪成3秒钟的片段，但我真正的原话始终是：我不知道会发生什么，但这是一种数量级上的估计，说明事情可能会有多疯狂。而且我也一直在讲我们可以对此采取哪些应对措施，对吧？我谈过 token 税，也谈过与企业合作来调整人员配置，另外我对再培训项目有点怀疑，但我们还是应该把它纳入考虑范围。还有宏观经济政策。从一开始，我就一直在谈解决方案，但不知怎的，人类心理上总有一种倾向，喜欢剪出那种三秒钟的“末日将至”片段。所以我要传达的信息绝对不是末日将至。我的意思是，这是我们应该预见到的、让我们担忧的事情，我们需要积极地做出回应。我不知道具体会怎样，但我仍然非常担忧，担忧的程度和之前一样。我们看到 AI 目前正在提高人们的生产力，但这只是通常的那个坎。如果你回顾工业革命，你知道，我在《Adolescence of Technology》里写过这个。你把一份工作的 90% 自动化了，很好，人们在剩下的 10% 里效率提高了十倍，因为他们的杠杆效应增加了十倍。但最终它会接近 100%。接下来的问题是，那你就得给他们找别的事做。我不知道从长远来看会怎样，我真的不确定。但我确实认为存在一些适应方式，比如我可以谈谈 Anthropic 内部的软件工程师。我们现在正在经历这个转型。目前 AI 让软件工程师更高效，尽管 AI 写了全部或几乎所有的代码，但它仍然提高了人的生产力。不过我们已经开始看到端倪：对某些人来说，AI 并没有让他们更高效，不如让 AI 直接把这个事做了。这是其中一面。另一面是，我们对什么有更大的需求？我们有一种职位叫 forward deployed engineer，或者类似 applied AI solutions architect，他们的工作是技术工作和与客户沟通的结合。这方面需求很大，因为我们客户很多，而且增长非常快。但并不是每个纯软件工程师都能做这份工作，这并不完美，也不是一一对应的关系。这让你感受到，将会有巨大的颠覆，但事物也会自我调整。哪边会赢，我不知道。但之所以要对此发出警告，是因为这样我们才能做出回应，这样才能制定政策，对吧？无论是在 Anthropic 内部，还是针对整个世界的宏观经济层面，我们都想提出经过深思熟虑的观点。我们不想说那些人们不相信我们会实际去做的事，不想说那些考虑不周的话。我们想认真思考，到底应该对这些问题采取什么实际行动。
> 你发布了这张图表，显示潜在的就业颠覆，比如销售、金融，你知道，哪些工作会消失，谁会被取代，以及会创造什么新工作。
> 所以，没有人确切知道。因为经济是不可预测的，对吧？就像股市一样，这些都是去中心化的过程，你事先并不知道一份工作里还有哪些部分是人们仍然能够做的。但大体上我要说的是，任何拥有这类入门级白领工作的地方，无论是银行业、金融业，你知道，AI 都很有可能首先提高人们的生产力，但接下来就会彻底变成 AI 可以胜任这份工作，然后我们就必须思考，人类还能做什么？我认为我们需要提前规划。我们已经在做了，当我们与企业客户交谈时，我们看到他们面临的选择：他们面临的选择是，我应该节省成本，这通常意味着少招人，用更少的资源做同样的事；还是应该用同样多的资源做更多的事？只要可以，我们总是试图推动他们选择后者，因为这意味着招同样数量的人，甚至可能招更多人，只是去做新的事情，推动他们走向正和博弈。我们在这里的优势是，蛋糕会大幅膨胀，因为蛋糕会大幅膨胀，所以很可能会有人们可以去的去处。关键是能不能足够快地找到这些去处。颠覆的规模会很大，这就是我警告人们的原因。但我们必须解决这个匹配问题。
> 那给我推演一下。你知道，五年后你醒来。这个国家会是什么样子？那些人在做什么？因为如果有那么多失业，革命不就是这样开始的吗？
> 是的。不，这正是我们想要防止的结果，这绝对是我们想要防止的结果。我认为有几个方向。没有一个是板上钉钉的，我们不确定。首先是物理世界，对吧？那些在物理世界中的事情。是的，机器人革命也在发生，但它比 AI 的发展慢得多。人们总是谈论建数据中心，但当处理任何类型信息都变得容易得多时，也许限制会出现在物理世界的事物上。所以我们需要更多人去制造、建造、生产物理世界的东西。任何以人为本的事情，我认为都会很重要，对吧？我总听到这样的故事：AI 发现了我医生没发现的东西，我觉得很震撼，但人们真的想和其他人类交谈，尤其是在重要事情上。也许 AI 能提供更好的客户服务，但尽管如此，人们——至少有些人——还是想和人说话。所以这类由人际关系驱动的工作，我觉得会很重要，对吧？而且我认为人类在某种程度上会需要指导 AI，至少在某个层面上，它必须符合某个人的价值观和意图。所以我认为那里会有一些角色，尽管我不知道这个角色是轻是重，很难说。
> 有很多反对声音，我知道你说你在试图警告人们，但 Jensen Hong 说你把任务和工作混为一谈了。其他人也说，你知道，这有点像有利于 Anthropic 的末日营销。
> 所以我想非常明确并强烈反驳这一点。关于失业风险以及这里有一些想法——我们还没有完全充实这些想法，因为我想把它们搞对——但 Anthropic 提出了很多想法。我们有经济研究资助，我们有经济指数，我谈到过从税收和宏观经济政策到新兴职业等应对这些风险的可能方式。在《Adolescence of Technology》中，我花了大概五页纸阐述任务和工作的区别，为什么这次与以往不同，列出了我们能做的六件不同的事，从私人慈善到政府行动。我谈到了问题，也谈到了解决方案。但社交媒体，这个我深恶痛绝的类别，人们总是拿一年前那些三秒钟的剪辑片段说事。他们其实不读文章，或者他们利用的就是社交媒体的特点。我对这些事情写得仔细得多，我在其中谈到了风险。认为这只是廉价营销的说法，本身才是廉价营销。这是懒惰。这是拒绝对严肃的知识工作投入精力。我认为这也是问题的一部分。再说一遍，我认为这是硅谷的弊病之一。它被卷入了这种三秒钟的社交媒体世界，于是人们只对此做出反应，或者说他们觉得自己只需要对此做出反应。再说一遍，我认为这非常危险，而我们一直未能进行一场成熟的对话。相反，人们只是懒惰地看到这种三秒钟的片段，然后就说：“哦，原来Daria说的是这个。”这太愚蠢了，太不严肃了。每当有人这么说的时候，我对他们的重视程度就会降低。全球领先的AI公司之一，已经深度嵌入到美国国家安全及军事行动的诸多方面。
Anthropic与五角大楼在AI军事安全保障问题上的对峙正在升级。你一直持有反战立场，这可以追溯到你在Caltech的时期。然而，你们却是最早与国防部签约、在美国用于作战的机密网络上运行的AI公司之一。解释一下。是的。我想说的是，你看，世界在变，我对这项技术的看法也在变。当我看到俄罗斯入侵乌克兰，当我看到中国大陆可能入侵台湾的风险时，我担心的是我们正面对一个重新崛起的威权集团。他们非常具有侵略性，而我们需要自卫。这是我一贯以来并且继续坚持的信念。因此，尽管在两届政府期间——我可能并不认同每一届政府的所有政策——但这就是我们总体上对此持支持态度的原因。我们不希望看到这样一个世界：中国和俄罗斯能够利用AI分析所有情报，能够利用AI攻击台湾和乌克兰，而我们却无法保护他们。这就是我们与他们合作的原因。我们当然不是为了钱。这非常麻烦，即使不谈法律战，仅仅是要接入政府网络就是件极其麻烦的事，而且报酬并不高。所以我们这么做是因为我们在乎。但同样，正因为我们是出于在乎才这么做，就必须对技术的使用加以限制。关于这项技术，我所使用的表述是：我们应该以一切方式使用这项技术，除了那些违背我们自身价值观的方式。我们的红线是大规模监控和完全自主武器。我认为这些事情会损害我们的价值观。如果民主国家做了这些事，那即便赢了也不值得。这就是我看到的平衡点，也是我们所采取的立场。这既解释了我们为何最先与战争部合作，也解释了为什么当别人愿意做某些事时，我们却不做。我认为你需要选定一个立场并坚持到底。有些公司在“我们绝不与政府合作”和“突然我们什么都与政府合作”之间摇摆不定，我不理解这种做法。你应该选定自己的原则并坚持到底。你们从2024年起就开始与Palantir合作。没错。你知道，他们的技术被ICE、警察部门用于加沙。Claude是否也以其他方式被用于监控？我们不与ICE合作，无论是通过Palantir还是其他任何人。我们也不与CBP合作。我认为我们在加沙也没有业务。我们对于合作范围非常谨慎，只涉足我们认同的事情。所以，你划定了红线。总统禁止你们进入联邦政府。五角大楼将你们列为供应链风险。OpenAI趁机介入，签了你们不愿签的合同。那么，打赢这场仗实际上意味着什么？你知道，我认为对一家私营公司来说，这场仗无所谓输赢。这不是Anthropic想要打赢或计较输赢的仗。这甚至算不上是一场仗。这更像是一场关于政府应如何正确使用AI的辩论。AI是一项新兴技术。我们尚不清楚它在哪些方面可靠、哪些方面不可靠。我们也不清楚它在哪些方面弘扬我们的价值观，在哪些方面又损害我们的价值观。因此，我认为很重要的一点是要在某些用例上树立先例——那些我们认为好的用例，坦率地说，是大多数；以及另一些我们担忧的用例。正如我说过的，你已经看到了，一份合同能起的作用终究有限，对吧？正如我们所见，别人可以签一份不遵守你那些红线的合同。但它所起到的作用是提高了人们对这个问题的认识。如今国会已有严肃的两党合作努力，试图禁止一些我们担忧的事情，并试图设立护栏。再说一遍，我不想把这说成是一场斗争，但所谓“赢”，就是推动我们的国家更审慎地思考这项 技术的适当使用方式。
……由一个意识形态疯子掌管，他不应该拥有……
但这不是我的问题。我的问题是谁来决定我们做什么。你介意被称为意识形态疯子或一群左翼疯子吗？嗯，你知道，我一直被叫更难听的名字。人们可以随便叫我或Anthropic什么。重要的只有两件事：作为公司我们要成功，而且我们要捍卫自己的价值观。实际上，从某种程度上说，我的生活很简单，因为当你要做的就是这两件事的时候，这就非常简单，对吧？你始终清楚自己的立场。一位美国官员曾表示，借助LLM，美军每天能够打击的目标从一千个增加到了五千个。这意味着Claude可以帮助更快杀死更多人。你对此感到自在吗？我认为这里有两个层面，对吧？其一是美国提升军事效能的能力。我支持这种能力。我认为拥有更强的这种能力不会引发战争，而是威慑战争。基本上，你是在问我是否相信这个国家，对吧？你希望这个国家在世界舞台上成为更强大的参与者，而不是更弱小的？我希望。我是爱国者。另一个独立的问题是，美国政府正在执行的某些具体政策我是否支持。显然，有些我支持，有些我不支持。如果我们提供了一项技术，那就不是由我来决定你能进行哪项军事行动、不能进行哪项军事行动。国防部也阐述过这一观点，而我们实际上认同他们。如果我们提供技术，我们无权说你可以打这场仗、不能打那场仗。也许我私下认为这场军事行动合理，那场不合理，但我们不会拒绝提供技术——你必须把政策决定权留给军事决策者。你能做的是确立一些高层级的边界，对我们而言，就是阻止那些似乎违背我们价值观、违背我们国家价值观的用例，并推动那些我们认为能够弘扬我们价值观的用例。这就是我们的思考方式。彭博社报道称，Claude 正被美军用于伊朗战争，通过 Palunteer Maven 智能系统平台进行 AI 辅助瞄准。据报道，今年2月，一枚美军导弹击中了伊朗的一所女子学校，造成150多人死亡，其中大多是儿童。Claude 在那次袭击中发挥了作用吗？好吧，我们并不掌握相关信息，也不清楚这些模型究竟是如何被使用的。显然，战争中发生的这类错误真的非常可怕。这是一件非常可怕的事情。如果这还不能说明为什么我们必须抵制那些我们不支持的用例——要知道，我们曾愿意冒公司未来之险去限制这些模型的使用方式——那还有什么能说明呢？而且，你提到的这个用例甚至都没有违反我们的红线。我们担心的是，对于违反红线的用例，这类问题可能会多上一百倍。现在，我要再次强调，我认为总体上这些模型的使用是恰当的，总体上是好的。但军事决策者即使在最好的时期也会犯下严重错误，而我甚至不知道我们现在是否处于最好的时期。我们可以谈几件事。我们可以谈划定红线，防止那些更容易导致这类问题的模型使用，对吧？如果我们当初屈服了——现在几乎所有其他公司都已经屈服了——允许完全自主武器，那会怎样？现在我们看到的情况是，Claude 提供辅助，但最终由人类拍板。所以，做出最终决定的是人类，不是 Claude。想象一下，如果不是 Claude（因为我们不允许这种情况发生），而是别人的 AI 模型，由 AI 直接做决定，人类根本看不到。这正是我们一直以来在坚持和反对的。我还要说，这里还有另一个问题。同样，我认为采购并非正确的做法，但我们需要确保这关乎美国人民的利益。不是作为技术供应商的我，而是美国人民，希望我们的军事决策者不要犯下这些错误，希望他们可靠地运作，希望他们明智地选择行动。同样，这对我作为一名公民、也作为一名技术供应商来说都很重要——你知道，政府大量使用 Microsoft Excel。如果我对微软说，你可以把 Excel 用于这次军事行动，但不能（用于其他）——这实际上做不到，你无法现实地限制这一点。希望这能让你了解我们的思考方式。这所学校有网站，Google 搜索就能找到，Claude 难道不该发现这一点吗？他们使用的 AI 或任何技术难道不该发现吗？这是否也揭示了一个更可怕的问题，即把技术当作战争的捷径？听着，我想说的是——我不知道，这可能涉及我没有接触过的机密情报——但我们确立的原则，而且我认为这次也遵守了的原则，就是最终由人类做决定。我不知道 Claude 或任何其他 AI 在其中扮演了什么角色，但如果这还不能说明那个原则为何如此重要，那我就不知道还有什么能说明了。
AI 战争是更有可能阻止第三次世界大战——也就是中美之间的战争——还是更有可能引发它？我会说，总体上它更有可能阻止战争。但如果我们对其使用方式不加限制，那么我认为它可能更容易引发战争。你看过《奇爱博士》吧？它的前提是你有一种末日装置，当它认为正有核武器朝自己飞来时，就会自动发射核武器。这能出什么问题呢？对吧？我再次强调，我指的就是致命的、完全自主的武器。我认为冲突的发生方式往往是双方互相误判，彼此误解。而如果我们对这项技术缺乏适当监督，我认为这类事故就更有可能发生。不过，我认为如果 AI 以恰当方式使用——甚至不是在战争中，而只是想想情报收集——比如说，我们能够预测对台湾的入侵，或者乌克兰的新动向，那么我们的对手就会三思，如果他们知道我们对其一举一动都了如指掌的话。因此，我认为卓越的情报能力确实可以在这里威慑冲突。卓越的响应能力也能威慑冲突。我一直对此深信不疑。
Anthropic 几乎每周都在上头条，而最近最引人注目的无疑是 Mythos。当然，这是 Anthropic 最新、最强大的模型，它能够自主完成网络杀伤链的所有环节。你说过 Mythos 过于强大，不能向公众发布。它最让你惊讶的是什么？我认为最让我惊讶的是，模型在发现漏洞方面的能力一直在提升，更重要的是将漏洞转化为利用程序——人们只谈论发现漏洞，却很少有人谈论把漏洞变成可利用的攻击程序，而 Mythos 在这方面非常擅长。所以让我惊讶的是，我们看到了一次巨大的飞跃，这是一次特别大的能力提升。而且在我们几乎没有特意引导的情况下，一些早期获得权限的公司就发表了诸如“这是一种超级武器”、“使用它应该需要持枪执照”、“请不要发布它”这样的言论。也就是说，这种呼声来自我们授权使用的公司，他们发现了如此之多的关键漏洞以及围绕这些漏洞的可利用性，以至于他们基本上在请求我们不要发布它。需要明确的是，因为在社交媒体上事情总会被扭曲——目标并不是永远把它锁起来。我们正在逐步尝试向越来越广泛的人群开放，最终我们认为应该将 Mythos 发布给普通大众，但要附带强有力的网络安全保障措施。现在的问题是，当前的网络安全保障措施——我们确实在 Opus 4.7 上发布了相关措施，那是一个不错的网络安全模型，但能力要弱得多——这些措施可能被越狱。我们有些担心其他一些公司认为这已足够防御，因为没错，它有时管用，但我们都知道这些分类器可能被越狱或被绕过。我们自己的测试，以及坦率地说，我们对其他公司所部署防御措施的评估都表明，这些防御措施目前还不够强大，而我们在等待的正是将防御措施提升到让我们真正有信心的水平。这引起了很多反对意见。有研究人员称，他们能够用更便宜的开源模型复现它。有些人说 OpenAI 已经具备了这些能力。对于那些说这是大型公关噱头的人，你怎么回应？声称它能用开源模型复现，这完全是错误的。关键在于，Mythos 能够审视整个 codebase 并发现某些东西。有人在 Twitter 上说：“好吧，如果你把开源模型对准 Mythos 发现的那一行代码，它也能发现同样的问题。” 但那不是 prompt，也不是问题的关键，对吧？这根本不是一回事。真正的检验标准是，我们走进企业、深入开源仓库，在 Firefox 中发现了 271 个新漏洞；在尚未修复或无法公开披露的私营公司里，我们也发现了数千个漏洞。以前的模型根本没能找出这 271 个漏洞。所以，关键在于实际工作中真正有效的流程，而不是说，我先知道 Mythos 找到了哪一行代码——相当于我已经从干草堆里找到了那根针——然后让别的模型去捡这根针。但那些说这是营销噱头的人怎么说？你知道，不发布这款模型让我们在商业上遭受了巨大损失。这款模型极大地加速了 Anthropic 内部的研究、生产以及下一代模型的开发。如果我们发布它，外部世界也会获得同样的加速。这让我们在商业上损失惨重。如果这能帮助防御者，那它也能帮助攻击者。我们还能守住任何东西吗？我想说的是，我们之所以在把 Mythos 交给攻击者之前先交给防御者，是为了修补所有漏洞。我不知道随着模型能力越来越强，是否会找出越来越多的漏洞，但漏洞总量是有限的，对吧？就像你有一个攻击面，上面只有那么多洞。你把所有洞都补上，这个攻击面就变得很难攻破；而且代码本身也是用强大的模型写出来的，所以也很难再找出缺陷或攻破。因此，我希望在六个月或一年后，我们能拥有一个比过去安全得多的互联网生态系统。我们正在努力走向那个世界，并尽最大努力向新的网络防御者开放 Mythos。我们一直在与政府沟通，非常尊重他们的建议。他们担心反情报风险，因此放慢了我们开放的步伐。我认为这很合理。所有严肃的人都知道，这里存在真正的权衡。[轻哼] 我们看到 Twitter 上和其他 AI 公司有很多人在冷嘲热讽。你看看他们说的和做的，前后矛盾。他们不是严肃的人，没有认真面对我们这里存在的严肃权衡。听着，每天都有客户给我打电话说“我想要使用 Mythos”，也有国家打电话给我说“我们想要使用 Mythos”。但美国政府和我的安全团队却说“不行，等等，这有风险”。我不会说哪一方绝对正确，我认为真相在中间，双方都有道理。但这里确实存在真正的挑战，我们需要作为一个社会共同面对。不要指责别人是廉价营销，也不要用廉价营销来搞对抗性定位——有些公司正在这么做。这一切都显示出一种极度的轻浮和幼稚。我们需要共同面对这个时刻。你是否已经不得不做出一些你并不太舒服的权衡？
Anthropic 的整个历史就是不断权衡的历史，对吧？整个 Anthropic 的历史都是这样。在理想世界中，你会希望在发布第一个聊天机器人之前，花数年时间去研究它所有可能出错的地方。我们确实推迟了 Claude 的首次发布，但只推迟了几个月。所以我想说的是，一切都是权衡。光谱的两个极端都完全疯了，对吧？一切都是权衡。我想说的是，既然我们已经处于——我称之为——商业上的领先地位，我和 Daniela 实际上正在尽一切努力，把指针进一步拨向谨慎一侧。Mythos 的发布方式就是这个道理，对吧？如果你不是行业领先者，很难做到这种事。所以，我认为你们会看到越来越多这样的做法。你知道，有一种说法是，政府为什么不直接接管你们？为什么会允许一家私营公司掌控如此强大的技术？所以，实际上我认为这是一个非常严肃的问题，我也有同样的担忧。我不认为政府应该直接接管我们。但我会这么说。先退一步描述一下局势：历史上我们见过的每一项强大技术，要么由政府建造，要么起源于政府。核武器显然最初由政府建造，之后也基本上由政府主导。但即便是互联网、GPS、手机，所有的研发都是在联邦实验室和大学实验室里完成的。AI 是第一项在私营部门建造的技术，政府此前没有真正发挥重要作用，而且入局很晚。我认为这实际上是一种危险且不稳定的局面。这不是我会选择的局面。但也没有真正的替代方案，你知道，这项技术是可以建造的，我们的对手正在建造它，它有经济价值，它一定会被建造出来。问题在于政府没有做，而不是私营部门做了。我认为我们需要思考对权力的制衡。所以，我认为必须对 AI 公司的权力进行制衡。对吧？我们有这个机制，叫做 Long-Term Benefit Trust。它基本上是一个机构，能够任命和解聘绝大多数董事会成员。所以，本质上，如果你把逻辑理顺，它有权解雇我。我们正在做的是引入一些元素——远不是全部——但引入一点点公共治理的元素，对吧？也就是说，你需要向那些不仅仅持有公司股票的人负责。这非常重要，而且无论公司发生什么，这个结构都会持续下去。这是 AI 公司层面的事，我们鼓励其他公司也建立类似的结构。在政府层面，我认为我们也需要制衡。你知道，国会已经宣布了一些努力，要设定那些 red lines。所以，我真的认为立法分支和司法分支需要发挥作用，因为这项技术，我害怕公司掌握它，但我也害怕政府掌握它。然后公司需要对政府形成制衡，政府也需要对公司形成制衡。我们需要对这项技术进行基本的监管。我认为我们需要开始实行发布前测试、强制性的发布前测试，以及对模型的测试和审计。你知道吗，硅谷科技界有一群人，他们起初的立场是，哪怕只是要求这项技术透明，哪怕只是出口管制，都会彻底、灾难性地摧毁我们创造这项技术的潜力，都会扼杀创新。我觉得这非常可笑。然后，当他们一旦看到第一个真正的危险——这是我一直在预料的——就开始大谈国有化，说政府应该直接接管。拜托各位，你们这是从最极端的反监管——你们要是看我们不顺眼，就是在毁灭整个行业——一下子跳到完全共产主义那一套，政府应该全部抓在手里。我们需要一种更理性、更温和的方式。这也是我们一直倡导的，因为我们理解这项技术的力量。我们没有恐慌，也没有否认它。我们看到了这条平滑的指数曲线，并正在做出恰当的回应。那么，你这次回白宫的访问怎么样？你知道，我们一直努力与政府中所有能合作的人共事。我说过，我们的方式很简单，就是有一套原则。我们遵循这些原则，并希望对方也是讲道理的。老实说，政府非常重视 Mythos。我们与 Bessant 部长、幕僚长 Susie Wilds 都进行了很好的对话。我认为他们真的理解了这里风险的性质。Mythos 也帮助他们更具体地感受到这些风险所在。所以，再说一遍，就像任何一届政府一样，有些部门和我们相处得很好，也很理解这件事；也有一些部门比较难打交道。我认为这很正常，任何政府都会如此，我们只能尽力去应对。你职业生涯早期曾在 BYU 工作过，一家大型中国科技公司。你在它的硅谷前哨站工作过，而且你对中国的立场一直很明确。中国正在推出强大的开源模型，而美国公司却在免费基于它们做开发。这算不算一种威胁？要知道，关于这项技术，有一点我们已经看到了，那就是模型的智能程度真的有极高的溢价。我们极少见到人们更愿意使用智能较低的模型。当然，要明确的是，生态非常繁荣，有很多挑战和问题远比我们需要 frontier models 来解决的那些要简单得多。但话说回来，这是指数增长，对吧？这些远离前沿的模型有可能具备与 2023、2024 年相当的经济价值。但我们每年有 10 倍的增长。于是我们发现，前沿上的东西总是比远离前沿的要大得多。我认为这是那些习惯于在上一个时代做产品的人不太理解的。对吧？作为一个从未经营过公司、从未思考过上一个产品时代——尤其是社交媒体时代——的人，我觉得自己像是那个世界的局外人，而且我觉得人们的直觉是错的。他们有一整套 product heuristics，而每年 10 倍的模型指数增长彻底打破了这些。智能是一个如此巨大的因素，它压倒了其他一切。所以我们一次又一次地看到，价值就在 frontier 上。不过，对于那些落后模型，我真正担心的是它们带来的风险——当 Mythos-class 的网络能力出现时。12 个月后我们会拥有好得多的网络能力，但 Mythos-class 的网络能力可能对任何人开放下载。希望我们届时已经把所有漏洞都修补好了。我不认为我们能阻止它，但我认为这是严重的担忧。你在 BYU 的所见所闻，塑造了你对中国的看法吗？并没有。没有。我在那儿工作了大概一年。我想我学到的更多是关于语音——语音识别之类的。唯一让我不安的可能是，我们获取语音识别数据的方式之一是——他们当时语气阴沉地说，在中国我们不关心隐私，所以我们有这些语音识别数据。但除此之外，我的担忧主要是地缘政治层面的。我认为中国最让我担忧的，是我们看到的维吾尔人的遭遇，我们看到对批评声音的压制，甚至在美国，香港事件中也发生了这种情况，对吧？CCP 可以把手伸进美国的商业网络并压制批评，这是一个威权国家，一个高科技威权国家，而当我看到它与 AI 结合时，你真的会得到一个反乌托邦，像《1984》甚至更糟。我的重点是努力阻止这种情况，我认为我们有机会阻止它。我们有机会让 AI 成为亲民主的技术，让人们更自由，兑现人人享有平等正义的承诺，但它也可能走向反面。而走向哪一面，取决于 AI 公司的行动，取决于政府的行动，取决于我们所有人的行动。所以我认为我们对此负有责任。你所在领域的人常谈论一个时刻：AI 变得足够好，能够自我改进，然后改进后的版本继续自我改进，如此循环。你的一些研究人员认为这个时刻已经很近了。它还有多远？我不认为那是一个时间点。我认为这是一个持续的过程。某种程度上，我们已经看到了——AI 能够为下一代 AI 提出架构设计。要知道，一年前我们看到 AI 带来的全要素生产率提升大概在 10% 到 15%。现在可能已经到了 20% 或 30%。也许还在翻倍。和一切事物一样，我们正处于指数曲线上。并不存在某个 AI 自我改进或失控或变得不安全的时刻。我们拥有的是一个加速的指数增长。在指数曲线上的每一点，我们都必须评估：现在是不是该放慢脚步？是不是该对这项技术施加更多控制？我认为这将会越来越有必要。但我认为，这一切的 Rosetta Stone 就是这条平滑的指数曲线。再说一遍，那些原本反对一切 AI 监管，然后看到一件事就想要国有化的人，是一个 object lesson；那些原本轻视 AI 的力量，然后惊呼“天哪，它在自我改进，它失控了，我们必须全部关停”的人，也是一个 object lesson。在这两种极端反应之间来回摇摆，对应对这项技术来说是极其有害的。正确的、明智的回应应该是：我们不会恐慌。我们的对策会随着技术力量的增长而平稳地逐步升级。如果你看到有人有这种疯狂的摇摆反应，那说明他们措手不及，而且并不认真。我听说你最喜欢的书之一是《The Making of the Atomic Bomb》。没错。你觉得自己和 Oppenheimer 有相似之处吗？你知道，我最认同的人物是 Leo Zillard，他基本上是第一个提出可能存在链式反应这种想法的人。听着，我的观点是，我们不可能依靠那些光芒万丈的 personalities，或那些试图把一切焦点都揽到自己身上的人物来渡过这一关，对吧？这里需要一种权力的平衡，对吧？有很多强大的利益相关方，唯一能让每个人都迎来好结果的方式，就是基本上到处都要 checks and balances。嗯，所以在某些方面，我其实把奥本海默视为一个失败案例，一个本不该发生的案例。你曾说过文明崩溃的概率大概在 10% 到 25% 之间。这绝非微不足道。是否存在这样一种情景：正是 Anthropic 构建的东西导致了这种崩溃？呃，我当然希望不会。我的看法是，我们所采取的行动是在降低这一概率，而非增加它。对吧？这一概率源于——你知道——这项技术的简单配方。世界上有许多国家，一个经济体中有许多公司，如果空白未被填补，新公司还会涌现。这就是我们身处的困境。我们正努力通过行动来降低这一概率。我认为我们降低的概率远大于我们抬高的。但这项技术的固有特性就是不可预测。所以我们尝试先构建出产品，在发布前进行大量测试。而现今发布的模型并不危险，或者至少我认为，除了在网络领域之外，并不真的危险。然后我们尝试迭代并从中学习。我们设置了无数道防御机制。公司内部有一半的工作都在尽可能降低风险，但它永远不会为零。我想打个比方。假设市面上有很多航空公司，你说，我要创办一家更安全的航空公司。你的航空公司完全可能比其他所有航空公司安全十倍。但如果有人来问你：你能保证你的飞机永远不会坠毁吗？我是说，你怎么可能保证？但如果一架飞机有 25% 的坠毁概率，你是不会登上那架飞机的。没错。25% 太高了。我们正在努力把这一概率降得低得多，低得多。这就是目标。你正在构建某种极其强大的东西，并有望从中获得巨大收益。我们为什么要信任你？我对此的看法是，其实当任何一家公司起步时——尤其是考虑到过去几年整个硅谷作为一个实体及其思维方式所展现出的行为——我认为，如果你对我一无所知，对 Anthropic 也一无所知，那么从一开始就持不信任的立场是相当理性的。我认为硅谷已经失去了世界很多信任，必须重新赢得它。我们试图传递的信息是，我们其实不一样，而这必须通过我们实际所做的事来赢得。你可以同意也可以不同意，但我们坚守了自己的价值观。关于 Mythos，你知道，没有发布那款非常强大的模型，这确实在商业上严重拖累了我们。在此之前还有很多小事，比如在中国问题上，我们做到了言行一致。我们切断了对模型的访问。我们本不必这么做，没有人要求我们这么做。那让我们损失了数亿美元，在当时那还是我们收入的很大一部分。还有 Claude 2 的延迟发布，类似的事情我们有着悠久的历史。我们并不完美。我们会犯错。但我希望大家审视整个历史，然后说，如果把这段历史加起来，关于我们最符合这一整体历史的假设是什么？人们必须自行判断。但我认为最符合的假设是，我们真诚地想要做正确的事。我们不完美。组织总是存在功能失调，我们总是在努力修复它们，让它们更好地运转。会有很多失误，很多事情会出错。但从根本上说，我们对如何做正确的事有着诚实而真挚的图景，并且我们正在努力执行这一图景。我们在指数级发展的另一端再见。结束了。呃，希望如此。（笑）
你一直想成为好莱坞明星。我——关于 CEO 这份工作，有一件事出乎我意料，我以前没意识到你得多么频繁地化妆。（笑）呃，这可不在我的预料清单上。就扑点粉。