Sam Altman 专访：ChatGPT 的规划、核聚变与特朗普
Sam Altman Interview: OpenAI CEO's Plans for ChatGPT, Fusion and Trump
Sam Altman 谈 ChatGPT 问世两年、Elon Musk 与特朗普治下的 AI
2022 年 11 月 30 日，OpenAI 网站的流量达到了一个略高于零的峰值。彼时的 OpenAI 还是一家小到不起眼、懒洋洋的初创公司，连网站流量都懒得追踪。那是平静的一天，也是这家公司此后再也未曾经历过的平静。不到两个月，OpenAI 就遭到超过一亿访客的冲击，他们都在尝试 ChatGPT，并为之震惊。自那以后，一切都变了，尤其对 Sam Altman 而言。在这篇就任首席执行官以来最为全面的访谈中，Altman 解释了他那场臭名昭著的四天解雇风波、他实际如何管理 OpenAI、他对特朗普-Musk 任期的规划，以及他对通用人工智能（AGI）的不懈追求——AGI 仍处于理论上的 AI 下一阶段，届时机器将能够执行人类能做的任何智力任务。
本文经过编辑，以求清晰和简洁。
你的团队认为，现在是一个合适的时机，可以回顾过去两年，反思一些事件和决策，澄清一些事情。但在那之前，你能再讲一遍 OpenAI 创始晚宴的故事吗？因为那一天的历史价值似乎与日俱增。
每个人都希望有一个干净利落的故事，在某个瞬间发生了一件事。保守地说，我认为那一年（2015 年）有过 20 场创始晚宴，然后其中一场被载入正典，所有人都在谈论它。对我个人而言，最重要的那场是我和 Ilya 在加州山景城 the Counter 餐厅的那次。只有我们两个人。
如果再往前追溯，我一直对 AI 很感兴趣。我本科时就学过这个。中间我曾分心去做别的，然后 2012 年到来了。Ilya 和其他人做出了 AlexNet。我一直在关注进展，心里想："伙计，deep learning 看起来是靠谱的。而且，它似乎能 scale。这是一件非常非常重大的事。得有人做点什么。"
于是我开始见很多人，问谁适合一起做这件事。2014 年时 AGI 有多么非主流，怎么说都不为过。人们都不敢跟我聊，因为我说我想发起一个 AGI 项目。这差不多是会被 cancel 的，可能毁掉你的职业生涯。但很多人告诉我，有个人你一定要去聊聊，那就是 Ilya。于是我在一场会议上堵住了 Ilya，在走廊里拦住他，我们聊了起来。我当时想："这人真聪明。"我大致跟他说了我的想法，我们约好一起吃顿饭。在我们的第一次晚餐上，他阐述了——虽然用的不是他今天会用的措辞——但基本上阐述了我们构建 AGI 的战略。
那场晚宴的精神，今天还有哪些保留在公司里？
基本上全部都在。在此基础上还增加了一些东西，但我们相信 deep learning、相信某种特定的技术路径能够实现目标，以及一种将研究与工程结合的方式——令我惊讶的是，这一套走得这么顺。通常你有了这些想法，它们不会完全奏效，而我们最初的构想中显然有些东西完全行不通。结构。诸如此类。但相信 AGI 是可能的，相信这是值得押注的路径，以及如果它真的实现，将对社会产生重大影响？这一点被证明是非常正确的。
早期 OpenAI 团队的一大强项是招人。你们却能几乎垄断大量顶尖 AI 研究人才，而且往往比竞争对手开出更少的钱。你们的 pitch 是什么？
Pitch 很简单：来造 AGI 吧。而它能奏效的原因是——当时说要造 AGI，这有多么离经叛道，怎么说都不为过。于是你筛掉了世界上 99% 的人，只留下真正有才华、有原创思维的人。这非常强大。如果你在做跟别人一样的事，比如，你在做第一万个照片分享应用？那真的很难招到人才。但如果你让我相信没别人在做这个，并且向一小撮真正优秀的人才发出号召？你就能把他们都招来。而且他们都想一起工作。所以我们当时的 pitch 听起来要么大胆、要么荒诞，它把领域内所有资深专家都推开了，而我们得到了那群参差不齐、年轻又有才华的人，他们正好适合从零开始。
当时大多数人都是全职投入。我还有别的工作，所以一开始我参与得很少，但随着时间推移，我越来越沉迷其中。到 2018 年，我已经彻底"喝了 Kool-Aid"（深信不疑）。但那时候有点像在勉强维持运转，不过每个人都在做自己的事。
Greg Brockman 是 OpenAI 联合创始人兼现任总裁。
看来你对最初那几年有一种浪漫化的看法。
嗯，那无疑是 OpenAI 历史上最有趣的时光。我是说，现在也很有趣，但能亲身在场，见证我认为将成为人类历史上最伟大的科学发现时期之一——就其对世界的影响而言？那是一种一生只有一次的经历。如果你非常幸运的话。如果你极其幸运的话。
我当时试图同时做 OpenAI 和 Y Combinator，这非常难。我只是被这个想法迷住了：我们真的要去造 AGI。有趣的是，我记得当时心里想过，我们会在 2025 年实现它，但那完全是一个随机数字，就是我们开始之后的第十年。那时候人们常开玩笑，说我走进会议室只会说一句话："Scale it up！"这不是真的，但那确实是那个时期的大方向。
ChatGPT 的官方发布日期是 2022 年 11 月 30 日。那感觉像是百万年前，还是一周前？
［笑］我明年就 40 岁了。在我 30 岁生日那天，我写过一篇博客，标题是"The days are long but the decades are short"。今天早上有人发邮件给我说："这是我最喜欢的博客文章，我每年都要读一遍。等你 40 岁的时候，会写一篇续作吗？"我笑是因为我肯定不会写了。我没时间。但如果真要写，标题会是"The days are long, and the decades are also f---ing very long"。所以感觉已经过去了很久。
当第一批用户如潮水般涌来，而且显然这将是一件惊天动地的大事时，你有没有过一个"holy s---"的时刻？
那么，好吧，有几件事。第一，我原以为它会表现得很不错！公司其他人都说："你为什么要让我们发布这个？这是个糟糕的决定。它还没准备好。" 我不会经常做"我们要做这件事"的决定，但这次就是其中之一。
YC 有一张很有名的图，[Paul Graham] 以前常画，先是潜力的波动曲线，然后新鲜感消退，接着是一个漫长的低谷，然后是真正产品市场契合的波动曲线，最后终于起飞。这是 YC 的一段传说。在最初几天里，[ChatGPT] 正常运行时，白天用量大，晚上用量小。团队笑着说："哈哈哈，热度在下降。" 但我在 YC 期间学到一点：如果每一次出现新低谷时都高于前一个峰值，那就说明有很不寻常的事情正在发生。前五天看起来就是这样，我当时想："我觉得我们手上有一个我们自己都没意识到的东西。"
6 [Paul Graham]，Y Combinator 的联合创始人，在创业和技术领域堪称哲学家国王式的人物。
这引发了一场疯狂抢购 [compute] 的行动——我们当时并没有足够的资源——因为我们发布这个产品时没有任何商业模式，也没想过商业模式。我记得那年十二月的一次会议，我当时大概说了这么一句话："关于我们如何为此付费，我愿意考虑任何主意，但我们不能再这样继续下去了。" 当时确实有一些非常糟糕的主意——而且没有一个好主意。于是我们就说："好吧，我们先尝试订阅制，以后再想办法。" 这个方案就这样定下来了。我们发布时用的是 GPT-3.5，而且我们知道 GPT-4 [coming]，所以知道它会变得更好。当我开始和用它的人聊他们拿它来做什么时，我想："我知道我们也能把这些做得更好。" 我们持续快速地改进，这最终引发了全球媒体的关注 [moment]，随你怎么称呼这个现象。
7 在 AI 领域，"compute" 通常用作名词，指训练、运行或开发机器学习模型所需的处理能力和资源——例如中央处理器（CPU）、图形处理器（GPU）和张量处理器（TPU）。想知道 Nvidia 公司的 [Jensen Huang] 是怎么致富的吗？靠 compute。
**你是一个懂得享受成功的人吗？你能好好感受它，还是已经在担心下一阶段的 scaling？**
关于我，或者我的职业生涯，有一点非常奇怪：正常的轨迹是你经营一家大型成功的公司，然后在五六十岁时厌倦了如此拼命工作，于是成为一名 [venture capitalist]。先当 VC，而且当了很长一段时间 VC，然后再去经营一家公司，这是非常罕见的。我觉得这有很多坏处，但有一个好处对我非常有益，那就是你有一种奇怪的优势：你知道接下来会发生什么，因为你已经观察并指导过很多人经历了这一切。我当时知道自己既满怀感激，又在想："操，我要被绑上火箭了，我的生活会变得完全不同，而且不会那么有趣。" 我对此开了很多黑色幽默的玩笑。[我丈夫] 会讲那个时期的趣事，说我回到家，他会说："这太棒了！" 而我会说："这真的很糟糕。对你也很糟糕。你只是还没意识到，但真的很糟糕。"
8 Altman 于 2024 年初与长期伴侣 Oliver Mulherin 结婚，后者是一位澳大利亚软件工程师。他们预计将在 2025 年 3 月迎来一个孩子。
**你在硅谷出名已经很久了，但 GPT 问世带来的一个后果是，你以通常只有 Sabrina Carpenter 或 Timothée Chalamet 那种速度成为了世界名人。这有否影响你管理员工的能力？**
这影响了我过正常生活的能力。但在公司里，不管你是不是有名的 CEO，人们只会说："我他妈的 GPU 呢？"
我在生活的其他所有方面都感受到那种距离感，这真的很奇怪。和老朋友在一起、和新朋友在一起——除了最亲近的那几个人之外，我都能感受到。我想，如果在公司里是和一些平时不打交道的人相处，我确实能感受到。如果我要去参加一个几乎从未谋面的团队的会议，我能察觉到那种氛围。但我大部分时间都是和研究员们在一起，伙计，我向你保证，如果接着跟我去参加研究会议，你看到的只会是不敬。这很好。
**你还记得第一次隐约意识到，一家拥有数十亿美元外部投资的营利性公司，却要向一个非营利董事会汇报，这可能是个问题吗？**
肯定有很多这样的时刻。但那一年简直是一片疯狂的模糊，从 2022 年 11 月到 2023 年 11 月，我几乎记不清了。感觉就像是我们在 12 个月内几乎从零开始建起了一整家公司，而且全程都在疯狂的公众注视下完成的。回头来看，我学到的一点是：每个人都说自己不会搞错 [重要 versus urgent] 的相对排序，但每个人都会被紧急的事情欺骗。所以我想说，第一次我冷酷地直面现实——意识到这行不通——大约是在
__那个周五下午 12:05 左右。__
9 [Dwight Eisenhower] 显然经常把"重要的事情很少紧急，紧急的事情很少重要"挂在嘴边，以至于催生了 Eisenhower Matrix，这是一种时间管理工具，将任务分为四个象限：
10 2023 年 11 月 17 日，大约加利福尼亚时间中午，OpenAI 的董事会通知 Altman 他被立即解除 CEO 职务。他是在公开宣布前大约 5 到 10 分钟才接到通知的，当时正在 Google Meet 会议上观看拉斯维加斯大奖赛的报道。
**当董事会解雇你 CEO 职位的消息传出时，令人震惊。但你看起来是个情商很高的人。你之前察觉到任何紧张的迹象了吗？你知道你就是那个紧张的根源吗？**
我根本不认为自己是个情商很高的人，但即使对我来说，这也超出了我能察觉到存在紧张关系的底线。你知道，我们之前在安全性与能力、董事会的角色以及如何平衡所有这些事情等方面一直存在分歧。所以我知道有紧张关系，而且我情商不高，所以可能还有更多我没察觉到的。
第一个周末发生了很多烦人的事。我对那段时间的记忆——细节可能有误——他们是在周五中午解雇我的。周五晚上有一大批人辞职。周五深夜我想："那我们就去创办一个新的 AGI 项目吧。" 周五深夜，一些高管团队成员说："嗯，我们觉得这件事也许可以撤销。冷静点，等等看。"
周六早上，两位董事会成员打电话来，想谈我回去的事。我一开始非常生气，说不。然后我想："好吧，行。" 我真的很在乎 [OpenAI]。但我说："除非整个董事会辞职。" 我希望当时采取了不同的策略，但在当时那感觉是一个正当的要求。然后我们就董事会人选分歧了一段时间。我们试图谈拢一个新的董事会。他们有一些我觉得很荒谬的想法。我也有一些他们觉得荒谬的想法。但我以为我们 [generally] 达成了一致。然后——也是整个那段时间里最让我生气的一刻——从周六到周日整天，他们一直说："快谈好了。我们在等法律意见，但董事会同意书正在起草。" 我一直说："我在维持公司不散架。你们掌握所有权力。你们确定跟我说的是实话吗？""是的，你会回来的。你会回来的。"
接着周日晚上，他们突然宣布 Emmett Shear 出任新任 CEO。我当时就想，“好吧，现在我他妈真的完了”，因为那才是真正的欺骗。到了周一早上，大批人威胁辞职，然后他们说，“好了，我们得改变方向。”
董事会称曾有一项内部调查得出结论，认为你在与他们的沟通中“并非始终坦诚”。这个说法很具体——他们认为你在撒谎或隐瞒了一些信息——但也很模糊，因为它没有说明具体是哪方面不够坦诚。你现在知道他们指的是什么吗？
我听过不同的说法。有种说法是，“Sam 根本没告诉董事会他要推出 ChatGPT。”我对那件事有不同的记忆和解读。但事实是，我确实没有说过“我们要推出一个将引起巨大轰动的家伙”。我认为有很多类似的事情都被不公平地描述了。我更清楚的一点是，我曾与多位董事会成员就我看作是利益冲突或其他不当行为的问题产生过矛盾，而他们对我试图让他们退出董事会的方式很不满意。这件事我吸取了教训。
你曾在某个时刻意识到，OpenAI 的结构将会扼杀这家公司，可能让它夭折在摇篮里。因为一个以使命为驱动的非营利组织永远无法为争夺算力而竞争，也无法做出 OpenAI 蓬勃发展所必需的快速转向。董事会由原教旨主义者组成，他们把纯粹性置于生存之上。于是你开始做一些决策让 OpenAI 具备竞争力，这需要有一点偷偷摸摸，而董事会——
我不认为我所做的事情是偷偷摸摸的。我最多只能说，本着快速推进的精神，董事会没有了解全貌。后来有种说法冒出来：“Sam 持有了那只初创基金，却没告诉我们。”那件事的来龙去脉是，由于我们的结构很复杂：OpenAI 本身不能持有它，持有 OpenAI 股权的人也不能。而我恰好就是那个没有 OpenAI 股权的人。所以我暂时是它的所有人或 GP，直到我们搭建好将其转移的结构。对于董事会是否应该知晓此事，我有不同看法。但是否应该格外清晰地沟通这类事情，即便只是看起来像是在做什么？是的，这个反馈我接受。但那不是偷偷摸摸。这是疯狂的一年，对吧？这是一家在各个方面都以百万英里时速前进的公司。我建议你去找任何人聊聊，问问他们是否觉得我做过什么偷偷摸摸的事，因为我向来注意不那样做。
我认为上一届董事会在信念层面是真诚的，他们对 AGI 出错的担忧也是真心的。在那个周末，其中一位董事会成员对这里的团队说过一句话，人们因此有点取笑她，那就是：摧毁公司可能与非营利董事会的使命是一致的。而我认为——那才是真正的信念之勇。我觉得她是真心那么想的。尽管我完全不同意所有具体的结论和举动，但我尊重那样的信念，而且我认为旧董事会是出于一种错位但真诚的信念，相信他们所做的才是对的。也许他们还觉得 AGI 就在眼前，而我们对它不够负责任。所以我可以在完全不同意其他所有细节的同时，依然对此保持尊重。
你显然赢了，因为你就坐在这儿。但仅仅从同理心出发，这一切难道没有让你受到精神创伤吗？
确实如此。最艰难的部分并不是经历那件事本身，因为在四天的肾上腺素激增中你能扛住很多。而且看到公司以及更广泛的支持我的社区站在我这边，这让我很暖心。但很快一切就结束了，而我手上却有一堆烂摊子。而且情况每天都在恶化。又是另一项政府调查，又是一位旧董事会成员向媒体泄露假新闻。那些我觉得把我、把公司都他妈害惨了的人都已经走了，而现在我得收拾他们留下的烂摊子。当时大概就是这个时节[十二月]，实际上，天黑得很早[下午4:45]，又冷又下雨，我晚上会独自在屋里走来走去，就是感到他妈的沮丧和疲惫。而且这感觉太不公平了。经历了这样疯狂的事情，然后却没有时间恢复，因为房子着火了。
当你回到公司时，你会不会在做重大决定或发布消息时感到不自在，因为你担心别人会如何看待你的品格？其实，让我说得更简单点。你是否觉得有些人可能认为你是坏人，而你需要说服他们你是好人？
比那还糟。一旦一切水落石出，就都没事了，但最初的几天里没人知道任何情况。所以我走在走廊里，[人们]会避开目光。就好像我被诊断出了绝症。有同情，有共情，但[没人]确定该说什么。那真的很艰难。但我当时想，“我们有一项复杂的工作要做。我要继续做下去。”
你能描述一下你实际上是如何管理这家公司的吗？你每天怎么过？比如，你会和个别工程师交流吗？你有走动的时间吗？
让我打开日历看看。我们周一要开三小时的高管团队会议，然后，好吧，昨天和今天，我和工程师进行了六场一对一。这次采访结束后我就要去研究会议。明天有几场大型合作会议，还有*很多*算力会议。有五场关于建设算力的会议。明天我还有三场产品头脑风暴会议，之后还要和一家大型硬件合作伙伴吃晚餐。大概就是这种感觉。有几件事是每周固定的节奏，然后主要就是应对各种突发状况。
你在内部和外部沟通上花多少时间？
更多是内部的沟通。我不太写那种鼓舞人心的邮件，但会进行大量一对一和小组会议，还有很多事是通过 Slack 处理的。
我是 Slack 的重度用户。你能从这种纷杂的往来中获取大量信息。我的意思是，就深度而言，没有什么比和小型研究团队坐在一起开会更好的了；但就广度而言，伙计，用这种方式你能获得非常多。
**你之前谈到过，自己曾强势介入，对 ChatGPT 应该长什么样、用户体验应该如何提出了非常明确的观点。在哪些地方，你觉得凭你的专业能力，必须更多地下场当选手，而非当教练？**
以现在的规模？不太会。昨晚我和 [Sora](#fourteenth) 团队吃了晚饭，我手上有好几页书面建议，相当详细。但那是例外。或者等会儿这场会议结束后，我要向研究团队提出一个非常具体的方案，关于我认为他们未来三个月应该做什么，包含相当多的细粒度细节，但这同样也是例外。
14 Sora 是 OpenAI 先进的视觉 AI 生成器，于 2024 年 12 月 9 日向公众发布。
**我们稍微聊过，科学研究有时可能会与公司结构产生冲突。你把研究团队放在了和公司其他部门不同的楼里，相隔几英里。这背后有什么象征性的意图吗？**
呃，没有，那只是后勤和空间规划的问题。我们会在某个时候一次性搬进一个大型园区。研究团队仍然会有自己的区域。保护研究的核心对我们所做的一切至关重要。
硅谷公司的常规路径是，你一开始是一家产品公司。你在这方面越做越精。你发展到巨大的规模。而当你发展到这种巨大规模时，收入增速的百分比通常会自然放缓。于是在某个时刻，CEO 会萌生一个想法：他或她要创办一个研究实验室，想出一堆新点子来推动进一步增长。这在历史上只成功过几次。贝尔实验室（Bell Labs）和施乐 PARC（Xerox PARC）是著名的例子。但通常行不通。通常你会得到一家非常出色的产品公司和一间非常糟糕的研究实验室。
我们很幸运，我们后来嫁接上的这个小产品公司或许是——至少是长期以来——增长最快的科技公司。但这很容易吞噬掉研究的魔力，而我不打算让这种情况发生。
我们在这里是为了构建 AGI 和超级智能（superintelligence），以及此后出现的一切。沿途会有很多美妙的事情发生在我们身上，其中任何一件都非常有可能让我们从终极目标上分心。我认为不被分散注意力真的很重要。
**作为一家公司，你们似乎已经停止公开谈论 AGI 了。你们开始谈论 AI 和等级（levels），但作为个人，你却在谈论 AGI。**
我觉得“AGI”已经变成了一个非常随意的词。如果你看看我们的等级，我们的五个等级，你会发现有人会称其中每一个为 AGI，对吧？设立这些等级的希望在于，能对我们所处的位置以及进展如何有一些更具体的锚定，而不是纠结它到底是不是 AGI。
**到了什么门槛你会说，“好了，我们现在实现 AGI 了”？**
我大致的思考方式是，当一个 AI 系统能够胜任重要岗位上非常熟练的人类所能做的工作时——我会称之为 AGI。然后会有一连串后续问题，比如，是整个工作还是只是部分？它能从一个计算机程序开始，然后决定自己想成为一名医生吗？它能做到该领域最顶尖的人所能做的，还是只是 98 分位的水平？它的自主性如何？我目前还没有深入、精确的答案，但如果你能雇一个 AI 作为远程员工来做一名优秀的软件工程师，我想很多人会这么说：“行吧，这算是 AGI-ish 了。”
现在我们总会移动球门柱，这就是这件事难的原因，但我就先这么回答。然后当我思考超级智能时，对我来说关键是，这个系统能否快速提高地球上科学发现的速度？
**你们现在有超过 3 亿用户。从他们的行为中，你学到了什么，改变了你对 ChatGPT 的理解？**
跟人们聊他们用 ChatGPT 做什么、不用它做什么，对我们的产品规划非常有启发。过去一直出现的一种情况是，很明显人们在试图大量使用 ChatGPT 来搜索，而这其实是我们刚推出时没想过的。当时它在这方面表现很糟糕。但这显然成了一项需要重点打造的功能。说实话，自从我们在 ChatGPT 中推出搜索功能后，我几乎不再用 Google 了。而在我们推出之前，当我们还只有内部原型时，ChatGPT 会取代我对 Google 的使用，这一点对我来说并不明显。
我们从用户那里学到的另一点是：人们在多大程度上依赖它获取医疗建议。很多 OpenAI 员工会收到非常暖心的邮件，人们会说：“我病了很多年，没有医生告诉我得了什么病。我终于把所有症状和检查结果输入 ChatGPT——它说我得了这种罕见病。我去看了医生，他们给我开了这个药，我现在完全好了。”这是个极端例子，但这类事情经常发生，这让我们意识到人们有这个需求，我们应该在这方面做更多。
**你们的产品有过很多定价，从 0 美元到 20 美元，再到 200 美元——彭博社还报道过可能会有 2000 美元的档位。如何为从未存在过的技术定价？是靠市场调研？还是拍脑袋？**
我们免费推出了 ChatGPT，然后人们开始大量使用，我们总得想办法支付成本。我记得我们测试了两个价格，20 美元和 42 美元。人们觉得 42 美元有点贵。他们很乐意付 20 美元。我们选了 20 美元。大概是 2022 年 12 月底或 2023 年 1 月初的事。这并不是那种“雇人来做定价研究”的严谨做法。
我们也在考虑其他方向。很多客户告诉我们，他们想要按使用量定价。你知道，“有些月份我可能需要花 1000 美元在算力上，有些月份我想花很少的钱。”我年纪大到还记得拨号上网的时代，AOL 给你每月 10 小时或 5 小时之类的套餐。我讨厌那样。我讨厌被计时，所以我不想有那种感觉。但我能想象还有其他按使用量计费的方式，那些是合理的。
**你们现在的安全委员会是什么样的？在过去一年或 18 个月里，它有什么变化？**
有点令人困惑的一点是——对我们内部来说也是如此——我们有很多不同的安全事务。所以我们有一个仅限内部的安全顾问组（SAG），负责对系统进行技术研究并提出意见。我们有一个 [SSC](https://openai.com/index/openai-board-forms-safety-and-security-committee/)（安全与保障委员会），它是董事会的一部分。我们有一个和 [Microsoft] 共同设立的 [DSB](#fifteenth)。于是你就有了一个内部机构、一个董事会机构，以及一个与 Microsoft 的联合董事会。我们正在想办法精简这些。
15 部署安全委员会（Deployment Safety Board, DSB）由 OpenAI 和 Microsoft 的成员组成，负责批准任何超过特定能力阈值的模型部署。
这是个好问题。SAG 会把报告发给我，但我想我其实并不在正式的成员名单上。但流程是：他们出一份报告，发给我。我大概会说，“好的，我同意这个”，或者不同意，然后发给董事会。SSC，我不在。DSB，我在。既然我们现在对安全流程的全貌有了更清晰的认识，我希望能找到一种精简的方式。
**你对实际可能存在的危险的理解有变化吗？**
我目前对短期、中期和长期的风险判断大致没有变化。我仍然认为，在网络安全和生物领域，我们会看到严重的、或潜在严重的短期问题，需要进行缓解。从长远来看，当你设想一个真正具备惊人能力的系统时，存在一些可能难以精确想象和建模的风险。但我可以同时认为这些风险是真实存在的，并相信应对它们的唯一恰当方式是推出产品并从中学习。
16 2024年9月，OpenAI承认其最新AI模型增加了被滥用于制造生物武器的风险。2023年5月，Altman与其他数百名签署者共同签署了一份声明，强调AI带来的生存性风险。
**谈到近期未来，整个行业似乎已就三个潜在的发展障碍达成共识：模型扩展、芯片短缺和能源短缺。我知道它们相互交织，但你能按担忧程度给它们排个序吗？**
我们在每个类别上都有我觉得相当不错的计划。在模型扩展方面，我们在技术、能力和安全上都在共同进步。我认为2025年将是不可思议的一年。你知道ARC-AGI挑战吗？五年前，这个组织设立了这项奖项，作为通往AGI的北极星。他们想打造一个他们认为会非常困难的基准测试。我们周五要发布的模型通过了这个基准。五年来它一直悬而未决。它由类似这样的问题组成：
他们说，如果你能在这个测试上拿到85%的分数，我们就会认为你“通过”了。而我们的系统——没有做任何定制，直接开箱即用——
这个。18 而且我们有非常有前景的研究，更好的模型也即将到来。
拿到了87.5%的分数。19 17 OpenAI于12月20日发布了o3模型。它应该会在2025年初向用户开放。之前的模型是o1，但据Information报道，OpenAI跳过了o2，以避免与英国电信运营商O2产生潜在的冲突。
18 在我的笔记本电脑上，Altman调出了ARC-AGI网站，上面显示了一系列令人困惑的抽象网格。抽象正是关键所在；要“解决”这些网格并实现AGI，AI模型必须更多依赖推理而非训练数据。
19 据ARC-AGI称：“OpenAI的新o3系统——在ARC-AGI-1公开训练集上训练——在我们公布的公共排行榜1万美元计算预算限制下，在半私有评估集上取得了突破性的75.7%分数。一个高计算配置（172倍）的o3系统则拿到了87.5%。”
我们一直在整个芯片供应链上努力，包括所有的合作伙伴。我们有团队为我们建设数据中心和制造芯片。我们在这里也有自己的芯片研发项目。我们与Nvidia有着很棒的合作关系，那是一家绝对不可思议的公司。我们明年会更多地谈及此事，但现在正是我们扩展芯片规模的时候。
很快。嗯，很快就会有净增益核聚变的演示。然后你必须建造一个不会出故障的系统。你必须将其规模化。你必须弄清楚如何建造工厂——建造很多座——而且你必须获得监管批准。这总共会花费，你知道，数年时间？但我预计Helion很快就会向你证明核聚变是可行的。
20 Helion是一家清洁能源初创公司，由Altman、Dustin Moskovitz和Reid Hoffman支持，专注于开发核聚变技术。
**短期内，有没有办法在不让气候目标倒退的情况下维持AI的增长？**
有，但在我看来，没有什么比快速批准核聚变反应堆更好的办法了。我认为我们所做的这种核聚变是一种非常美好的技术路径，我们应该全力冲刺实现它，然后问题就解决了。
**你刚才说的很多内容都与政府有关。新总统即将上任。你个人向就职基金捐赠了100万美元。为什么？**
他是美国总统。我支持任何一位总统。
**我理解为什么OpenAI有必要被看到在支持一位特别在意谁支持他的总统，但这是个人捐赠。Donald Trump反对很多你以前支持过的东西。如果我认为这笔捐赠与其说是出于爱国信念，不如说是效忠之举，我错了吗？**
我并不支持Trump所做、所说或所想的一切。我也不支持Biden所说、所做或所想的一切。但我确实支持美利坚合众国，我将尽我所能与任何一位总统合作，为国家谋福利。尤其是为了我认为这个必须超越任何政治议题的重大时刻。我认为AGI可能会在这位总统任期内被开发出来，把这件事做好似乎非常重要。支持就职典礼，我认为这是件相对小事。我不觉得这算什么重大的决定。但我确实认为我们都应该祝愿总统成功。
**他说过他讨厌《芯片法案》。你支持过《芯片法案》。**
实际上我不支持。我认为《芯片法案》比什么都不做要好，但那不是我们应该做的事。我认为后续真的有机会做一些好得多的东西。我不认为《芯片法案》取得了我们任何人所希望的效果。
**显然将在这届政府中扮演某种角色。他起诉你。他在与你竞争。我看到你在DealBook上的评论，你认为他不会利用自己的地位在AI相关事务上搞任何小动作。**
我确实这么认为。
**但恕我直言：过去几年里，他收购了Twitter，然后又起诉想退出收购。他让Alex Jones重新回到了平台。他向Zuckerberg发起笼斗挑战。这些只是他搞小动作的冰山一角。所以你真的相信他会——**
哦，我觉得他会做各种烂事。我认为他会继续起诉我们、撤诉、再提起新的诉讼，诸如此类。他还没向我发起笼斗挑战，但我看他对Zuck也不是认真的。正如你指出的，他说很多话，开始做，又取消，被人告，告别人，和政府打架，被政府调查。这就是Elon，一如既往的Elon。问题是，他会不会滥用自己作为联合总统——或者不管他现在怎么称呼自己——的政治权力来搞商业竞争对手？我认为他不会。我真的不这么认为。不过也可能最后被证明是错的。
**当你们俩合作最顺利的时候，你会怎么形容你们各自为这段关系带来了什么？**
也许是一种互补的精神。我们并不确切知道这会成为什么、我们要做什么、事情会如何发展，但我们有一个共同的信念，即这很重要，这是大致要推进的方向，以及如何纠偏。
**我很好奇实际的工作关系是什么样的。**
在导致他离开的那场决裂之前，我不记得和Elon有过什么大的争吵。但在那之前，尽管有各种各样的传闻——人们谈论他如何训斥别人、如何大发雷霆等等——我并未经历过那些。
你对 Elon 能为 xAI 筹集到如此巨额资金——特别是来自中东的资金——感到惊讶吗？
不，不。他们资本雄厚。这是人们想要的行业。Elon 就是 Elon。
假设你是对的，而且 Elon 和政府都抱有积极意图。那么到 2025 年，特朗普政府能为 AI 做些什么最有帮助的事？
在美国本土建设基础设施，而且要大规模建设。我与总统深度共识的一点是，如今在美国搞建设竟然变得如此困难，简直令人难以置信。发电厂、数据中心，凡此种种。我理解官僚积弊是如何累积的，但这总体上对国家没有好处。当你思考美国要如何在 AI 领域领先时，这就更没益处了。而美国确实需要在 AI 上领先。
*（更正 1 月 5 日发表报道脚注中 Helion 投资者的角色。报道的早期版本已在注释 10 中补充了更多事件描述，并更正了 Zico Kolter 和 DSB 的拼写。）*