OpenAI is throwing everything into building a fully automated researcher
OpenAI 正倾尽全力打造一名全自动研究者
OpenAI 首席科学家 Jakub Pachocki 在一次独家访谈中谈及该公司的新宏伟挑战与 AI 的未来。
OpenAI 正在重新聚焦其研究工作，并将资源投入到一个新的宏伟挑战中。这家总部位于旧金山的公司已瞄准构建其称之为 AI researcher 的系统——一个全自动的 agent-based 系统，能够独立去处理大型复杂问题。OpenAI 表示，这一新的研究目标将成为其未来几年的“North Star”，将多条研究线整合在一起，包括 reasoning models、agents 和 interpretability 方面的工作。
甚至还有一个时间表。OpenAI 计划在九月前构建出一名“自主 AI 研究实习生”——一个能够独立承担少量特定研究问题的系统。这名 AI 实习生将是为 2028 年推出的全自动 multi-agent 研究系统铺路的前身。OpenAI 称，这位 AI researcher 将能够应对对人类而言过于庞大或复杂的问题。
这些任务可能涉及数学和物理——例如提出新的证明或猜想——或者生命科学如生物学和化学，甚至商业与政策难题。理论上，你可以把任何能用文本、代码或白板随手涂写表述的问题丢给这样的工具——这涵盖了非常多的领域。
多年来，OpenAI 一直在为 AI 行业设定议程。它早期在 large language models 领域的统治地位塑造了数亿人每天使用的技术。但它如今面临着来自 Anthropic 和 Google DeepMind 等竞争对手 model makers 的激烈竞争。OpenAI 接下来决定构建什么——对它自身以及 AI 的未来——都至关重要。
这一决定的很大一部分落在 OpenAI 首席科学家 Jakub Pachocki 身上，由他制定公司的长期研究目标。Pachocki 在 GPT-4（一款于 2023 年发布的变革性 LLM）以及所谓的 reasoning models（这项技术于 2024 年首次出现，如今支撑所有 major chatbots 和 agent-based systems）的开发中都扮演了关键角色。
在本周的一次独家访谈中，Pachocki 向我详细介绍了 OpenAI 的最新愿景。“我认为我们正接近这样一个节点：我们将拥有能够像人类一样以连贯方式无限期工作的模型，”他说。“当然，你仍然希望由人类来负责并设定目标。但我认为我们会达到这样一个阶段：你某种程度上拥有了一整个放在数据中心里的研究实验室。”
这类宏大的宣言并不新鲜。通过解决世界上最难的问题来拯救世界，是所有顶尖 AI 公司宣称的使命。Demis Hassabis 在 2022 年就告诉我，这正是他创立 DeepMind 的原因。Anthropic 的 CEO Dario Amodei 表示，他正在打造一个相当于“一整个数据中心里的天才国度”的系统。Pachocki 的上司 Sam Altman 想要治愈癌症。但 Pachocki 表示，OpenAI 如今已经具备了实现这一目标所需的大部分条件。
今年一月，OpenAI 发布了 Codex，这是一款 agent-based 应用，能够即时生成代码以在你的计算机上执行任务。它可以分析文档、生成图表、为你整理收件箱和社交媒体的每日摘要，等等。（其他公司也发布了类似的工具，例如 Anthropic 的 Claude Code 和 Claude Cowork。）
OpenAI 声称，其大多数技术人员如今都在工作中使用 Codex。Pachocki 表示，你可以将 Codex 视为 AI researcher 的一个非常早期的版本：“我预计 Codex 会在根本上变得更好。”
关键在于打造一个能在更长时间内运行、且更少需要人类指导的系统。“我们对于自动化研究实习生真正期待的是这样一个系统：你可以向它委派那些原本需要耗费一个人好几天时间的任务，”Pachocki 说。
“有很多人对构建能够进行更长期科学研究的系统感到兴奋，”Allen Institute for AI 的研究科学家 Doug Downey 说，他与 OpenAI 没有关联。“我认为这在很大程度上是由这些 coding agents 的成功所推动的。你可以将相当繁重的编码任务委派给 Codex 这样的工具，这非常实用，也令人印象深刻。而这又引出了一个问题：我们能否在编程之外，在更广泛的科学领域做类似的事情？”
对 Pachocki 来说，答案显然是肯定的。事实上，他认为这只是沿着我们已经在走的道路继续推进的问题。他说，全方位能力的简单提升也能带来无需帮助即可工作更长时间的模型。他指出，从 2020 年的 GPT-3 到 2023 年的 GPT-4，这两款 OpenAI 先前的模型实现了飞跃。他说，即使没有专门的训练，GPT-4 也能够比其前身更长时间地处理一个问题。
所谓的 reasoning models 带来了又一次提升。训练 LLM 逐步解决问题，在犯错或碰壁时回溯，这也使模型更擅长长时间工作。Pachocki 确信，OpenAI 的 reasoning models 会继续变得更好。
但 OpenAI 也在通过向系统投喂复杂任务的特定样本来训练它们更长时间地独立工作，例如从数学和编程竞赛中选取的难题，这迫使模型学习如何跟踪超大块的文本、如何将问题拆分为多个子任务并加以管理。
目标并不是建造仅仅能在数学竞赛中获胜的模型。“这能让你在将其与现实世界连接之前，证明这项技术是可行的，”Pachocki 说。“如果我们真的想，我们可以打造一个惊人的自动化数学家。我们拥有所有工具，而且我认为这相对容易。但这不是我们现在要优先做的事，因为，你知道，既然你已经相信自己能做到，还有更紧迫的事情要做。”
“我们现在更专注于与现实世界相关的研究，”他补充道。
眼下，这意味着将 Codex 在编程上的能力尝试应用到一般性的问题解决中。“一场巨大的变革正在发生，尤其是在编程领域，”他说。“我们的工作与哪怕一年前相比也已完全不同。没有人再一直手动编辑代码了。相反，你管理的是一群 Codex agents。”如果 Codex 能解决编程问题（该论点认为），它就能解决任何问题。
确实，OpenAI 在过去几个月里取得了一系列显著的成功。研究人员已经使用 GPT-5（为 Codex 提供支持的 LLM）发现了若干未解数学问题的新解法，并在一些生物学、化学和物理学难题上突破了看似已经走到尽头的僵局。
“光是看着这些模型提出那些至少会耗费大多数博士生数周时间才能想到的点子，就让我预期在不久的将来会看到这项技术带来更大幅度的加速，”Pachocki 说。
但 Pachocki 承认，这并非已成定局。他也理解为什么有些人仍然怀疑这项技术究竟能带来多大的变革。他认为这取决于人们喜欢的工作方式以及他们需要做什么。“我能理解有些人可能还觉得它不太好用，”他说。
他告诉我，就在一年前，他甚至都不用自动补全——这是生成式编码技术最基础的形式。“我对自己的代码非常较真，”他说。“如果可以的话，我喜欢在 vim 里全部手动输入。”（Vim 是一款深受许多硬核程序员喜爱的文本编辑器，你通过数十个键盘快捷键而非鼠标来操作。）
但当他看到最新模型能做什么时，情况就变了。他仍然不会把复杂的设计任务交出去，但当他只是想尝试几个想法时，这很省时间。“我可以让它在一个周末里跑完实验，而以前这些实验的代码我得写上一周，”他说。
Pachocki“我不认为它已经达到了那种水平，可以让我完全放手，让它主导并设计整个项目。但一旦你看到它完成了某些通常要花一周时间才能做完的事情——我的意思是，这就很难反驳了。”
Pachocki 的计划是大幅增强 Codex 等工具现有的问题解决能力，并将其应用于各个科学领域。
Downey 认为自动研究员的想法非常酷。
Downey“要是明天早上回来，发现智能体已经完成了一堆工作，还有新的结果可供我们查看，那就太令人兴奋了。”
但他警告说，构建这样一个系统可能比 Pachocki 所说的要困难。去年夏天，Downey 和他的同事们在一系列科学任务上测试了几款顶尖 LLM。OpenAI 的最新模型 GPT-5 表现最好，但仍然犯了不少错误。
“如果你必须把多个任务串联起来，那么连续几个都做对的概率往往会下降。”Downey 承认，事态发展很快，他还没有测试过 GPT-5 的最新版本（OpenAI 两周前发布了 GPT-5.4）。
“所以那些结果可能已经是过时的数据了。”
我就此询问了 Pachocki：一个能在几乎无人监督的情况下自行解决大型复杂问题的系统，会带来哪些风险？Pachocki 说，OpenAI 的人一直都在讨论这些风险。
Pachocki“如果你相信 AI 即将大幅加速研究，包括 AI 研究本身，那将是世界的一场巨变。这是一件大事。而且随之而来的是一些尚未得到解答的严重问题。如果它如此聪明能干，如果它能运行整个研究项目，万一它做了坏事怎么办？”
在 Pachocki 看来，这种情况可能以多种方式发生。系统可能会失控。它可能被黑客入侵。或者它可能只是误解了指令。
OpenAI 目前应对这些担忧的最佳技术，是训练其推理模型在工作时分享它们正在做什么的细节。这种监督 LLM 的方法被称为 chain-of-thought monitoring。
简而言之，LLM 在接受训练时，会在逐步处理任务的过程中，在一种类似草稿纸的地方记下笔记。研究人员随后可以利用这些笔记来确保模型按预期行事。昨天，OpenAI 公布了新的细节，介绍其内部如何利用 chain-of-thought monitoring 来研究 Codex。
“一旦我们发展到让系统在大规模数据中心里长时间基本自主运行，我认为这将是我们真正要依赖的东西。”
其思路是利用其他 LLM 来监控 AI 研究员的草稿笔记，在问题发生之前捕捉到不良行为，而不是从一开始就试图阻止不良行为的发生。我们对 LLM 的了解还不足以完全控制它们。
“我认为要过很长时间，我们才能真正地说，好了，这个问题已经解决了。在你能真正信任这些系统之前，你肯定希望有一些限制措施到位。”Pachocki 认为，非常强大的模型应该被部署在 sandbox 中，与任何它们可能破坏或用于造成伤害的东西隔离开来。
“这将是一件非常奇怪的事情。这是一种极度集中的权力，在某些方面是前所未有的。想象一下，你进入了一个世界，在那里你拥有一个数据中心，它能完成 OpenAI 或 Google 所做的全部工作。过去需要大型人类组织才能完成的事情，现在只需要几个人就能做到。”
AI 工具已经被用于想出新型网络攻击。有人担心它们会被用来设计合成病原体，用作生物武器。你可以在这里插入任意数量的邪恶科学家恐怖故事。
“我确实认为我们能想象出一些令人担忧的情景。”
“我认为这对政府来说是一个需要解决的大挑战。”
然而，有些人会说政府本身就是问题的一部分。例如，美国政府希望将 AI 用于战场。Anthropic 与 Pentagon 之间最近的对峙揭示出，整个社会对于如何以及不该如何使用这项技术划定红线，几乎没有共识——更不用说该由谁来划定红线了。在那场争议发生之后，OpenAI 立即站出来与 Pentagon 签订协议，而不是它的竞争对手。局势仍然扑朔迷离。
我就此追问 Pachocki。他是否真的信任其他人来解决这个问题，还是作为未来的关键架构师，他感到个人有责任？
“我确实感到有个人责任。但我不认为这能靠 OpenAI 单独解决，无论是以某种特定方式推进其技术，还是以某种特定方式设计其产品。我们肯定需要政策制定者的大量参与。”
那么这把我们置于何地？我们真的走在 Pachocki 所设想的那种 AI 的道路上了吗？当我问 Allen Institute 的 Downey 时，他笑了。
Downey“我在这个领域已经工作了二十年，我不再相信自己对于某些能力离我们有多近或多远的预测。”
OpenAI 的既定使命是确保 artificial general intelligence（一种假想的未来技术，许多 AI 支持者相信它将能在大多数认知任务上与人类匹敌）惠及全人类。OpenAI 的目标是率先实现它。但在我与 Pachocki 的谈话中，他唯一一次提到 AGI 时，就迅速澄清了他的意思，转而谈论“经济上具有变革性的技术”。
PachockiLLM 并不像人类大脑。“它们在某种程度上与人表面相似，因为它们主要是在人类对话数据上训练的。但它们并非通过进化形成的，因此效率并不高。”
“即便到 2028 年，我也不期望我们会拥有在所有方面都像人一样聪明的系统。我认为那不会发生。但我不认为这是绝对必要的。有趣的地方在于，你不必在所有方面都像人一样聪明，也能带来极大的变革性影响。”