Yann LeCun：靠堆大模型到不了 AGI

光靠扩大 MLM 的规模，我们无法达到人类水平的 AI。这不会发生。好吧，这是你的观点。绝无可能。好吧，绝对不可能。嗯，不管你能从我那些更激进的同事那里听到什么，未来两年内这都不会发生。绝对他妈的不可能，说句粗话。嗯，你知道，那种认为我们会在数据中心里拥有一整个天才国度的想法完全是扯淡，对吧，绝对不可能。我们可能会拥有的是这样的系统：它们在海量数据上训练，任何正常人可能提出的任何问题都能通过这些系统找到答案，感觉就像你身边坐着一位博士，但坐在你身边的并不是真正的博士，而是一个拥有巨大记忆和检索能力的系统，而不是一个能够为新问题发明解决方案的系统。嗯，而后者才是真正的博士所具备的。好吧，这其实和一篇帖子有关，那篇帖子说，你知道，发明新事物所需的技能和能力，是你无法从 LLMs 中获得的。所以嗯，这里有一个很大的问题：现在的投资不是为了明天。不是为了明天，而是为了未来几年，而且至少从 Meta 这边来看，大部分投资都用于推理基础设施。好吧。那么假设到今年年底，在 Meta 的计划中，我们通过智能眼镜、独立应用等各种方式让 MAI 拥有 10 亿用户。你必须为这些人提供服务，这需要大量计算。这就是为什么你需要在基础设施上进行大量投资，以便能够扩展规模，并在数月或数年内逐步建设。嗯嗯，至少对于 Meta、Microsoft、Google 以及可能的 Amazon 这些公司来说，所以这本质上只是运营。那么，即使范式没有发生转变，是否会有十亿人定期使用这些产品的市场呢？答案很可能是肯定的。所以，你知道，即使新范式的革命在三年内没有到来，这些基础设施也会被投入使用，这一点几乎毫无疑问。好吧。所以，这是一项不错的投资，而且建立数据中心之类的基础设施需要很长时间，你必须现在就开始，并计划让进展保持连续，嗯，这样最终投资才是合理的，但你不能承担不这样做的后果，因为嗯，因为如果你有现金却不投入，那风险就太大了。但我们回到你说的。今天这些东西仍然漏洞百出，而且一直有人质疑它是否会被真正使用。现在 Meta 在下注消费者市场，对吧？消费者想要使用 AI。这说得通。OpenAI 的 Chat GPT 有 4 亿用户。Meta 有三四十亿。我是说基本上如果你有手机，就有三十多亿用户，Meta 有 6 亿用户，对吧？好吧。所以比 Chat GPT 还多。是的，但但使用频率没那么高，所以用户没有那么活跃。但基本上，Meta 能发展到十亿消费者用户这个想法，看起来是合理的。但问题是，很多投资的前提是这东西对企业也有用，不仅仅是个消费级应用。而这就有问题了，因为正如我们讨论的，它还不够好。嗯，你看看 deep research，这是 Bendic Deans 提到过的东西。Deep research 相当不错，但它可能只能帮你完成 95%，也许还有 5% 的内容是幻觉。所以如果你有一份 100 页的研究报告，其中 5% 是错的，而且你不知道是哪 5%，那就是个问题。同样，在今天的企业里，每家企业都在想办法让 AI 对他们有用，让生成式 AI 对他们有用，以及其他类型的 AI。嗯但只有 10% 或 20% 的概念验证能够真正落地投产，因为要么太贵，要么不可靠。所以如果这就是如果我们已经接近上限了，嗯你预计接下来会发生什么？那些所有被推动的事物，都是基于它从此会变得更好的预期。嗯，所以这又是一个时间线的问题，对吧？这些系统要到什么时候才能变得足够可靠和智能，从而让部署变得更容易？嗯但但你知道我是说你描述的这种状况，你知道，除了那些令人印象深刻的演示之外，真正部署可靠的系统才是计算机和技术使用中容易出问题的地方，尤其是 AI。这并不新鲜。嗯这基本上就是为什么十年前我们就有超级 impressive 的自动驾驶演示。嗯但我们到现在还没有五级自动驾驶汽车，对吧？嗯最难的是最后一英里，可以这么说，最后那百分之几的可靠性——我不是故意这么说的——你知道，最后那几个百分点的可靠性，才让系统变得实用，以及你如何把它和现有系统集成，等等等等，还有你知道它如何让用户更高效，如果你愿意这么说，或者更可靠，或者别的什么。嗯那那那才是困难的地方。嗯我是说信号很明确，你知道，即便到了现在，LLMs 加上所有花里胡哨的功能，实际上仍然扮演着重要角色，至少对于信息检索来说是这样。你知道，大多数公司都希望有某种内部专家系统，能掌握所有内部文件，这样任何员工都能随意提问。我们在 Meta 就有一个，叫 Metamate。挺酷的，也非常有用。是的，我并不是说 AI，或者说现代 AI、现代生成式 AI 没用。我完全是从投资角度在问：已经有大量资金被投入进去，指望这些技术能真正实现神一般的能力。而且我们刚才都在讨论，这里可能存在收益递减的问题。如果出现你提到的那种时间线错配，会发生什么？这是我最后一个相关问题了，因为我觉得我们还有很多其他内容要聊。但我觉得时间线错配这件事，对你来说可能包含一些个人经历。你我第一次交谈是在 9 年前——现在想想真不可思议，已经是 9 年前了。你谈到在早期，你对 AI 的架构有自己的想法，却连会议都无法获得一席之地。后来，当算力终于达到足够水平时，那些想法开始奏效，整个 AI 领域随之腾飞，而这一切都基于你和 Benio、Hinton 等人合作提出的想法。还有很多其他人，不过为了节省时间，我们就不说了，有兴趣可以去查。但回到这些错配的时间线。AI 领域曾有过被过度炒作的时刻，比如你刚才提到的专家系统，如果最终没有按人们预期的那样兑现，整个 AI 领域就会进入所谓的 AI winter。嗯，会出现强烈反弹。是的，没错。那么，如果我们现在可能正接近这样一个时间线错配的时刻，考虑到投入的资金规模，你是否担心会再次出现一个寒冬？鉴于这些系统的主要训练方式可能正面临收益递减，而且我们还得加上一点：股市看起来正在经历一定程度的下行。这是一个变量——大概是我们讨论的第三个重要变量，但也必须考虑进去。所以，我认为——我是说，这里确实有一个时机问题，但如果我们再往深处挖一挖，正如我之前所说，如果你认为只靠训练更多数据、把 LLM 做大就能实现人类水平的 AI，那你就错了。所以，如果你是投资者，投资了一家公司，对方告诉你只要训练更多数据、再耍几个小花招就能达到人类水平、甚至博士水平的 AI，我不知道你会不会赔得精光，但这很可能不是个好主意。不过，关于如何继续前进，确实存在一些思路。我们可以构建出能够完成所有智能动物和人类都能做、而当前 AI 系统做不到的事情的系统。我指的是理解物理世界、拥有持久记忆、能够推理和规划。这四项特征是必须具备的。这要求系统能够习得常识，能够从视频这类自然传感器中学习，而不是仅仅从文本、从人类产生的数据中学习。这是一个巨大的挑战。很多年来我一直在谈这个问题，一直在说这才是真正的挑战所在，是我们必须攻克的难题。我和我的团队，或者说与我共事的人以及听取了我观点的其他人，正在这一方向上取得进展。例如，训练系统通过视频理解世界运行的规律，训练系统利用关于物理世界运作的心智模型来规划一系列行动，以达到特定目标。所以我们已经获得了这类系统的早期成果，DeepMind 也有人在做类似的工作，各所大学里也有人正在研究这个。所以问题在于，这什么时候才能从有趣的科研论文——用新架构展示某种新能力——发展到大规模架构，真正适用于大量应用场景，能够在未经专门训练的情况下为新问题找到解决方案，等等。你知道，这不太可能在接下来三年内实现，但也许在三到五年内会发生，而这与我们目前看到的投资热潮是大致对应的。这是第一点。第二点很重要：不存在什么秘密的灵丹妙药，不会由某一家公司或某一群人发明出来，然后一下子就把问题解决了。这将需要大量不同的想法、大量的努力，以及一些基础原则——其中有些原则可能有人不认同，有人会沿着某个方向走下去，结果却发现那是一条死路。所以，不会出现某一天之前还没有 AGI，第二天就突然有了 AGI 的情况。这不会是一个突变事件。它将是一个连续的概念演进，各种想法会随着时间的推移被放大、规模化，并变得越来越好用。而且它不会来自单一实体，而将来自全球的整个研究社区。那些分享研究成果的人，会比不分享的人前进得更快。所以，如果你认为某地有一家五个人的初创公司发现了 AGI 的秘密，然后你应该给他们投资五十亿美元，那你就犯了一个巨大的错误。