谢谢你的到来。我非常期待这次关于 AI 未来与人类未来的对话。我认为你对这两者都怀有深切的关切，而这两者如何交织共舞，正是我最感兴趣的对话主题之一。感谢你加入这段旅程。我想我们先从让大家有机会认识你开始吧。我记得你在波兰长大，我很好奇你的早年生活是怎样的，以及这些经历如何为你日后发展起来的好奇心奠定了基础。好的，让我想想。我很小的时候就对科学充满热情。非常早的时候，我就热爱科学。我热爱数学。但有一段时间，学校老师说我笨，我想说这对我产生了影响，而且影响了我很长一段时间。那段时间我甚至不再做数学了。我转去学化学，因为我觉得在化学领域，我可以自己动手做出东西来。所以我就这么做了。小时候我搭建过实验室，还做过小炸弹，后来才重新回头学数学。甚至在我还是孩子的时候，我就已经对冥想和清醒梦感兴趣了。我觉得小孩子都会对这些感兴趣吧。就化学方面而言，我甚至记得十几岁的时候，我用化肥合成了笑气。我的意思是，我们不都是小时候干过这种事吗？拜托。听着。我们都是这么过来的。是啊。不，是你自己琢磨出来的。我在网上查过怎么做，但那套装置还挺有意思的，你懂的。嗯，是的。然后不知怎的，你最后去了 NYU 学数学。是的，我去 NYU 读了博士，实际上是人工智能方向。这挺有意思的。那时候这已经是个热门学科了。大概十年前或十二年前，它成为人们可以研究的学科，但真正涉足的机构其实很少。坦率地说，可能只有三所主要大学：多伦多、蒙特利尔和纽约。早期的代表人物，比如 Yann LeCun、Geoffrey Hinton 和 Yoshua Bengio，都出自这些机构。这些是主要的研究实验室。你知道，我总有一种感觉，事情在我身上以一种奇妙的方式展开。不知怎的，我拥有的技能恰好 relevant，我热爱的事情恰好是我能够做出贡献的领域。我想说，显然我具备一些技能和天赋，但我也有一种深深的感激之情——你也可以称之为匮乏感——因为我恰好身处现在的位置，而这几乎感觉像是不太可能的。你会想，我身处这样的位置，概率能有多大呢？是的。我也不知道该怎么看待这件事，但至少我得出结论：如果我如此幸运，那么也许我应该用它做点什么，或者说，我应该……我不知道，也许我能带来一些改变之类的。是的，太棒了。那么 OpenAI 的机会是怎么出现的呢？我知道一开始只有你们几个人。你能不能跟我们分享一下那一章是如何开启的？在大多数人看来这还很疯狂的早期，你和其他人的灵感来源是什么？比如，如果你告诉朋友：“我要去这家 AI 公司创造有益的 AI”，我猜大多数人当时会觉得这毫无意义。所以你大概是凭直觉相信可能会发生些什么？你能跟我们讲讲早期组建阶段是什么样的吗？我记得那时候我还在 Google 实习。在那里我学到了一些关于 AI 的知识，同时也在读博士。那时候 AGI 其实是个脏字。它几乎就等同于 artificial general intelligence。对吧？你会被当成疯子。就像“不，我们做的是机器学习”。是的。AGI？你们这些人太疯狂了，要知道这还得几十年才能实现呢。但至少对我来说，我有一种感觉：这是不可避免的。是的。如果你把 AGI 想象成在计算机内部拥有一个数字大脑，那么它将对世界产生巨大的影响。因为就计算机而言，你可以多次复制权重，可以让许多这样的大脑并行学习。这只是时间问题，这种——让我们称之为技术，或者工具，或者实际上你可以用各种各样的方式来看待它——终将会来到世界。这是一件极其重要的事情，值得我们去关注、去研究等等。早期 AI 界的规模其实很小。比如现在动辄数千人的会议，过去只有 200 人。所以大家都互相认识。在 OpenAI 组建初期，我们中有些人互相联系，我记得 Sam 和 Greg Brockman 在招聘方面非常积极。我们去了 Napa，我想是 2015 年 11 月，当时进行了早期的讨论，说我们应该成立一家公司，一个非营利组织。我记得当我告诉我妈妈这件事时，她很担心，因为 Google 有免费食物。哦，是啊。是啊。Sam 才不会给你提供免费食物呢。所以至少在 Google 你能吃饱。是啊，妈妈关注的就是这些，而这很重要。她是为我好。是的。还有一点很有意思，早期我和那里的人交谈时就明显感觉到，很多人都在胸怀大志。这家公司不是试图解决某个特定的小问题，而是试图整体性地思考这项使命。我记得有趣的是，早期我们甚至在白板上写下需要解决哪些核心组件，而多年来事实证明，这些判断非常准确。是的，主要组件之一是无监督学习。嗯，后来证明训练大语言模型——本质上就是大语言模型的预训练——就属于无监督学习。第二点是强化学习。当时它被描述为样本高效的强化学习，而这也是当前这项技术运作的核心。说实话，我不记得其他的要点了，也许它们没那么重要。你能跟我们讲讲吗？因为我对研究 AI 是怎么回事有一点概念，但你会如何描述研究 AI 的感觉？是很多数学吗？我知道需要处理海量数据，需要去理解它们。有没有什么方式可以向普通人描述：比如说“我们要开发下一个模型”，如果别人让我做，我完全不知道从何入手。有没有什么方式可以让人一窥那个世界的样子，以及其中的挑战和机遇？我想说的是，我们目前所处的阶段，各种各样的技能都被证明是极其相关的。让我给你举几个例子。比如，其中一项工作就是弄清楚模型应该具备什么样的个性。模型应该具备什么样的个性。是的。而且你可以运用哲学理论，从用户想要什么的角度来思考。我还听到过一个很有意思的框架，来自我在 Anthropic 的同事。这个框架说的是：我希望模型拥有的个性，应该是我愿意托付将 AGI 部署到世界这一责任的人所具备的个性。想象一下，这个人应该具备什么样的品质？因为在某个时刻，他们可能会承担这项任务，你会希望信任他们的行为方式。有趣的是，对于 AI 来说——这可能比人类更难，也可能比人类容易得多——我们有可能在微观层面非常仔细地审视其行为，比如说审视其行为的每一个维度。例如，你会希望模型能够承认自己的错误。是的。即使它们犯了错，你也希望它们能够承认。这对人类来说也很好，但对模型来说肯定更是如此。还有一点：你可能会觉得，你想要的是模型完全诚实。但当你观察人类时——想想你自己，比如在餐厅里，你不喜欢一道菜，服务员问你味道如何，你说“还行”。你可以说，这是坦率，但不是完全诚实。不过，这也许没关系。是的。再比如，如果某人穿的鞋子我不喜欢，觉得不好看，我也不会走过去说“我不喜欢你的鞋”。虽然这是诚实的，但没什么帮助。所以 AI 可能必须判断什么才是真正有帮助的，而不仅仅是诚实。是的。所以你开始描述，思考 AI 的角度可能是“有帮助”。但问题是，假设有人在伤害自己，AI 应该在多大程度上予以帮助，还是不应介入？前段时间也有一些框架，有人说我们应该创造“爱人类”的 AI，Ilia 就倡导过这一点。这是一个非常有吸引力的愿景。想象一下，你拥有超级智能，它就像一个数据中心，里面有成千上万甚至数百万个 GPU 在嗡嗡运转。你希望这个数据中心对人类怀有善意。听起来不错。这个框架有一定道理，但也会带来一些问题。我可以告诉你为什么。假设你有一家烟草公司。当他们试图——比如说——修改邮件时，模型是否应该拒绝？因为这……我也不确定。而且，我们凭什么判断什么对人类好、什么不好？以前禁酒令时期就有人尝试过，但没用。也许今天最接近的答案是，AI 应该赋能于你。当然也有一些限制，比如它必须遵守法律。即使你想制造一场大流行病，它也不应该帮你。是的，我认为这是对的。这些都是团队必须努力解决的问题。团队必须构建数据集，或者语言系统，让它按照你最期望的方式行动。可以从几个方面来思考。一是性格，就像我们有一份公开的 model spec，描述了我们 AI 的性格。你也可以思考哪些话题不适合谈论。即使在某些话题内部，也有分类体系来规定什么可以、什么不可以。比如在生物领域，有很多问题你可以问，但如果你开始拍摄装有病毒培养皿的照片，也许它就不应该建议你下一步该怎么做了。很好。我刚才描述的只是冰山一角。我想说的是，构建这些——坦白说，我会用“数字大脑”这个词——需要各种各样的技能。其中之一是搭建基础设施。人们正在构建让大量机器协同工作的系统。这些系统并不那么可靠。一台机器大概每三年出一次故障，但如果你有数千台机器，那就意味着每天都可能出故障；如果有一万台，每天就可能有十次故障，每个部件都可能出问题。所以有人负责基础设施，还有人负责神经网络对应的精确数学运算，确保这些运算能在 GPU 上快速完成。也有人致力于确保我们能最大限度地利用这些 GPU，甚至能用降低数值精度的方式运行，等等。哇，这涉及好多内容，谢谢你。而这还只是开始。过去这些年，你似乎进行了两方面的探索：一是构建 AGI，或者说以一种有效且有益的方式构建人工智能；另一个领域是意识、觉察与福祉。我好奇两个问题：一是你认为这两者之间是否有联系；二是在内在探索方面，是什么动机促使你开始进行一些不同的练习来探索自己的内心世界，又有哪些发现对你产生了深刻影响？让我先说明一下，这是 Wisdom 2.0，我们既谈 2.0，也谈智慧。不过是的，请谈谈你的内在探索、动机，以及你学到了什么。我先回答第二个问题，再回答第一个。对我来说，冥想带来了极其深刻的转变。我也有过迷幻药和冥想的体验。我有过各种各样的经历，比如冥想后突然泪流满面，被爱淹没；我能看到身体的反应，比如身体某些部位在颤抖之类的情况。是的，视角发生了转变。你会如何描述这种视角的转变？描述一下。我会这样描述：在某种程度上，原来一个人可能对某件事耿耿于怀二十年，甚至一辈子，而自己却浑然不觉。看到这一点很有意思。我们说的是情绪释放。当你面对它的那一刻，它突然消散、松动了，身体会有明显的反应。奇怪的是，从像素层面看，你的视野其实没有变化，但不知怎的，在细微之处变得不同了。让我感到惊奇的是，你可以在头脑中进行某些操作，从而将视角转向爱。这太让我惊讶了。你的神经系统会随着那个故事或经历的释放而非压抑而发生转变。没错。你本质上变成了另一个人，或者说一个更开阔的人，就是因为那个转变。没错。我想说，对于那些冥想确实有效的人来说，他们明白我在说什么。但我也想说，并非所有人都这样。有些人尝试冥想，但并没有产生这样的效果。我觉得我很幸运，找到了适合自己的东西。这几乎是那种一旦看见，就再也无法视而不见的东西。对。而且我觉得，这几乎可以说打破了你对现实的认知模型。对。那么，如果你愿意的话——你也可以不回答，或者给一个更宽泛的答案——我很好奇，因为我认识的很多人，他们开始冥想或某种迷幻之旅，通常是因为有痛苦、事情不顺利，或者内心有某种扰动。所以我很好奇，你当初进入那个领域只是出于好奇，还是因为对 AI 的某种担忧，比如想成为一个更清澈的容器来构建 AI，还是多种因素都有？对我来说，说实话，就是好奇。这就像是生命中的另一个维度，似乎非常有趣。简直不可思议，竟然存在这样一种东西。你向别人描述，他们不相信，而一旦你亲身体验了，那种感受就会伴随你一生。而且你要知道，想想看为什么有那么多人是宗教信徒，为什么宗教有如此强大的力量，那是因为他们中的许多人都有过强烈的精神体验。对。你有没有发现，在 AI 社区里，也有很多人对意识这个层面感兴趣？AI 是否有可能在这方面提供支持，还是说这一点仍有待探索？因为历史上看，科技——我们聊过这个——它们让我们更高效、更有知识，但它们是否让我们更快乐、更充实、更敞开心扉？无论是社交媒体、iPhone 还是其他各种东西，它们在某些方面确实很有帮助。那么，在我们进入这个新篇章之际，我很好奇，你对于如何确保这两个世界产生互动有什么想法或好奇？或者你会说这两个世界并不互动——你需要冥想静修来处理某些事情，而需要 AI 来获取其他东西。我们先从一件显然正在发生、且将带来变革的事情说起：AI 治疗师。有趣的是，AI 具备一些真人治疗师很难提供的特质。它可以全天候随时待命，拥有无限的耐心，对你告诉它的所有事情都有无限的记忆，而且不会分心。另外，我现在说的可能是它未来可能或将会达到的状态。到目前为止，人们已经发明了各种各样的治疗方法。嗯。但很难说哪种有效、哪种无效。通常治疗师使用的，可能是对他们自己有效的方法。然而，对于 AI 来说，它熟悉每一种技术，而且可以想见，未来它能够找到真正适合你的方法——比如说，如果你是基督徒，那是一种方式；如果不是，则是另一种方式。找到能与你对话、真正让你敞开心扉的东西。此外，即使在用 Google 搜索时，人们也会比对自己的伴侣更诚实，我相信对 AI 模型也是如此，或者正在变得如此。它能帮助我们对自己的伴侣更诚实吗？希望如此。那么，我觉得 AI 的发展有几种可能的走向。我想我可以想象两个不同的世界，也许它们甚至会同时发生。一个方向是，AI 教导我们、打开我们的心胸、帮助治愈创伤、帮助我们与他人建立连接。这就像是，本质上说，红色药丸或蓝色药丸——哦，我搞混了药丸。其中一种药丸。好吧，一个方向。而另一个选择是，它会造成依赖，而且不会把任何特定的技能传授给我们。我觉得这在某种程度上取决于特定公司的议程、市场力量，以及说实话，人们最兴奋的是什么。这还有待观察。我可以想象它走向任何一个方向，或者两者同时发生。这实际上正是我的下一个问题。我们不知道一切将如何展开。但你有没有一种感觉，如果我们做得非常好，如果 AI 成为对人类来说真正卓越的工具，人类也随 AI 一同成长，我们需要什么才能实现这一点？又该如何降低它变得有害的可能性？因为我知道 AI 界有很多人担忧，对吧？他们看到了这种力量，知道如果这种力量落入心怀不轨者手中，可能被用来操纵、控制或传播虚假信息；但如果方向正确，它也可以被用于所有这些美好的方式。你看到了哪些可能的世界？作为普通公民，我们有没有什么可以做的，来帮助它走向一个更有益的方向？让我想想。也许我可以这样转述这个问题：我们能做些什么来提高 AI 惠及全人类的概率？从历史上看，我以为这个问题的唯一答案就是构建 AI、确保它的安全，就这些了。是的。然而现在我意识到，实际上还有很多其他答案，而且其中不少相当有趣。让我列举一些。其中之一是，即便你看人们对 AI 的恐惧，其中一种恐惧与经济有关——它将对经济产生什么影响，对个人的生计又意味着什么。人们有一些自己笃信的意识形态，比如资本主义会解决一切，或者应该推行 UBI，也就是全民基本收入。对，非常感谢。实际上，我认为经济学家有一个巨大的机会，那就是开始构建新的经济模型，从而能够预测 AGI 经济将会是什么样子，因为旧模型的一些假设正在失效。同时也要尽可能好地追踪它，知道何时该做预测。你甚至可以在三个月、六个月后看看它是否符合现实。这是一种非同小可的知识，如果我们拥有了它，就能帮助提出实际的建议，比如政府该做什么，或者个人在经济层面该做什么。这是第一点。让我再讲另一点，我觉得你会感兴趣。就拿社交媒体来说，它原本承诺要将我们连接起来。然而我们发现，有证据表明对很多青少年来说，它实际上加剧了抑郁，甚至提高了自杀率。我觉得这并非有意为之，但不管出于什么原因，它确实发生了。而在 AI 方面，存在着惊人的机会。如果我们最终发现，AI 非但没有实现它本可以创造的所有这些惊人事物，反而让人们更孤独、情绪更痛苦，甚至精神失常，那将是非常不幸的。要知道，解决这个问题的一种途径，实际上还是要去衡量。比如说幸福感，它包含很多维度，像是情感健康、人际连接、身体健康、生理健康等等。如果我们能够进行测量——我们可以从多个角度来测，比如使用它的人和不用它的人分别会怎样，使用一段时间后会怎样，对孩子们又会产生什么影响——我们对此了解得越多，就越有机会去针对特定群体进行改善。所以，如果我们不了解情况，就无法改进。没错，我们无法改进。因此我认为，对于“我们能做些什么来提高 AI 向好发展的概率”这个问题，这又是一个答案。我还有其他答案。好的。你可以认为 AI 本质上是一种二元性技术，这意味着它既可以用于善，也可以用于恶。举个例子，它有可能被用来治愈各种疾病，我对此感到非常兴奋；但同样的模型智能也可能被用来制造大流行病。是的。类似的情况也适用于网络领域。它可以被用来开发软件，入侵军事基地或窃取核密码。因此，如果我们希望 AI 向好发展，也许我们应该把攻防之间的平衡向防御倾斜。防御能力越强，世界就会越和平。所以我想说，这也是这个问题的一个答案。实际上我想说，令我惊讶的是，我发现这个问题竟然有这么多答案。我们能做些什么来提高 AI 向好发展的概率？而且，要说我们不应该把攻防平衡向防御倾斜，恐怕很难找到持不同意见的人。我猜想还有更多答案。我自己也有一些想法，但某种意义上，我几乎是在呼吁大家——无论是个人还是组织——都去问自己这个问题。这完全不涉及竞争，如果有人在这个问题上取得进展，或者做了大家普遍认为能提高 AI 向好发展概率的事情，那太棒了。是的，这很棒。承担这种责任是什么感受？你是必须直面所有这些问题的少数人之一。这会让你感到沉重吗？我知道你有团队，还有很多人和你一起承担，但你感觉这如何影响了你的生活？你会不会有时半夜醒来，想着“我是不是忘了什么”或者“那个问题怎么办”，内心是什么感受？也许这就是你去参加冥想静修的原因。我猜这很有帮助。这也是我要去冥想的原因。我想说，以下是我对此的体会。当你思考 AI 的潜力与风险，并真正深刻内化这一点时，它会震撼你的内心。就像你突然意识到，这场探索无关 OpenAI，它实际上要宏大得多。是的。我看到很多人基本上被这项使命的宏大程度所击垮。这就像是要求你去拉动一列火车，它会把你耗尽。所以，以下是我给自己的定位。我认为，深深相信自己能够带来改变，这仍然很有价值，那是一种深层的赋权感。但我认为，如果你对此相信得太过头——如果这是你唯一相信的东西——它要么会把你燃尽，要么会让你变得傲慢。是的。那么另一种选择是，认为自己只是拼图中的一个小碎片，也许自己做的事无关紧要。我要说，如果你太过相信这一点，你就会陷入绝望。然而，以这种方式看待自己，其中也蕴含着某种谦逊。我认为我的态度是试图同时保有这两者，而我发现这对我来说是最健康的。是的，这很美。我想问你，我们刚刚参加了一场高中毕业舞会，就在毕业前夕。我和那些父母们聊天，妈妈们、爸爸们都说：“我不知道该让孩子在大学里学什么。”还有一些即将大学毕业的孩子，实际上我儿子下周就要从 NYU 毕业了。他和他的朋友们都觉得，世界变化太快了，过去有的工作和现在的工作……他们知道我对 AI 很感兴趣。于是他们问我：“好吧，Saurin，我们的孩子应该学什么？”我说：“我真的不知道你的孩子该学什么，追随他或她的心之所向就好。”
但我说：“我确实有些建议。”我说：“尽可能多地学习 AI，因为如果你懂得如何使用 AI，你对公司的价值可能会更高，这有点像是在最大化你的能力。但我也认为，随着 AI 的发展，人类对人际连接、冥想静修和精神性的需求也会以 AI 可能无法触及的方式发展。因此，在这两个方向上可能都会出现有趣的职业。”
但我说最重要的是，你的孩子要认识自己，对吧？要真正成长为一个人，因为这种能力会让他们能够调整、迭代，并对任何环境保持韧性。这是正确答案吗，还是另有其解？因为很多人看着这个世界，心里在想：我该做什么才是稳妥的？世界要往哪里去？我怎样才能确保自己不会迷失？我很好奇，我知道你的孩子还很小，但总有一天会长大，也要在这个世界上寻找方向。你对此有什么想法？这个答案真的很好。我可以告诉你，我要说的在某种程度上就是对你刚才所说的一种转述。有些学生是为了考试而学习，试图在某一门考试中拿满分，但我不建议这样。我想说，你应该去理解基础原理。深入理解核心思想，远比浅尝辄止地了解一大堆东西要重要得多。即使在我们将生活在拥有超级先进 AI 的世界的想象中，你能理解多少事物的运作逻辑，仍然会带来区别。而且世界可能会——或者至少这是我们正走向的愿景——成为一个富足的世界，届时会有各种各样的机会，取决于你理解什么。那么，你相信我们很可能会走向一个富足的世界吗，还是说现在真的很难判断？所以我要说，就 AGI 而言，我相信它将能够创造巨大的财富。我相信各种疾病会被治愈。我相信新材料会被发明出来。也许我的思维模型是这样的：把一百年压缩到十年。所以我是这样看待这件事的。我们已经看到，在当代模型中，那些在某一特定问题上钻研多年的科学家们感到非常惊讶：他们突然向模型提问，模型在几分钟内就解决了他们的问题。比如 AlphaFold 等领域。有一位科学家，当他看到模型解决了他们的问题时，质疑到了如此程度，以至于他认为模型在偷看他的邮件——他无法相信，觉得模型在以某种方式作弊。所以我认为，从科学的角度来看，我们将能够解决大量问题。我也认为，从医学角度来看，许多疾病的研究将取得进展。长期以来，我们开展医学研究的方式几乎就像这样：一个人在森林里行走，看到一株植物，就试试看会发生什么。我们就是这样进行医学研究的，而且持续了很长时间。直到最近，才有了某种智能设计。我在读一篇博客文章，描述 mRNA COVID 疫苗究竟如何运作，它的设计看起来几乎就像编写计算机程序。就像是，有这样一段序列，AAA，它的作用是与这个受体结合，然后做这个，等等。于是我可以想象以下情景：想象将会存在数据中心。你有一个巨大的数据中心，同时运行数千个实验，真正理解这些实验，并提出新的实验。而目前对人类来说，这实在是太多了。人们开玩笑说，我们有专门看左耳的医生和专门看右耳的医生，他们是不同的人。而对 AI 来说，同时掌握如此庞大的知识毫无问题。所以，如果我想想医学、科学发现、教育这些领域，我认为我们可以取得巨大进步。我几乎相信，人们实际上无法理解所能达到的进步程度。也许可以这样思考：我说过100年的进步会被压缩到10年内，那么也许我不知道接下来10年会压缩多少，但如果你想想250年前人们的生活，大多数人都在种地。你待在农场里，太阳炙烤着你的背，你长时间劳作，非常疲惫，这就是你的一生，你在30岁就去世了。如果让他们想想我们现在的生活，他们会觉得——就像有 influencer 这种工作。是的，我到现在仍然很难相信这是真的。而且我觉得人们不相信这是一份工作。是的，是的。其实这是一份收入很高的工作。所以我认为这将带来巨大的富足，但显然有很多事情需要注意。例如，第三次世界大战是可能发生的，这并非不可能。大国之间的斗争，是的，这是一种可能性。AI 也有可能被用于其他恶意用途，就像我多次提到的，比如生物武器，甚至是黑客攻击，比如入侵核代码等，这本身就可能引发第三次世界大战。而且在社会层面上，也可能以各种方式呈现。所以你可以想象，我们同时解决了所有这些科学挑战，但同时，一些人会在经济上或精神上受到负面影响。所以，这就是我的意思。你必须同时考虑这么多可能性，包括这样一种可能：我们将成为有史以来最健康、最长寿、最健美、最聪明，同时也最抑郁的人口。就像我们拥有一切，却不知道我们是谁，这也是可能的。我很高兴你在问这些问题。我认为我们所拥有的那些打开心门的体验，无论是迷幻药、冥想、自然还是祈祷，或者人们发现的任何东西，我希望这些能继续存在，希望这两个世界能够共舞。对我而言，我真的很高兴有像你这样的人在努力思考这些问题，并明白你对自己的修炼能让你更好地承载这个空间，对吧？你对自己的修炼能让你看清所有这些碎片，并尽可能清晰地做出决定，从一个尽可能清晰的地方出发。你还问了一个关于意识与 AI 之间关系的问题，我还有一些想法。这个问题可以从多个层面来探讨。你可以问 AI 能在多大程度上帮助我们认识自己，这是一个层面；还有一个层面是，什么是意识，AI 是否有意识。它是否有意识？我不这么认为。我们只剩几分钟了，但我很好奇你对此的看法。嗯，暂时别担心时间。如果你发现它有意识了，会告诉我们吗？给我发条短信就行。我还想讨论一下，如果它有意识，那会是怎样的一种意识？以及如何检验它是否有意识。这是两个不同的问题。那么，关于如何检验 AI 是否有意识，目前我听到过的最佳答案可能是将其与你的大脑连接。如果你感到某种扩展，虽然我不知道那意味着什么，但你可以说它在某种程度上扩展了你的意识。这不是一个完美的实验，因为我们知道有些东西本身没有意识，但当你把它们放进大脑后，你会感到意识扩展了。但这是一个方法。还有一种可能：想象一下，模型是在谈论意识的数据上训练的；但如果有人把所有数据都编辑过，让它们在任何意义上都不提及意识的概念，然后你用这些数据训练模型，再与它对话，结果模型说"我想你知道，我一直在想这件奇怪的事，我不知道该怎么称呼它"，然后开始向你描述。这可能是另一种证明 AI 是否有意识的方式。让我再向你描述一下，如果它有意识，那会是怎样的一种意识。目前的模型是在所有现存数据上进行预训练的。它们吸收了互联网上所有可用的人类知识，因此能够模仿任意人格。同时，每当你开启一个新会话时，模型的记忆就被清除了。目前有一些方法可以将相关历史事实放入上下文，但这就像从 GPT-3 到 GPT-4，你是从头开始的。不，我的意思是下面这样：假设你开启一个新聊天。这个新聊天——就像如果我跟你开启一个新聊天，你可以提及我们之前的对话。不过，当我新开一个 ChatGPT 对话时，通常它不会引用之前说过的任何内容，整个体验就是从对话开始到结束。所以，有一部电影叫《记忆碎片》（Memento），讲的是一个记忆受损的人，他通过纹身来提醒自己什么是真实的、什么不是。所以，这有点像 ChatGPT，它会像“等一下”，然后看看，“哦，原来我正在和这个人聊这个”，这样就说得通了。好的。我们差不多要结束了，我想问一下，我知道你有一个年幼的孩子，也许将来某个时候——10年、15年或者20年后——这个孩子会听到或看到这段访谈。我很好奇，你想给我们留下什么样的信息，或者你想对他说什么——就好像他多年以后在看这段视频——比如，这是我的希望，以下是一些我认为重要的、需要我们关注或铭记于心的事情，当我们迈入这个新篇章时。是的。我是说，我内心深处希望这个世界对我的孩子来说是美好的。如果不是这样，那就糟透了，那还有什么意义呢？对吧。为了增加这种可能性，你认为听这期节目的任何人可以去关注哪些一两件事，可能有助于增加这种可能性？这听起来可能有点抽象，但我会说，让他们问自己这个问题：可以做些什么来提高 AI 向好发展的概率？我相信人们接受过如此不同的训练，拥有如此不同的视角，实际上当我们开始问这个问题时，就会出现一些新颖的答案。像律师、医生、软件工程师这样的人，都会有不同的答案，而我认为这正是应该问的正确问题。是的，说得好。因为我正视着这件事正在发生的现实。我知道我看到的世界不及你看到的一半，但我正视这个现实，我有时候想摇醒人们说，你们知道正在发生什么吗？这件事正在发生，而且发生得非常快。对我来说，还有意识的提升和升级。我们需要一种新的意识模式。我们越有意识、越清醒，越致力于处理自己的创伤和疗愈自己，对我们来说，这可能是最好的机会，让我们能够以有益的方式运用即将到来的任何力量。但是，如果我们不致力于自我成长，而是固守旧有的模式，我认为我们可能就不太可能以积极的方式驾驭即将到来的力量。我知道，关于如何拓展和敞开我们的内心，这听起来有些模糊，但对我来说，这是一个我非常感兴趣的领域，因为当 AI 升级时，意识是否也能随之升级。我其实几乎可以说，如果你看任何一款 Apple 产品，你都能看到 Steve Jobs 的影子。也许不是每一款产品都完全如此，但是——是的，他的个性。没错。所以，我认为这对其他任何公司来说也是如此。是的，你会在他们创造的科技的各个部分中看到领导者的个性。而且，你看——我认为非常重要的是，我们要共同向往我们想要构建的那个世界版本。不必执着于为谁辩护也是有道理的，努力做到乐于助人，寻找真正对每个人来说都是双赢的解决方案，这也是有道理的。是的。你知道，前几天我在想，还有什么可以做的事，总体上会对 AI 有益，那就是把前沿公司的 CEO 们送去参加冥想静修或心理治疗。嗯哼。这非常——是的，是的。政客们。让我们把政客也加进去吧，老兄。那将是个好建议。是的，是的，是的。好吧，Jack，非常感谢你。谢谢你与我们分享这个世界，分享你的观点。你处于一个非常独特的位置，我们真的很感激你让我们得以一窥你看到的世界，以及你内在成长的旅程。所以非常感谢你。谢谢。好的。