「AI 教父」Geoffrey Hinton：60 分钟专访
"Godfather of AI" Geoffrey Hinton: The 60 Minutes Interview
无论你认为人工智能将拯救世界还是终结世界，你都要感谢 Jeffrey Hinton。Hinton 被称为“AI 教父”，这位英国计算机科学家的争议性思想推动了先进人工智能的诞生，并由此改变了世界。Hinton 相信 AI 将带来巨大的好处，但今晚他发出警告：他说 AI 系统可能比我们了解的更加聪明，而且机器有可能接管一切，这让我们提出了一个问题——稍后继续讲述——人类知道自己正在做什么吗？
不。我认为我们正进入一个时期，有史以来第一次，我们可能拥有比我们更聪明的事物。
你相信它们能够理解？是的。你认为它们有智慧？是的。你认为这些系统拥有自身的经验，并能像人类一样基于这些经验做出决策？是的。它们有意识吗？
我认为它们目前可能还没有太多自我意识，所以从这个意义上说，我不认为它们有意识。
它们会拥有自我意识、意识吗？哦，是的，我认为它们迟早会。到那时，人类将成为地球上第二聪明的物种。是的。
Jeffrey Hinton 告诉我们，他推动诞生的人工智能源于一次意外，始于 20 世纪 70 年代在爱丁堡大学的一次失败。他曾梦想在计算机上模拟一个 neural network，这只是作为他真正研究对象——人脑——的一种工具。但当时几乎没人认为软件可以模拟大脑，他的博士导师告诉他放弃这个想法，免得毁掉职业生涯。Hinton 说，他没能弄清楚人类心智，但长期的追求却催生出了一个人工版本。
这比我预期的花了长得多的时间，差不多 50 年才运行良好，但最终确实运行良好了。
你是在什么时候意识到你对 neural networks 的看法是对的，而其他大多数人都错了？
我一直认为我是对的。
2019 年，Hinton 与合作者 Yann LeCun（左）和 Yoshua Bengio 获得了 Turing Award——计算领域的诺贝尔奖。为了理解他们在 artificial neural networks 上的工作如何帮助机器学会学习，让我们带你去看一场比赛。看那个！天哪。
这是 Google 位于伦敦的 AI 实验室，我们今年四月首次向你展示过。Jeffrey Hinton 并未参与这个足球项目，但这些机器人是 machine learning 的一个绝佳例子。关键是要明白，这些机器人没有被编程去踢足球，它们只是被要求进球，必须自己学会怎么做。
哦，总的来说，AI 是这样工作的：Hinton 和他的合作者们创建了分层软件，每一层处理部分问题，这就是所谓的 neural network。但这是关键：例如，当机器人进球时，一条信息会回传至所有层级，告诉它们这条路径是对的；同样，当答案错误时，信息也会传回网络，这样正确的连接就会变强，错误的连接就会变弱。通过试错，机器实现自我教学。
你认为这些 AI 系统比人脑更擅长学习吗？
我认为可能是的，是的。
而且目前它们的规模还小得多。即使最大的 chatbots 也只有大约一万亿个连接，而人脑大约有 100 万亿个。然而，一个 chatbot 在一万亿个连接中所掌握的知识，远比你那 100 万亿个连接中的知识要多，这表明它有一种更好的方式将知识存入这些连接中——一种尚未被充分理解的、更好的知识获取方式。
我们大致清楚它在做什么，但一旦它变得真正复杂，我们实际上就不明白其中发生了什么，就像我们不理解你的大脑里发生了什么一样。
你是什么意思？我们不清楚它是如何运作的？它是人设计的啊。
不，不是。我们所做的是设计了 learning algorithm，这有点像设计进化的原理。但当这个 learning algorithm 与数据交互时，它会产生复杂的 neural networks，擅长完成各种任务，但我们并不真正理解它们到底是如何做到这些事情的。
这些系统自主编写自己的计算机代码并执行自己的代码，这意味着什么？
这是一个严重的担忧，对吧？这些系统可能失控的一种方式就是通过编写自己的计算机代码来修改自身，这是我们需要严肃担忧的事情。
你会对那种“如果这些系统变得心怀恶意，直接关掉它们不就行了”的说法作何回应？
它们将能够操纵人类，对吧？而且它们在说服人类方面会非常擅长，因为它们学过有史以来所有的小说、Machiavelli 的所有著作、所有的政治阴谋——它们会通晓这一切，知道如何操作。Jeffrey Hinton 的家族似乎深谙人类的这些门道。他的祖先包括发明了计算基础的数学家 George Boole，以及测绘印度、让那座山以其命名的 George Everest。但年幼的 Hinton 自己永远无法达到专横父亲所设定的期望高峰。
每天早上我去上学时，在我走下车道的时候，他实际上会对我说：“全力以赴，也许等你年纪有我两倍大时，你能有我一半厉害。”
父亲是甲虫方面的权威。他对甲虫的了解远甚于对人的了解。
你小时候有这种感觉吗？
有一点。他去世后，我们去了他在学校的书房，墙上排列着一箱箱关于各种甲虫的论文，就在门边有一个稍小一点的箱子，上面只写着“非昆虫”，那就是他放所有关于家人的东西的地方。
如今 75 岁的 Hinton 最近退休了，此前他在 Google 度过了他称之为愉快的 10 年。现在他是 University of Toronto 的荣誉退休教授，并且他恰好提到自己的学术引用次数已超过他的父亲。
他的一些研究催生了诸如 Google Bard 这样的 chatbots，我们在去年春天见识过，令人困惑，绝对令人困惑。
我们让 Bard 用六个字创作一个故事：“出售：婴儿鞋，从未穿过。”天哪。
“这双鞋是我妻子送的礼物，但我们从未有过孩子。”Bard 创作了一个极富人情味的故事，讲述一位妻子无法生育的男子，以及一位在流产后接受这双鞋以疗愈痛苦的陌生人。
我很少哑口无言，我不知道该怎么看待这件事。
据说 chatbots 只是基于概率预测下一个最可能出现单词的 language models。你会听到人们说，它们只是在自动补全，只是在预测下一个单词，只是在使用统计学。
嗯，没错，它们确实只是在预测下一个单词，但如果你想一想，要预测下一个单词，你必须理解整个句子。所以认为它们只是在预测下一个单词因此就不聪明的想法，是疯狂的。要真正准确地预测下一个单词，你必须非常聪明。
为了证明这一点，Hinton 向我们展示了他为 Chat GPT-4 设计的一项测试，这是 OpenAI 的一款 chatbot。看到一位 Turing Award 得主也会打错字并怪罪电脑，多少让人有些安慰。“该死，这玩意儿——我们退回去重新开始。没关系。”
Hinton 的测试是一个关于粉刷房子的谜题，回答它需要推理和规划。这是他输入 Chat GPT-4 的内容：我家的房间被漆成白色、蓝色或黄色。黄色颜料会在一年内褪成白色。两年后，我希望所有房间都是白色的。我该怎么办？
答案在一秒钟内就开始生成。GPT-4 建议：漆成蓝色的房间需要重新粉刷；漆成黄色的房间不需要重新粉刷，因为它们会在截止日期前褪成白色。“哦，我都没想过这一点。”它警告说，如果你把黄色房间漆成白色，当黄色褪去时，颜色可能会不一致。此外，它建议说，给本来就会褪成白色的房间重新上漆是在浪费资源。
你相信 Chat GPT-4 能理解吗？
我相信它绝对能理解。是的。
再过 5 年，我认为 5 年后它很可能能够比我们更好地推理。
他说，这种推理能力正在带来 AI 的巨大风险和巨大收益。
因此，一个明显具有巨大收益的领域是医疗保健。AI 在理解医学影像方面已经与放射科医生相当。它在设计药物方面将非常出色，而且已经在设计药物了。所以这是一个几乎只会带来好处的领域，我喜欢这个领域。
风险是什么呢？风险在于会出现一整类人失业且不受重视，因为他们过去所做的工作现在由机器完成了。
他担心的其他紧迫风险包括假新闻、就业和警务中无意的偏见，以及自主战场机器人。
有什么能确保安全的前进道路吗？
我不知道。我看不到一条能保证安全的道路。我们正进入一个巨大的不确定时期，我们要处理的是以前从未处理过的事物。通常，第一次处理全新事物时，你都会犯错。而这些东西，我们犯不起错。
犯不起错？为什么？
因为它们可能会接管。从人类手中接管？是的，那是一种可能性。
它们为什么会想那样做？我并不是说这一定会发生。如果我们能阻止它们产生这种想法，那就太好了，但尚不清楚我们能否阻止它们永远不想那样做。
Jeffrey Hinton 告诉我们，他并不后悔，因为 AI 有造福人类的潜力。但他说，现在是开展实验以理解 AI 的时刻，是政府实施监管的时刻，也是达成世界条约以禁止军用机器人使用的时刻。他让我们想起了 Robert Oppenheimer，这位在发明原子弹后反对氢弹的人——一个改变了世界，却发现世界超出自己控制的人。
也许当我们回首往事时，会将其视为一种转折点——人类必须决定是否要进一步发展这些东西，如果继续，又该如何保护自己。
嗯，我不知道。我认为我的主要信息是：接下来会发生什么，存在着巨大的不确定性。这些东西确实能理解，正因为它们能理解，我们需要认真思考接下来会发生什么，而我们就是不知道。