Lipson教授直面人工智能中最难的问题——自我意识

本文专访了著名机器人专家 Hod Lipson，讨论如何定义机器人的自我意识，为什么机器人的自我意识很重要，以及它可能带来什么。你认为 AI 会有意识吗？拥有自我意识的机器人离我们还有多远？

“我想在有生之年见到一个外星人，”哥伦比亚大学创意机器实验室的机器人专家霍德·利普森(Hod Lipson)说：“我想认识一些非人类的智慧生物。”

但是，Lipson并不是坐等这些外星生物的到来，而是想亲自打造它们——以具有自我意识的机器的形式。

为了达到这个目的，Lipson公开地面对一个棘手的概念——意识——这在他的同事中常常被视为禁忌。他说：“在机器人和人工智能领域，我们曾经视意识为禁忌，我们不允许触及这个话题。”“但在我看来，意识可以说是一个悬而未决的大问题，与生命起源和宇宙起源一样。什么是感知，什么是创造力？什么是情感？我们想知道人之所以为人的意义，我们也想知道如何人为地创造出这些东西。是时候直面这些问题了。”

根据Lipson的观点，感知或自我意识的基本构建块之一是“自我模拟”(self-simulation)：建立一个人的身体及其在物理空间中如何运动的内在表征，然后使用该模型来指导行为。早在2006年，Lipson就开始研究人工自模拟(artificial self-simulation)，他设计了一个海星形状的机器人，利用进化算法(以及一些预先加载的“物理学提示”)自学如何在桌面上向前翻转。但他表示，2012年现代人工智能技术的兴起(包括卷积神经网络和深度学习)“给整个研究领域带来了新的活力”。

Lipson团队开发的“仿生物细胞群体机器人”

参考阅读：中国籍博士一作登Nature封面：仿生群体机器人问世，工程学重大突破！

在2019年初，Lipson的实验室开发了一个机器人手臂，它利用深度学习完全从零开始生成自己的内部自我模型——Lipson形容这个过程“就像一个咿呀学语的婴儿观察自己的手”。机器人的自我模型可以让它准确地执行两项不同的任务——捡起小球并把它们放进杯子里，以及用记号笔写字——而不需要对其中任何一项进行专门的训练。此外，当研究人员通过添加一个变形部件来模拟机器人身体受到的损伤时，机器人能检测到这种变化，并相应地更新其自我模型(self-model)，从而能够恢复其任务。

Lipson实验室开发的机器人手臂

这与有深层思考的机器人相去甚远。但Lipson断言，这种差异只是程度上的一种差异。“当谈到自我意识时，人们认为机器人会突然醒来，说，‘你好，我为什么在这里?’”Lipson说。“但自我意识并不是黑白分明的。它是从一些非常琐碎的事情开始的，比如，‘我的手要往哪里移动?’这是同一个问题，只是时间跨度更短。”

Quanta与Lipson讨论了如何定义机器人的自我意识，为什么机器人的自我意识很重要，以及它可能带来什么。

自我意识就是自我模拟吗？

你显然对意识本质这个大问题很感兴趣，但你为什么要通过研究机器人来研究这个问题？为什么你不当哲学家或神经科学家?

对我来说，机器人的好处在于它会迫使你把你的理解转化为算法和机械装置。你不能拐弯抹角，你不能说空话，不能说诸如“现实的画布”这类的东西，它们对不同的人来说有不同的含义，因为它们太模糊了，无法翻译给机器。机器人迫使你关注具体的东西。

Lipson在哥伦比亚大学的办公室

我想做一个这样的东西。我不想只是说说而已。哲学家们，恕我直言，在这个问题上已经有一千年没有取得什么进展了。不是因为缺乏兴趣，也不是因为缺乏聪明的人——自上而下地研究意识这个问题太难了。神经科学家已经用一种更为定量的方法来研究这个问题。不过，我认为，他们采取的仍然是自上而下的方式，这阻碍了他们取得进展。

如果你想了解意识，为什么要从最复杂的意识开始——为什么要从人类开始？这就像走上坡路，这是最困难的开始方式。让我们来看看可能更容易理解的更简单的系统。这就是我们要做的事情：我们观察了一些非常琐碎的东西，一个有四个自由度的机器人，并试图回答，“我们能让这个东西自我模拟吗?”

自我模拟和自我意识是一回事吗?

一个能够自我模拟的系统在某种程度上是具有自我意识的。它能在多大程度上模拟自己——模拟的逼真程度，模拟的时间范围——所有这些不同的因素都影响到它有多少自我意识。这是一个基本假设。

所以，你把“自我意识”这个术语简化为一个关于自我模拟的更为技术性的定义——在空间中为自己的身体构建一个虚拟模型的能力？

是的，我们有不同的定义，我们使用的定义是非常具体的。这个定义是数学的，你可以测量它，你也可以量化它，可以计算误差的程度。哲学家可能会说，“这不是我们看待自我意识的方式。”然后他们的讨论通常会变得非常模糊。你可以说我们的定义并不是真正的自我意识。但是我们有一些非常基础的东西，而且很容易量化，我们有一个基准(benchmark)。基准是工程师为机器人提供的传统手工编码的自我模型。通过我们的机器人，我们想看看AI算法能否学习一个与传统手工编码模型相同或更好的自我模型。

单个机器人(左)只能伸展和收缩，但它们可以作为团队一起移动并完成任务。这个机器人的设计旨在探索自我复制(右)，并可以变形成多种形状。

为什么需要物理机器人?为什么不在一个非实体系统中研究自我意识呢?

我们在寻找一个可以模拟自身的封闭系统——要做到这一点，它需要有输入和输出，但也必须有一个边界，一个你描绘“自我”的地方。机器人是符合这些条件的一个非常自然的存在。它有动作，有感觉，并且有边界，所以可以有事情发生在它身上，有东西可以让它模拟。我是机器人专家，这是我的第一选择。

这个机器人是在完全空白的石板上创建自己的模型吗?

只是一个原则问题，我们是从一无所有开始的，我们想看看我们能走多远。在之前的例子中(海星形状的机器人)，我们缺乏计算力。我们必须告诉它，“你不知道你是什么，但让我告诉你F = ma，以及其他我们知道的正确的物理规则，你直接拿走这些。”

人工智能如何对机器人的自我意识起作用？

人工智能是如何发挥作用的呢?

出于某种原因，我们很高兴让机器人(使用AI)了解外部世界，但当涉及到它们自己时，出于一些奇怪的原因，我们坚持手工编码模型。所以我们所做的实际上是相当琐碎的：我们说，“让我们把人类建造的所有基础设施都拿来帮助机器人了解世界，我们要让它关注自己内部。”用一句话来说，这就是我们所做的全部。

机器人进行了1000次随机移动来收集数据，为深度学习算法创建自我模拟。这就是你所描述的人类婴儿咿呀学语的过程吗?

正是这样。机器人四处挥动手臂，观察它的指尖在哪里。想象一下，你自己挥动你的手臂，看着你的指尖。这就是你的输入和输出。这个机器人在那里移动了30多个小时，一旦我们收集到所有数据，我们就可以回家了。从那以后，这就纯粹是一个计算上的挑战(学习自我模型)。

我们所做的是打破机器人(通过添加一个变形的部分)，然后再做一次。我们看到坏掉的机器人是如何从完整的模型开始并修正它的。第二次学习时，它不需要从头开始学习。有一个重新开始的时期，但比最初需要的要少得多——只需原来的10%。

但在它重新开始之前，它需要知道出了什么问题。这是一个非常强大的东西。它怎么知道？假如你有一个自我模型，出了问题，你马上就会知道，因为如果你睁开眼睛，你会发现你的手不在它应该在的地方了。你想要的点本来在4厘米内，但是它突然变成了16厘米远。你会立即得到反馈。所以机器人马上就知道出了问题。然后需要一段时间来弄清楚如何修补，但我认为，即使仅是知道出现问题了，也是非常重要的。

这些画是由一个机器人创作的，它被训练使用人工智能来画画。

机器人为什么应该拥有自我意识？

这种自我模型是否类似于人类大脑的一部分，类似于身体的内部地图?

我想就是这样。这就是为什么它如此粗糙，并且如此简单。事实上，我们的机器人只有一个四个自由度的手臂。如果它是一个拥有800个自由度的人形机器人，对于我们今天所拥有的人工智能而言，可能太过复杂了。

如果这真的是一种自我意识的形式，那么机器人为什么应该拥有它？它有什么用?

它使机器人最终更具弹性。你可以手动建模一个机器人，就像我们今天所做的一样，但那是非常费力的，而且很慢。当现实世界中的机器人变形或损坏时，比如轮子掉下来或马达减速了，那么模型就会突然出错。比如考虑一下无人驾驶汽车，你会发现我们已经可以把我们的生活托付给自动机器人了。这是很严肃的事情。你会想让这些机器人能够检测到出了什么问题，并且能够可靠地做到这一点。

另一个原因是灵活性。假设机器人执行一项任务，当它做这个任务时，它会不断地更新它的自我模型。现在，如果它需要做一项新的任务——比如它需要把一个螺丝放到不同的地方，或者它需要喷涂而不是拧入螺丝——它可以使用相同的自我模型来学习和规划如何去做这项新任务。从外部看，它就像我们所说的“zero-shot learning”，这似乎就是人类做事的方式。假如你看到一棵你从未爬过的树，你也可以毫无障碍地爬上这棵树。当机器人可以自我建模时，它可以像人类那样在内部学习：你看不到它已经在自己的内部模拟中训练了多少个小时。你所能看到的只是它完成了一项任务，然后它在那里呆了一会儿，突然间它可以不用尝试就能执行一项新的任务了。

一个能够自我模拟自己的身体的机器人和一个能够拥有内部“思想”(听起来更像是“自我意识”的非正式含义)的机器人之间，有什么联系?

我们正在做的其他一些项目与自我建模有关，但模拟的不是身体，而是认知过程。我们正在朝着这两个方向迈出一小步。相信这最终会达到人类层面的认知水平，甚至更高，这完全是一种信念的飞跃。

所以你假设这两条路径——自我模拟身体，和自我模拟大脑——会交汇在一起?

完全正确。我认为这都是一回事。这就是我们的假设，让我们来看看我们将能够推进到多远。