DeepMind破解灾难性遗忘密码，让AI更像人

灾难性遗忘仍然是阻碍科学家建立通用人工智能（AGI）的主要障碍之一，DeepMind的团队试图破解这一难题，让AI拥有了想象力。

暑假结束回到学校时，你可能会觉得前一年学过的东西已经统统忘光了。但如果你像人工智能系统那样学习，你会真的忘光光——当你第一天在课堂上坐下来时，你的大脑会把这当作一个提示，将过去一笔勾销，一切从头开始。

AI系统有一种倾向，在获取新信息时将之前学到的东西忘掉，这被称为灾难性遗忘（catastrophic forgetting）。

这是一个大问题。因为，先进的算法可以说是在分析了无数的例子之后才学会被要求做的事情。例如，一个面部识别AI系统需要分析成千上万张人脸的图片，这些图片很可能是人工标注过的，这样它才能在人脸出现在视频流中的时候检测到。

但是，因为这些AI系统并没有真正理解它们所做的事情的基本逻辑，所以教它们去做其他任何事情，即使这些事情与它们已经会的事情非常相似——例如，识别特定的情感——也意味着要从头开始重新训练算法。一旦算法训练好，它就完成了，就不能再更新了。

多年来，科学家们一直试图找出解决这个问题的方法。如果解决了这个问题，AI系统将能够从一组新的训练数据中学习，而不会覆盖他们在这个过程中已经学会的大部分内容。如果未来某天机器人崛起了，我们的新霸主将能够征服地球上所有的生命，同时还会嚼泡泡糖。

但是，灾难性遗忘仍然是阻碍科学家建立通用人工智能（AGI）的主要障碍之一。AGI是一种无所不会、具有同理心和想象力的AI，就像我们在电视和电影中看到的那样。

DeepMind破解灾难性遗忘密码

上周在布拉格参加Human-Level人工智能联合多方会议的一些AI专家认为，灾难性遗忘的问题是他们认为不会很快实现AGI或human-level AI的最重要的原因。

不过，谷歌DeepMind的高级研究科学家Irina Higgins在会议上的演讲中表示，她的团队已经开始破解灾难性遗忘的密码。

她开发了一个AI智能体（类似一个由AI算法控制的电子游戏角色），这个智能体可以比典型的算法更有创造性地思考。它可以“想象”在一个虚拟环境中遇到的东西在其他地方看起来是什么样子的。换句话说，神经网络能够将它在模拟环境中遇到的某些物体从环境本身分离出来。

AI的想象力人类的想象不同。在人类的想象中，我们可以创造出全新的心理图像（试着想象一只鸟，你脑海中可能会想象出一只虚构的圆滚滚的红色的鸟)。AI系统并不那么复杂，但它可以想象出已经在新的配置或位置上看到过的物体。

“我们希望机器能够在探索过程中学习有关安全的常识，这样它就不会对自身造成损害，” Higgins在演讲中说。本周早些时候，她的团队在arXiv上发表了题为“Life-Long Disentangled Representation Learning with Cross-Domain Latent Homologies”的论文。

假设你正在穿越沙漠，你遇到了一棵仙人掌。是一种你漫画中会看到的那种巨大的、两茎的仙人掌。你立刻就能认出这是一棵仙人掌，因为你以前可能见过。也许你的办公室装饰了一些多肉植物。但即使你的办公室没有仙人掌，你也可以想象这个沙漠仙人掌在一个大陶罐里会是什么样子。

Higgins的AI系统也能做同样的事情。只需观察一个物体从不同角度看是什么样子的5个示例，AI就能了解它是什么，它与环境有怎样的关系，以及从其他角度或在不同光线下看它是什么样子。论文重点介绍了如何训练算法来识别白色行李箱或扶手椅。经过训练后，算法可以想象出这个物体在一个全新的虚拟世界中的样子，并在它遇到这个物体时识别出来。

Image Credit: Emily Cho

Higgins说：“我们运行了我用来激发这个模型的精确设置，然后我们展示了一个环境的图像，要求这个模型想象一下在不同环境下它会是什么样子。”与具有entangled representation的AI系统相比，她的新算法每次都在这项任务中表现更优，而后者只能预测较少的物体质量和特征。

简言之，该算法能够注意到它所遇到的事物与过去所看到的事物之间的差异。和大多数其他算法不同的是，Higgins为谷歌构建的新系统可以理解它没有遇到一个全新的物体，而只是从一个新的角度看到的同样物体。

然后，它可以使用空闲的计算能力来接收新的信息。AI系统更新了它对世界的了解，而无需重新训练和重新学习一切。基本上，系统能够将其现有的知识转移并应用到新环境中。最终的结果是一种频谱或连续体（continuum），显示了它如何理解物体的各种特性。

当然，仅有这一模型是无法把我们带到AGI的。但它标志着向AGI迈出了重要的第一步，表明AI算法可以在不断更新的同时，在不丢失已经拥有的知识的情况下，学习有关世界的新事物。

“我认为，它对于接近通用人工智能非常重要。” Higgins说。

让AI更像人

这项工作仍处于早期阶段。这些算法，就像许多其他的对象识别AI工具一样，擅长于一项相当狭窄的任务，具有一系列受限制的规则，比如查看照片并在很多没有人脸的照片中挑出有人脸的照片来。但DeepMind的新AI系统正在以一种更接近创造力和想象力的数字模拟的方式完成一项狭窄的任务。

尽管DeepMind团队的研究并没有立即带来通用人工智能时代，但这一新算法已经具备了改进现有AI系统的能力。例如， Higgins在一组用于训练面部识别软件的主要数据集上试用了她的新AI系统。在分析了数据集中成千上万的大头照后，该算法可以创建任何质量的频谱，用以标记这些照片。例如，Higgins展示了按肤色排列的人脸频谱。

Higgins说，她的算法也能对这些数据集中的主观特征进行同样的处理，最终将人类的偏见引入面部识别AI。Higgins展示了那些被人们贴上“有吸引力”标签的照片，如何形成一种频谱，直接指向年轻、肤色白的女性的照片。这意味着，任何使用这些照片训练的AI系统都拥有与当初给照片贴上标签的人类同样的观点：白人更具吸引力。

这个有创造力的新算法已经比我们人类做得更好了，它可以找到检测人类在其他算法中的偏见的新方法，这样工程师就可以介入并删除这些偏见。

因此，虽然它还不能完全取代艺术家，DeepMind团队的工作是相当大的进步，它让AI更像人，而不是更像算法。