人类认知如何帮助我们制造更好的AI系统？

AI系统的工作原理是什么？它与人类认知的联系和区别有哪些？它如何改变科学研究的方式？研究人类认知如何帮助研究人员改进AI系统？就这些相关问题，美国心理学会（American Psychological Association）就此采访了普林斯顿大学心理学和计算机科学教授兼计算认知科学实验室主任汤姆·格里菲斯（Tom Griffiths），向其提出了10个问题。元战略梳理访谈纪要重点内容，探讨人类认知如何帮助我们制造更好的AI系统。

#1人类比AI更擅长什么？AI在哪些方面做得比我们更好？

人类是生物有机体，寿命、大脑的计算量、交流能力都有限，我们必须通过语言才能把大脑里的信息传递给另外一个人，而AI系统则没有这些限制，AI系统可以从海量数据中学习。我们现在使用的许多AI系统都是在相当于人类一生的数据量的基础上训练出来的。我们可以制造越来越大的计算机，还可以通过并行计算，从而提高这些AI系统可以访问的计算量。AI系统可以把一个系统学到的东西直接复制到另一个系统中，这样就可以直接传输信息，这些差异实际上决定了人类擅长的一些事情和AI系统擅长的一些事情。因此，我们有限的生命意味着我们必须能够从少量数据中学习，而这正是AI系统目前并不擅长的。我们的计算资源有限，意味着我们必须善于高效地利用我们的大脑，而这对AI系统来说仍是一项挑战。我们的交流能力有限，意味着我们需要找到合作的方式，以便能够集中我们所拥有的数据或计算资源，来完成人类无法独立完成的事情，如创造语言、相互教学、传播文化等，所有这些仍然只有人类才能完成。

#2AI系统与人类大脑的工作方式有多相似？又有什么不同？

思考这个问题有两种视角。一种是，某个AI系统经过训练后产生的行为与人类的行为相比有什么不同？另一种是，这个AI系统是如何学习的？它是如何从数据中学习到某一点的？第二个问题比较容易回答，因为这些AI系统需要比人类获得更多的数据，才能达到人类5、6岁时所达到的水平。因此，对于学习而言，很显然，AI系统学习语言的方式必须与人类有所不同。至于这些系统是如何工作的，以及它们所做的事情是否与人们大脑中发生的事情相似，这仍然是人们正在努力解决的问题。有很多学术论文都显示，这些系统中的表征可以预测人们大脑中正在发生的事情。还有很多论文在探究这些系统的行为，研究当AI系统受到相同的刺激时，它们是否会做出与人类相同的行为。

#3人类在哪些方面不了解AI系统的工作原理？

我们重点关注“一致性”问题，即AI系统思考和表征世界的方式与人类相比，有多大的一致性？我们需要做的是进行更多的研究，找出AI系统擅长的事情，并帮助人们了解在哪些情况下可以与这些AI系统进行互动。例如，我们可以要求ChatGPT估算不同事物之间的相似度，如两种颜色有多相似，音符有多相似，两种口味有多相似等等。我们发现ChatGPT对颜色和音符等事物的表征非常准确，与人类思考这些事物的方式非常相似。但它对味道的表征却与人类的表征大相径庭。因此，这就告诉我们，如果要向ChatGPT寻求建议，向它寻求关于服装搭配的相关建议可能会不错，但向它寻求关于食谱的建议可能会不佳。

#4在开发AI的过程中，心理学应该扮演什么角色？

现在是什么角色，未来又应该是什么角色？

我们可以从两个方面来思考心理学和AI之间的关系，我们可以把它看作是，信息可以从心理学流向AI，以及从AI流向心理学这两个方向。因此，从心理学到AI，我们可以做的事情之一是使用我们为理解人类行为而开发的工具包，来真正理解这些AI系统到底在做什么，它们知道什么，以及它们与人类所做事情的对应程度。心理学家们擅长利用正在做各种复杂事情的AI系统，并利用它们的行为、设计实验，以揭示人类大脑中可能发生的事情，计算机电路中可能发生的事情，从而告诉我们这些AI系统的工作原理。从另一个方面来看，从AI到心理学，我们可以从AI系统使用的模型中获得各种关于人类思维如何运作的有趣假设，以及探索人类行为。我们还能获得新的工具，用来以不同的方式进行科学研究。因此，可以利用这些AI系统来设计新的实验，或建立比心理学家自己建立的模型或理论更好的模型。

#5你的研究工作是建立人类认知的数学模型，如何用数学术语描述人类思维？

我的研究工作会重点关注，人类思维需要解决哪些计算问题？这就意味着，当你早上起床时，你要为一天的生活做出一系列决定，这就是一种计算问题，也是一种决策问题。你必须确定做事情的先后顺序，这就是计算机科学家所说的“规划”问题。因此，我们要做的就是处理这些计算问题，然后思考什么才是解决这些问题的好方法。数学告诉我们，解决这些问题的理想方法是什么，然后再利用这些数学知识，尝试去理解人类的行为。我们是否可以通过解决“规划”问题的数学方法来解释人们所使用的规划策略。人们学习概念的方式是否与统计学中关于如何利用数据更新信念的数学知识一致？我们可以借鉴一套数学原理，用来回溯和理解人类行为到底是怎么回事。

#6鉴于AI系统能够综合大量数据，它如何改变科学研究的方式？

随着数据量的增加，特别是在心理学领域，我们所掌握的有关人类行为的数据量也在增加，有可能会超出人类所能思考的范围。因此，这就为我们创造了一个机会，利用AI系统来增强人类处理这些数据的能力，从而提出新的方法来理解这些数据，发展出新的有意义的科学理论。为此，我们的实验室已经开始探索如何在心理学研究中使用这些方法，可以通过建立一个机器学习模型，并使其与数据相匹配，让机器学习模型从行为数据中做出最好的预测。然后，我们可以将机器学习模型的预测结果与人类科学家开发的理论预测结果进行比较。实际上，我们可以利用机器学习模型的输出结果，回过头来批判我们的心理学理论，并提出更好的理论。因此，我们把这称为“科学遗憾最小化”，这就是一种策略。我们还可以做的另一件事是，使用机器学习模型来帮助我们搜索理论空间。因此，我们可以定义一套理论，并通过机器学习模型在这些理论的空间内进行搜索，以提出能解释数据的最佳理论，这样一来，我们就有了一个工具，可以用来处理比以前大得多的数据集。

#7计算机思维如何帮助我们解决问题？

计算机科学家对这个问题进行了广泛的研究，它被称为“探索-利用”权衡，即通过探索新事物，还是利用已掌握的知识来解决问题。事实上，只要有一个已知的最佳解决方案，就可以不用考虑和担心到底需要做什么。因此，对于那些花很多时间思考决策的人来说，知道自己可以遵循最佳策略会让他们稍感轻松。另一个好消息是，人类的直觉在解决这些问题方面都十分擅长，因此，即使没有遵循最优策略，我们也可能在做一些非常明智的事情，通过研究人类所做的这些明智的事情，我们可以找出更好的算法，并让计算机解决这类问题。

#8我们能够制造出具有自我意识的AI系统吗？

事实上我并不经常思考这个问题，因为我不确定这对我们处理这些AI系统的方式、我们与它们的互动或我们思考问题的方式有什么不同。所以我们不应该期望AI系统像人一样，原因是人类认知的约束条件与AI设计环境的约束条件是不同的，人类是一个智能特例，我们的寿命、计算量和沟通都十分有限。因此，将这些限制条件去掉之后就会得到能够解决问题的智能系统，但它们解决问题的方式不一定像人类。当AlphaGo诞生时，这个能在围棋比赛中击败世界上最优秀人类棋手的AI系统，能比人类规划得更远，它能规划出未来的很多很多步。而人类只能在有限的时间或范围内进行规划，所以我们会做一些事情，比如设定目标和子目标，以及分层思考和分解问题，这都是因为我们认知中的这些限制。而如果消除了这种限制，就可以通过制定更多规划来解决问题，这就是AI系统所处的世界。它们能够为我们试图解决的问题找到不同的解决方案，因为它们不是在相同的约束条件下运行的。因此，很多我们认为是智能特征的东西，其实是人类大脑必须解决的计算问题的特征。我们与AI系统是不同类型的智能系统，我们必须建立自己新的内部认知模型，以了解这些AI系统是什么样的，以及与它们之间的互动是什么样的，而不能指望它们像人类一样。

#9AI系统在未来几年将如何改变我们的生活？

现在有很多关于AI抢走工作、也许会毁灭世界的悲观言论，这非常合理。例如，AI系统代表了什么人，AI系统训练的数据集代表了什么人，以及AI系统对我们社会的权力产生了什么后果等等都是令人担忧的问题。与此同时，我们应该乐观地看待这类AI系统可能带来的积极影响。例如，自从AlphaGo问世以来，我与合作者们一直在分析围棋比赛，在这项工作中，我们实际上发现，人类围棋选手的创造力是通过他们所走棋步的新颖性来衡量的，而AI系统的出现使得他们的创造力得到了提高。因此，我们期待能够找到一种方法，与这些AI系统互动，与它们共存，并将它们融入我们的生活，以此让我们实现更多的成就。

#10你现在研究的重点是什么，想要回答的主要问题是什么？

我们关注的很多问题很多都是关于人类特有的智力方面的问题。因此，我们做了大量工作，试图了解人类如何能够从少量数据中学习，并将这些能力应用到机器中。我们研究人们是如何高效地决定如何使用自己的认知资源的？同样，这也为我们解决规划等问题的算法提供参考。此外，人类是如何通过相互影响来实现超越个体能力的目标的？这一点对于我们融入人类世界非常重要，这些互动不仅仅包括人类之间的互动，还包括与其他类型的智能系统间的互动，我们的研究试图理解如何能够构建这些互动，以及在与AI系统共同迈向未来的过程中，人类如何能够充分利用我们的AI合作伙伴。