解析OrangePi AIpro：什么是 NPU？它对你意味着什么？

神经处理单元是一种专用的人工智能芯片，它能为计算机的 CPU或GPU分担部分工作，使设备能更好地工作。

人工智能（AI）在过去几个月里取得了巨大进步，为个人电脑提供了更多便利和更快的处理速度。以人工智能为重点的计算机效率很大一部分是通过NPU（神经处理单元）实现的，在即将推出的高通骁龙X Elite和英特尔酷睿Ultra处理器中可以找到这种处理器。

但究竟什么是 NPU？NPU如何加速人工智能任务？更重要的是，NPU能为您做些什么？我们将为您一一介绍。

NPUs对提高效率至关重要

英特尔酷睿 “流星湖 ”处理器配备NPU。(图片来源：Windows Central）

神经处理单元（Neural Processing Unit，简称NPU）是一种人工智能芯片，旨在以比GPU（图形处理器）和CPU（计算机处理单元）更快的速度执行人工智能任务。它通过承担小规模的重复性处理，减轻了GPU和CPU的部分负荷，从而使计算机在满足人工智能驱动的请求时能更高效地工作。

例如，NPU可以在视频通话中模糊背景，或在视频或照片编辑中进行物体检测，从而帮助计算机的GPU和CPU保持高效运行，这样CPU和GPU就可以腾出手来处理其他任务。

NPUs比GPUs更好地处理某些任务

CPU、GPU和NPU对系统的运行都非常重要。(图片来源：Windows Central / Midjourney）

CPU、GPU和NPU对计算机的整体运行都至关重要，但它们是为处理不同的渲染和计算任务而设计的，因此在理想情况下，没有一个处理器会不堪重负。防止处理器负荷过重至关重要，因为这决定了电脑运行的流畅程度。

这三种处理器都能进行一些图像渲染，但它们承担的工作量各不相同。GPU是重型设备，专门用于渲染视频编辑和游戏任务中的复杂图像。然而，NPU的设计是为了更快地处理短时间和重复性的人工智能任务，例如与人工智能助手协同工作。换句话说，NPU可以从GPU手中分担一些工作，这样GPU就可以专注于更大的分配任务，系统整体工作效率也会更高。

综上所述，操作系统会查看你的电脑硬件，并根据你的系统规格和可用资源来决定 GPU还是NPU更适合特定的人工智能任务。

为什么要关注 NPUs

Snapdragon X Elite配备了NPU。(图片来源：Future）

首先，了解处理器的基本知识至关重要。正如您在我的英特尔 vs. AMD vs.英伟达指南中所看到的，这些半导体芯片制造商往往专注于不同的领域。英特尔是CPU行业的领导者，英伟达是GPU行业的领导者，而AMD则是两者的完美结合。

今后，我们会在处理器中看到越来越多的 NPU。新的英特尔酷睿Ultra处理器（原代号为Meteor Lake）就证明了这一点，它全部采用了NPU，并被多家电脑公司广泛应用于最新的超极本和笔记本电脑中。

此外，高通公司多年来一直在研究 NPU，并在这方面走在了竞争对手的前面。其Snapdragon X Elite处理器采用了CPU、GPU和NPU，很快就会出现在Windows笔记本电脑上。高通公司已经向苹果MacBook Pro展示了这款芯片的强大性能。根据高通公司的说法，骁龙X Elite可以每秒执行75 Tera运算（TOPs），这尤其令人印象深刻。

这一切对您意味着什么

高通公司通过对苹果 Macbook Pro笔记本电脑进行基准测试，展示了骁龙X Elite的强大性能。(图片来源：Future）

在最新一代终端中加入 NPU意味着整个行业具备了利用最新人工智能技术向前发展的能力。换句话说，由于在最新笔记本电脑中加入了NPU，新的应用程序将能够利用最新的人工智能软件。反过来，随着时间的推移，作为用户，您将能享受到更多与人工智能相关的便利和高效的人工智能流程。

通过人工智能执行视频编辑功能的速度可能比以往任何时候都要快。又或者，在你最常用的程序中，会出现更多的人工智能过滤器和选项。无论如何，重点都在于提高计算机的效率，这样您就不必在琐碎的任务上浪费太多时间，无论是个人项目、创意项目还是办公项目。

高通公司的 NPU也已被证明可以处理生成式人工智能图像，因此我们可能很快就会在基于高通公司的手机上看到这种功能。这也将为游戏手持设备带来多种新的可能性。

NPU FAQ

NPU可帮助提高系统运行效率。(图片来源：Windows Central）

什么是 PC和笔记本电脑中的NPU处理器？

神经处理单元（NPU）专门用于以比GPU和CPU更快的速度执行人工智能任务。这样可以减轻GPU和CPU的部分负荷，使两者都不会过度消耗，从而帮助计算机更好地运行。

什么是机器学习，它与深度学习有何不同？

机器学习是人工智能的一个方面，它允许程序收集数据并根据所掌握的信息做出决策。深度学习则更进一步，神经网络的功能就像人的学习大脑一样，可以根据收集到的信息做出新的结果和决策，而不仅仅是重复信息。

NPU比GPU更好吗？

神经处理单元（NPU）和图形处理单元（GPU）都是计算机处理能力不可或缺的组成部分，因此这取决于您在什么情况下比较神经处理单元（NPU）和图形处理单元（GPU）。GPU专门用于渲染复杂图像，以处理视频编辑和游戏等任务。然而，NPU的设计目的是更快地处理人工智能任务，减少GPU的部分负载，从而提高系统的工作效率。问题是，NPU往往更局限于小型、重复性任务，而GPU能更好地处理大型和新任务。重要的是，这两种处理器能协同工作，提高系统的整体性能，就像在笔记本电脑中一样。

神经处理单元有哪些用途？

神经处理单元 (NPU)可以加速人工智能机器学习任务，如语音识别、视频通话中的背景模糊处理，以及照片或视频编辑过程（如物体检测）。

NPU代表什么？

NPU是神经处理单元（Neural Processing Unit）的缩写。NPU是一种人工智能芯片，执行人工智能任务的速度比GPU和CPU更快。这可以减轻GPU和CPU的部分负荷，从而使计算机在执行人工智能任务时可以更高效地工作。

NPU对游戏笔记本电脑有帮助吗？

有，也没有。专用图形处理器在密集型游戏图形方面承担了大部分重任，而NPU则主要用于小型人工智能辅助。因此，NPU更适合用于超极本和笔记本电脑，而不是游戏笔记本电脑和游戏台式机。

不过，NPU可以从GPU手中分担一些任务，让GPU更有效地工作。如果系统的其他部分与CPU配合得当，这将带来更好的每秒帧数和更流畅的游戏体验。

举例来说，当你关闭游戏并返回 Windows桌面时，人工智能可以帮助检测笔记本电脑何时应该切换回集成显卡，并继续由NPU执行相同的操作。集成显卡是现代游戏笔记本电脑的一大特色，但它并不像专用显卡那样注重原始游戏性能。

OrangePi AIpro，20TOPS算力NPU，为AI赋能

去年，香橙派和华为昇腾强强联手，推出了20TOPS算力NPU的AI开发板OrangePi AIpro，。OrangePi AIpro基于昇腾技术路线，包含多种AI应用，如图像分类、目标检测、图像处理、手势识别等。凭借其先进的功能，它能让机器人出色地完成各种任务，并促进自然语言处理与计算机视觉的融合。此外，它还支持AR阴影生成、实例分割、NLP和模式识别，使其成为技术领域的变革者。

在软件方面，OrangePi AIpro为开发人工智能应用提供全面的软件支持。昇腾平台可处理各种人工智能框架，支持的框架包括MindX DL、MindX Edge、ModelZoo、MindX SDK和MindSpore。此外，该平台还提供与第三方框架的无缝集成，并支持异构计算架构。借助CANN等工具和MindStudio等全流水线开发工具链，开发人员可以为其人工智能应用获取一整套资源。

在硬件方面，Orange Pi AIpro版本配备了强大的4核64位处理器以及专用的AI和图形处理器。以20T版本为例，它不仅支持双4K输出，带来非凡的视觉体验，还能方便地容纳高达256 GB的eMMC存储模块。在内存配置方面，你可以选择12 GB或24 GB LPDDR4X内存，速率可达4266Mbps。

Orange Pi AIpro开发板还提供多种接口，具有卓越的多功能性。这些接口包括GPIO接口、HDMI端口、支持NVMe 2280 SSD的M.2插槽、USB Type-C以及TF插槽。

此外，Orange Pi AIpro还为openEuler和Ubuntu操作系统提供了出色的支持。它能满足人工智能算法原型验证和推理应用开发的所有必要标准。