【导读】行家一伸手,便知有没有。英国Imagination最新神经网络加速器PowerVR 2NX NNA性能领先最接近竞争对手2倍,不管你是DSP+硬件、VPU+硬件还是神经网络DSP。预计它将是海思下一代麒麟芯片的不二之选。
人工智能今天已经提升到国家未来战略竞争力高度,这是因为未来它将渗透到各行各业的关键设备,并成为这些设备的核心竞争力。比如,今天华为就已经凭借着人工智能技术将Mate 10智能手机的竞争力超越了苹果最新发布的iPhone8。未来最接近人脑运算模式的神经网络处理单元将成为下一代设备机器学习和深度学习的最佳选择。
Imagination公司 PowerVR 产品与技术营销资深总监 Chris Longstaff说:“由于功耗、带宽、性能、可靠性、安全和延迟方面的考虑,下一代人工智能设备不太可能用软件和云计算来实现,必须用硬件来实现机器学习和深度学习。神经网络一定会成为下一代人工智能SoC的关键处理单元。未来它将像CPU、GPU和视频编解码器一样在SoC中无处不在。”
包括卷积神经网络(CNN)、循环神经网络(RNN)和长短期记忆网络(LSTM)在内的神经网络正推动各个人工智能产业的爆发性技术进展。英国知名GPU IP供应商Imagination最近在深圳宣布推出完整、独立式的硬件IP神经网络加速器,它通过神经网络(NN)专用的PowerVR架构实现,可提供业界领先的性能、功耗和面积效率。
Chris Longstaff指出:“PowerVR 2NX NNA神经网络加速器的性能、功耗和面积效率领先最接近竞争对手2倍,不管对手采用的是DSP+硬件、GPU+硬件还是神经网络DSP。”
今天,为移动、监控、汽车与消费系统市场开发SoC的公司将能以非常低的功耗、在最小的芯片面积中集成新款PowerVR 2NX NNA神经网络加速器,来实现神经网络的高性能运算。
他举例说明,今天无人机的飞行速度超过每小时150英里,如果没有硬件处理单元,采用云计算来实现防撞功能,那么它就需要10-15米的防碰撞距离。如果采用PowerVR NNA SoC来实现,就可以在不到1米的距离内避开物体,而且还可以运行多个网络,在避免碰撞的同时识别和跟踪物体。
另一个明显的例子是,如果在移动设备上用高端CPU来对1000张照片进行搜素和排序,需要60秒,而如果采用PowerVR 2NX NNA,只需要2秒。
NNA是一种基本类型的处理器,预计它会跟CPU和GPU一样重要,而这两类处理器Imagination均已能供应。NNA的潜在应用不计其数,其中包括AR/VR头戴设备中的特征检测与眼球追踪;汽车安全系统中的行人检测与驾驶员警觉性监控;智能监控系统中的脸部辨识与人群行为分析;网络诈欺检测、内容建议(content advice)、以及预测性UX;虚拟助理应用中的语音识别与回应;以及无人机中的防撞与对象追踪等。
“今天谷歌、苹果、Facebook、百度和华为等大型厂商都把AI/NN应用于移动终端领域,而PowerVR 2NX是特别为移动和Android而设计的,”Imagination市场传播副总裁David Harold说,“PowerVR 2NX不仅是业内第一款具备支持从16位到4位高灵活度位宽的专用神经网络硬件解决方案,也是带宽最低的神经网络(NN)解决方案,其架构可支持多种操作系统,包括Linux和 Android。”
根据嵌入式视觉联盟(https://www.embedded-vision.com)于2017年1月进行的嵌入式视觉开发人员调查显示,79%的受访者表示他们已经利用或正计划利用神经网络来执行其产品或服务中的计算机视觉功能。随着科技持续的快速进展,更多的公司都将能够利用神经网络来开发产品与服务。Imagination的客户已为安全、移动、汽车与机顶盒等多个市场开发与部署基于NN的系统。
嵌入式视觉联盟创始人Jeff Bier表示:“很多系统与应用程序开发人员正采用深度神经网络算法把新的感知功能带到他们的产品之中。在许多案例中,主要的挑战在于能为这些要求严苛的算法提供足够的处理性能,同时满足严格的产品成本与功耗限制。像PowerVR 2NX NNA 这类的专用处理器,是专为神经网络算法所设计,将能在许多新应用中推动这些强大算法的部署。”
随着神经网络日益普及,2NX NNA 这样的专用硬件解决方案 —— 与单纯的DSP解决方案相比,它可提供8倍的性能密度提升 —— 将能以最低的功耗与成本达到最高的性能。此外,一直以来,神经网络非常耗费带宽,因此内存的带宽需求会随着神经网络模型规模的增长而增加。这会为SoC设计人员和OEM公司在设计系统时,因为要提供NNA所需的带宽而带来重大的挑战。PowerVR 2NX能最小化外部DDR内存的带宽需求,确保系统的性能不会受到带宽的限制。PowerVR 2NX NNA专用硬件的普及应用,将能推动各种基于神经网络技术的应用程序进一步发展。
PowerVR 2NX NNA可实现最高效率的解决方案
PowerVR 2NX是从头开始全新设计的架构,可提供:
• 业界最高的单位毫瓦推理 (inference/mW) IP内核,以提供最低的功耗*
• 业界最高的单位面积推理 (inference/mm2) IP内核,可实现最具成本效益的解决方案*
• 业界最低带宽的解决方案*——支持权重与数据的高灵活性位宽,包括低至4位的低带宽模式
• 业界领先的性能,单一内核为每周期2048 MAC,并可采用多核设计进一步提升性能
• 在硬件架构的基础上提供了最全面的系统级的神经网络解决方案
Imagination公司 PowerVR 产品与技术营销资深总监 Chris Longstaff 表示:“神经网络加速的专用硬件将成为未来SoC的标准IP模块,就如同CPU和GPU一样。我们很高兴率先向市场推出完整的硬件加速器,能完全支持高精准度的灵活方式,使神经网络能以最低的功耗与带宽运作,并提供优于竞争对手方案的绝对性能与单位面积性能。我们提供的工具将能让开发人员非常快速地启用并执行其神经网络,因此能快速增加营收。”
2NX包括硬件IP、软件与工具,可为SoC提供完整的神经网络解决方案。它能有效地执行所有常见的神经网络运算层。依据推理任务的运算需求,它能独立使用 ─ 无须额外的硬件 ─ 或是与CPU和GPU等其它的处理器结合运用。
神经网络应用市场无所不在
PowerVR 2NX NNA是专为适应多种市场的推理引擎所设计,其高度可扩展架构适用于未来的更多应用市场。
移动:随着Tensorflow Lite以及 Android API的即将发布,再加上Caffe2Go架构的快速进展,我们将看到智能手机AI应用程序数量的快速爆发。公司需要高效率的方式来执行包括影像辨识、语音辨识、计算摄影等在内各种的推理任务。PowerVR 2NX是现今唯一的一套IP解决方案,能以低功耗、小面积、MMU和对Android的支持,来满足移动解决方案部署的所有需求。在GPU不可或缺的移动设备中,公司能把新的 PowerVR Series9XE或 9XM GPU与 2NX NNA在相同的芯片中搭配运用,以作为独立式GPU。其优异的性能足以和业界的独立式GPU竞争。
智能监控:家庭与商业场所安装的监控摄影机数量正大量增加,将推动神经网络视觉处理的需求。基于这些技术的智能型摄影机能被用来根据安全警示、零售分析、人口统计与互动数据来制定决策。考虑带宽需求、数据机密性与其他因素,摄影机的设计必须加入一定程度的“网络边缘”(edge) 视频信息分析处理的能力。由于这些摄影机通常没有GPU或是仅有非常小的GPU,以及较低性能的CPU,因此它们需要一个高效率、高性能的独立式神经网络加速器。2NX NNA是理想的选择,并且具备高度可扩展性,能同时满足消费性与商用的需求。
汽车:汽车的神经网络应用包括驾驶员警觉性监测、驾驶员视线追踪、座位使用、路标检测、驾驶路线分析、道路使用者检测、驾驶员辨识以及其他。随着未来几年自动驾驶汽车与智能型运输系统的数量将日益增加,这些应用将持续扩展。在汽车系统中,需要2NX NNA 这样的完整硬件解决方案,才能满足相关的性能需求。
家庭娱乐:机顶盒和电视将逐渐提供基于神经网络的解决方案,例如能够适应特定使用者偏好的能力,提供自动的儿童锁,以及根据使用者行为自动暂停与录制节目。凭借这些特性,公司能提升其差异性并增加营收。要在这些设备上构建神经网络的关键是高效率的带宽与低成本,以及支持NN API ─ 这些都是2NX NNA的重要特性。此外,还有许多新兴的NNA娱乐应用,包括AR/VR。
睿悦信息Nibiru是一家移动VR与AR的技术与服务供应商,该公司的共同创始人兼副总裁 Tony Chia表示:“来自合作伙伴Imagination的创新技术是确保VR解决方案可为消费者提供高度沉浸式游戏与视觉体验的重要关键。我们对神经网络在VR/AR的潜在应用感到非常振奋,包括追踪、控制、姿势辨识、语音辨识、以及能增加更多的互动体验。内置 PowerVR 2NX NNA的芯片组可提供所需的处理能力与功耗效率,把VR/AR体验推升到全新的境界。”
简化开发人员的工作
Imagination可为开发人员提供所有必要的工具,让他们能快速、轻松地启用和执行其神经网络,并确保运算带宽能与准确度完美平衡。PowerVR 2NX的开发资源包括映射 (mapping) 和微调工具、样本网络、评估工具与文件。完整的 PowerVR NX Mapping Tool 能从业界标准的机器学习框架,包括Caffe 和 Tensorflow,轻松进行转换。高级的网络设计人员将能在2NX NNA 上设计与构建神经网络,以充分发挥其硬件特性。
Imagination也可提供通用的Imagination DNN (深度神经网络) API,能在CPU、GPU与NNA之间轻松转换。此单一的API能够跨多种SoC配置执行,因此能在现有设备上轻松开发原型。
PowerVR 2NX NNA即日起开始提供授权。
Imagination发布PowerVR NNA神经网络加速器
相比最接近的竞争方案,可提供两倍性能而仅需一半带宽
关于 Imagination Technologies 公司
Imagination 是全球性的科技领导者,其产品已广为世界各地数十亿消费者所使用。Imagination 拥有完整的硅 IP(硅知识产权)产品组合,包括创建 SoC(片上系统)所需的关键性处理器,能够用来开发各式各样的移动、消费类和嵌入式电子产品。该公司独特的多媒体、处理器和连接技术可协助客户开发出具备高度差异化特性的 SoC 平台,并将产品快速推向市场。Imagination 的授权客户包括多家开发出全球最具标志性产品的领先半导体制造商、网络厂商以及 OEM/ODM 厂商。
评论
查看更多