0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVMe为极端工业计算中的推理分析提供支持

星星科技指导员 来源:嵌入式计算设计 作者:Dustin Seetoo 2022-11-22 11:44 次阅读

实时、高性能的数据消除了带宽、延迟和云资源方面的挑战

非易失性存储器高速 (NVMe) 为边缘计算系统提供数据中心性能,实现快速数据存储和访问。该技术在重工业环境中实现复杂的自动化功能方面是一项突破,有助于在环境严苛成为稳健计算障碍的领域推动推理计算、人工智能机器学习。在这些设置中,快速非易失性存储使机器学习算法即使在处理大量数据时也能正常运行。

考虑用于完成复杂视觉任务的智能对象检测软件。这种类型的自动化比人眼更可靠、更有能力,它基于深度学习,或者神经网络在从持续暴露于某些视觉数据源中学习时变得更加智能和高效。

虽然捕获和分析如此大范围数据所需的性能曾经只能通过云资源实现,但当今坚固耐用的边缘系统将 NVMe 存储与 CPUGPU 性能、编程传感器和软件算法相结合,可在更多类型的计算环境中解锁高级自动化。看看 NVMe 的实际应用,可以展示极端工业环境如何通过利用先进的自动化来提高竞争力。

模块化 NVMe 和 U.2 增加了灵活性

NVMe 专为利用 NAND 等加速存储介质或通过 PCIe 接口的持久内存而开发。在 SATA 固态硬盘无法充分利用 PCIe 通道的情况下,NVMe 以直接连接到 PCIe 通道的 SATA 速度的两倍执行数据传输。通过使用 PCIe Gen 3 协议,数据沿着类似于高级处理器架构的并行低延迟路径移动。较新的 NVMe SSD 现在也正在过渡到 PCIe Gen 4 协议,为 SSD 提供更快的读/写速度。

CPU 周期更高效,避免了 SATA 常见的 I/O 瓶颈,并提高了边缘推理分析所需的性能。这创造了一连串的好处;例如,读/写能力随着延迟的减少而提高,工作负载得到提升,并发现了实时处理的新选项。数据存储在闪存中,没有移动部件,NVMe 架构本身提供了调节 SSD 功率的能力。这些因素提高了可靠性,延长了电池寿命,并对总拥有成本产生了积极影响。

NVMe 还通过热插拔功能为坚固耐用的边缘系统增加了灵活性。在理想的设计中,M.2 存储托盘用作主机,允许快速访问和更换驱动器。与单个板载 NVMe 驱动器相比,热插拔功能可确保将数据移动到存储或其他主数据管理设施中的灵活性。

优化的系统还支持 U.2 接口,用于连接 NVMe 存储。如果小型扁平 M.2 驱动器直接放置在主板上,U.2 电缆可以访问单独的 2.5 英寸。传统 SATA 固态硬盘常见的固态硬盘。根据部署环境,通过将驱动器及其产生的热量与主板分离,这可能会提供热优势。

这两个选项都通过 PCIe 总线直接与 NVMe 存储系统的主板通信,并且两个选项都使用相同类型的闪存存储。U.2 选项为最终用户提供了这种额外的灵活性,允许比 M.2 更高的存储容量(大约 8 TB,而 M.2 的最大存储容量为 4 TB)。总体而言,U.2 通过使用多达四个 PCIe 通道和两个 SATA 通道来实现更快的数据管道。

对远程信息处理和运输应用的好处

车载传感器收集了大量数据,随着5G的普及,这些数据只会增加。在人工智能的支持下,这些全面的实时数据最终用于改善资产跟踪、评估驾驶行为、提高生产力并简化整体运营和成本。在整个行业中,边缘设备也被认为对依赖移动员工的运营至关重要。

由于远程信息处理领域非常多样化,数据、传感器和车辆类型以及操作环境范围广泛,因此灵活的数据操作是关键。例如,强大的连接性对于移动车辆至关重要,遥测数据不断来回移动。当配备热插拔NVMe功能时,商用车中的坚固系统为如何将数据从车辆发送到中央数据存储提供了另一种选择。车辆返回后,驱动器可以简单地更换,从而消除停机时间并保持车辆滚动。

优化客户体验

坚固耐用的边缘技术在从库存管理和物流到个性化购物体验和销售预测的方方面面发挥着作用。人工智能使零售商能够构建智能商店 - 无论是物理还是虚拟 - 作为在买方拥有所有权力的市场中保持竞争力的一种手段。采用自助服务技术的自助服务终端必须采用坚固耐用的设计,融合了模块化和无风扇选项,以便在极端环境和恶劣温度下实现性能。工作负载整合考虑了计算、存储、I/O 多样性和连接性,以保护性能,并通过在边缘进行有效的远程管理实现节省成本的便利性。

借助高性能计算,公共场所和基础设施可以保持安全。例如,坚固耐用的边缘驱动的 AI 允许系统自动分析实时视频,而无需人工操作。这有助于体育场、火车站和机场等市政环境中的实时公共安全。这里部署的系统必须能够在恶劣的温度(-40°C至70°C)下运行,承受冲击和振动(5gRMS振动和50G冲击),并在宽电压(9至50 Vdc)下运行。

结合 PCIe Gen 3 和 NVMe 存储,开发人员能够在最极端的环境中创建用于数据记录、监控和监视的应用程序。这种设计方法承认SATA存储技术不足以达到这种级别的边缘性能,而是建立在驱动数据中心设计的相同概念之上。新的坚固边缘系统设计在更接近数据生成位置的位置平衡了性能和可靠性。

AI/ML 是工业 4.0 的核心

工业 4.0 由制造业中的智能互联设备定义,例如能够进行运动检测、信号传输和深度感知的高性能相机。坚固耐用的边缘系统及其连接的节点可处理这些支持传感器的设备生成的大量数据流,从而为更先进的自动化提供动力。实时分析数据,实现高价值数据交互,从而优化质量控制、最大限度地提高产量并加快上市时间。移动和远程部署增加了更多价值,利用了可提高可靠性并可能消除现场技术支持的工作负载整合。

坚固的边缘是数据所在的地方,今天包括曾经仅限于云计算选项的极端工业环境。Gartner提出,到今年年底,将有多达250亿台互联边缘设备。这代表了硬件干预的新水平,每种类型的工业环境都可以获得更高级自动化的竞争价值。

NVMe 在坚固边缘的实时数据传输中发挥着重要作用,其价值通过包括 U.2 选项以及多个 NVMe M.2 驱动器的设计得到扩展,以实现轻松的数据访问、热插拔性和不间断性能。这些低延迟系统避免了数据瓶颈,并提供实时分析,能够改善组织的运营方式。值得注意的是,随着每GB的NAND闪存成本持续下降,开发人员有一条开放的途径来设计更大的竞争优势。

坚固边缘的硬件加速

执行实时决策和预测分析的能力是工业运营中越来越具有战略意义的目标。这是一个持续存在的工程挑战。快速的数字化转型和对自动化升级日益增长的需求推动了这一新的当务之急。坚固耐用的边缘计算在这一领域发挥着关键且不断增长的作用,通过传感器输入数据加速数据处理,并允许在数据源附近进行访问和分析。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1791

    文章

    46896

    浏览量

    237672
  • 机器学习
    +关注

    关注

    66

    文章

    8382

    浏览量

    132444
  • 边缘计算
    +关注

    关注

    22

    文章

    3070

    浏览量

    48661
收藏 人收藏

    评论

    相关推荐

    高效大模型的推理综述

    大模型由于其在各种任务的出色表现而引起了广泛的关注。然而,大模型推理的大量计算和内存需求对其在资源受限场景的部署提出了挑战。业内一直在努力开发旨在提高大模型推理效率的技术。本文对现有
    的头像 发表于 11-15 11:45 246次阅读
    高效大模型的<b class='flag-5'>推理</b>综述

    FPGA和ASIC在大模型推理加速的应用

    随着现在AI的快速发展,使用FPGA和ASIC进行推理加速的研究也越来越多,从目前的市场来说,有些公司已经有了专门做推理的ASIC,像Groq的LPU,专门针对大语言模型的推理做了优化,因此相比GPU这种通过
    的头像 发表于 10-29 14:12 217次阅读
    FPGA和ASIC在大模型<b class='flag-5'>推理</b>加速<b class='flag-5'>中</b>的应用

    边缘计算工业自动化的应用

    边缘计算工业自动化的应用日益广泛,它通过将数据处理和计算能力移至靠近数据源的边缘设备,实现了更高效、实时的工业自动化控制。以下是边缘
    的头像 发表于 10-24 14:30 317次阅读

    计算在大数据分析的应用

    计算在大数据分析的应用广泛且深入,它为用户提供了存储、计算分析和预测的强大能力。以下是对云
    的头像 发表于 10-24 09:18 336次阅读

    ARMxy工业控制器视频监控提供1Tops算力支持

    ARMxy ARM工业控制器以其1Tops的算力NPU,在视频监控的应用展现出了不错的性能和广泛的应用,用户提供了高效、稳定和可靠的解决方案,一起看看它的具体应用吧。 一、ARMx
    的头像 发表于 08-20 12:03 268次阅读
    ARMxy<b class='flag-5'>工业</b>控制器<b class='flag-5'>为</b>视频监控<b class='flag-5'>提供</b>1Tops算力<b class='flag-5'>支持</b>

    NVIDIA 通过 Holoscan NVIDIA IGX 提供企业软件支持

    Enterprise-IGX软件现已在NVIDIA IGX平台上正式可用,以满足工业边缘对实时 AI 计算日益增长的需求。它们将共同帮助医疗、工业和科学计算领域的解决方案
    的头像 发表于 06-04 10:21 468次阅读

    NVIDIA 通过 Holoscan NVIDIA IGX 提供企业软件支持,实现边缘实时医疗、工业和科学 AI 应用

    医疗、工业和科学计算领域的解决方案提供商利用企业级软件和支持来加快开发和部署边缘 AI 解决方案。   NVIDIA AI Enterprise-IGX 是一款全新产品,其为企业的边缘
    发表于 06-03 09:48 288次阅读
      NVIDIA 通过 Holoscan <b class='flag-5'>为</b> NVIDIA IGX <b class='flag-5'>提供</b>企业软件<b class='flag-5'>支持</b>,实现边缘实时医疗、<b class='flag-5'>工业</b>和科学 AI 应用

    高性能NVMe主机控制器,Xilinx FPGA PCIe 3

    – Volatile Write Cache/ArbitrationØ支持NVMe NVM Command Set:Write、Read、Flush、Dataset ManagementØ提供1个
    发表于 04-20 14:41

    高性能NVMe主机控制器,Xilinx FPGA NVMe Host Accelerator IP

    /ArbitrationØ支持NVMe NVM Command Set:Write、Read、Flush、Dataset ManagementØ提供1个Admin命令接口,实现对PCIe SSD的复位/断电/SMART
    发表于 04-10 22:55

    绿芯半导体推出一款高可靠的NVMe NANDrive™ BGA固态硬盘样品

    绿芯工业控制和智能交通应用的客户提供高可靠 NVMe NANDrive™ BGA固态硬盘样品
    的头像 发表于 03-28 10:34 398次阅读
    绿芯半导体推出一款高可靠的<b class='flag-5'>NVMe</b> NANDrive™ BGA固态硬盘样品

    Xilinx FPGA高性能NVMe SSD主机控制器,NVMe Host Controller IP

    /ArbitrationØ支持NVMe NVM Command Set:Write、Read、Flush、Dataset ManagementØ提供1个Admin命令接口,实现对PCIe SSD的复位/断电/SMART
    发表于 03-27 17:23

    AI推理框架软件ONNX Runtime正式支持龙架构

    近日,知名AI推理框架开源社区ONNX Runtime正式发布支持龙架构的版本1.17.0。
    的头像 发表于 03-12 12:23 545次阅读
    AI<b class='flag-5'>推理</b>框架软件ONNX Runtime正式<b class='flag-5'>支持</b>龙架构

    Xilinx FPGA NVMe主机控制器IP,高性能版本介绍应用

    、Set FeatureØ支持NVMe NVM Command Set:Write、Read、Flush、Dataset ManagementØ提供1个Admin命令接口,实现对PCIe SSD的复位
    发表于 03-09 13:56

    Xilinx FPGA NVMe Host Controller IP,NVMe主机控制器

    Queue、Set FeatureØ支持NVMe NVM Command Set:Write、Read、Flush、Dataset ManagementØ提供1个Admin命令接口,实现对PCIe SSD
    发表于 02-21 10:16

    工业笔记本丨行业三防笔记本丨亿道加固笔记本定制丨极端温度优势

    工业笔记本是专为在恶劣环境条件下工作而设计的高度耐用的计算机设备。与传统消费者级笔记本电脑相比,工业笔记本在极端温度下展现出了许多优势。本文将探讨
    的头像 发表于 02-05 14:37 542次阅读