0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

基于NVIDIA Jetson的AIR-020 AI推理系统

星星科技指导员 来源:嵌入式计算设计 作者:嵌入式计算设计 2022-07-11 10:02 次阅读

随着世界对智能需求的增加,实时边缘计算不再仅仅指数据处理。它越来越多地暗示着人工智能

在交通监控、缺陷/质量检查、人数统计、医学成像或自主移动机器人 (AMR) 等应用中,对边缘 AI 的需求也意味着对低延迟、最低功耗和足够散热的要求——当然,在可能的最高性能水平。

研华AIR-020 系列边缘 AI 盒子通过为边缘计算用户提供基于 NVIDIA Jetson 硬件生态系统的可扩展硬件组合来实现这一目标。借助基于 Jetson Nano、Jetson TX2 NX 和 Jetson Xavier NX 模块的 SKU,AIR-020 系列可在 5W 热设计功率 (TDP) 下提供 472 GFLOP 的推理性能,一直到 15W 下的 21 TOP 139 x 110 x 44.5 毫米(5.47“ x 4.33” x 1.75“)封装。

AIR-020 系列 SKU 包括:

AIR-020N – 基于 Jetson Nano,AIR-020N 配备 128 个 CUDA 内核 Maxwell GPU 和四核 1.43 GHz Arm Cortex-A57 CPU、4 GB LPDDR4 内存和 16 GB eMMC 闪存,用于基准测试 512 GFOLP 的浮动- 第 16 点表现。

AIR-020T – 基于 Jetson TX2 NX,AIR-020T 包括 256 个 CUDA GPU 内核、双核 Arm Denver 2 和四核 Arm Cortex-A57 内核,运行频率为 2 GHz,以及 4 GB LPDDR4 内存和 16 GB eMMC闪存基准为 1.33 TFLOPS

AIR-020X – 基于 Jetson Xavier NX,AIR-020X 利用 384 Volta CUDA GPU 内核、48 个 Tensor 内核、六核 Arm v8.2 Carmel CPU、8 GB LPDDR4 内存和 16 GB eMMC Flash对 21 TOPS 的整数 8 分辨率性能进行了基准测试。

在整个系列中,用户可以期待包含一个或多个的 I/O 和接口

USB:USB 3.2 Type A/C、MicroUSB

网络:千兆以太网

显示:HDMI

串口:RS-232/422/485,CANbus

扩展:带 Nano SIM 插槽的全尺寸 MiniPCIe

这些功能与上述以视觉为中心的用例相结合,可实现高达每秒 1058 帧 (fps) 的性能速率。

研华 AIR-020 边缘人工智能系统在行动

然而,对于以 AI 为中心的应用程序,可以在随附的存储驱动器中添加高达 128 GB 的外部存储,该存储驱动器插入板载 M.2 插槽,允许处理器随意访问更大的 AI 模型和数据集。

在软件方面,这些平台运行 Ubuntu 18 的长期支持版本,该版本使用 JetPack SDK 和 Advantech 的 Edge AI Suite 4.5.1 版本进行开发。无代码、基于 GUI 的 Edge AI 套件包括推理引擎和对 OpenVINO 工具包的支持、预训练的 AI 模型和部署向导,而 JetPack SDK 包括 CUDA X 加速库和深度学习计算机视觉、和多媒体 API

这些平台还配备了安全技术,例如安全启动和可信计算集团 (TCG) 可信平台模块安全元素的 2.0 版,以保护设备上静态或跨物联网基础设施传输的敏感信息

硬件和软件功能共同促进了当今智能远程计算应用程序可用的一些最先进的智能。

运行时,AIR-020 系列支持 12-24V 直流电源输入,可在 -10 至 55°C 的温度范围内运行。它的振动额定为 3 Grms @ 5 ~ 500 Hz。

研华 AIR-020 边缘人工智能系统入门

与研华的 AIR-020 系列边缘 AI 推理系统一起提供的综合软件包还包括用于快速启动的 Linux 板卡支持包 (BSP),因此应用程序开发可以立即开始。当然,它并不止于此,在 Advantech Edge AI Suite 和 JetPack 社区生态系统中提供了大量演示、教程、应用说明等。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    30106

    浏览量

    268398
  • 人工智能
    +关注

    关注

    1791

    文章

    46845

    浏览量

    237533
  • 深度学习
    +关注

    关注

    73

    文章

    5492

    浏览量

    120975
收藏 人收藏

    评论

    相关推荐

    初创公司借助NVIDIA Metropolis和Jetson提高生产线效率

    初创公司使用 NVIDIA Metropolis 视觉 AIJetson 边缘 AI 平台提高生产线效率。
    的头像 发表于 11-19 14:39 112次阅读

    使用NVIDIA Jetson打造机器人导盲犬

    Selin Alara Ornek 是一名富有远见的高中生。她使用机器学习和 NVIDIA Jetson边缘 AI 和机器人平台,为视障人士打造了机器人导盲犬。
    的头像 发表于 11-09 13:51 179次阅读

    NVIDIA助力丽蟾科技打造AI训练与推理加速解决方案

    丽蟾科技通过 Leaper 资源管理平台集成 NVIDIA AI Enterprise,为企业和科研机构提供了一套高效、灵活的 AI 训练与推理加速解决方案。无论是在复杂的
    的头像 发表于 10-27 10:03 163次阅读
    <b class='flag-5'>NVIDIA</b>助力丽蟾科技打造<b class='flag-5'>AI</b>训练与<b class='flag-5'>推理</b>加速解决方案

    NVIDIA与思科合作打造企业级生成式AI基础设施

    NVIDIA 加速计算平台、NVIDIA AI Enterprise 软件和 NVIDIA NIM 推理微服务加持的思科 Nexus H
    的头像 发表于 10-10 09:35 287次阅读

    NVIDIA携手Meta推出AI服务,为企业提供生成式AI服务

    NVIDIA近日宣布了一项重大举措,正式推出NVIDIA AI Foundry服务与NVIDIA NIM(NVIDIA Inference
    的头像 发表于 07-25 16:57 493次阅读

    英伟达推出全新NVIDIA AI Foundry服务和NVIDIA NIM推理微服务

    NVIDIA 宣布推出全新 NVIDIA AI Foundry 服务和 NVIDIA NIM 推理微服务,与同样刚推出的 Llama 3.1
    的头像 发表于 07-25 09:48 667次阅读

    英伟达推出AI模型推理服务NVIDIA NIM

    英伟达近日宣布推出一项革命性的AI模型推理服务——NVIDIA NIM。这项服务将极大地简化AI模型部署过程,为全球的2800万英伟达开发者提供前所未有的便利。
    的头像 发表于 06-04 09:15 642次阅读

    Nvidia Jetson Nano + CYW55573/AWXB327MA-PUR M.2无法使用操作系统内置的网络管理器管理Wi-Fi如何解决?

    我们使用的是 Nvidia Jetson Nano + CYW55573/AWXB327MA-PUR M.2 ,请参阅 Nvidia Jetson 与英飞凌 AIROC Wi-Fi 6
    发表于 05-23 06:47

    利用NVIDIA组件提升GPU推理的吞吐

    本实践中,唯品会 AI 平台与 NVIDIA 团队合作,结合 NVIDIA TensorRT 和 NVIDIA Merlin HierarchicalKV(HKV)将
    的头像 发表于 04-20 09:39 642次阅读

    开发者手机 AI - 目标识别 demo

    Network Runtime 神经网络运行时,作为中间桥梁连通上层AI推理框架和底层加速芯片,实现AI模型的跨芯片推理计算。提供统一AI
    发表于 04-11 16:14

    基于OpenCV DNN实现YOLOv8的模型部署与推理演示

    基于OpenCV DNN实现YOLOv8推理的好处就是一套代码就可以部署在Windows10系统、乌班图系统Jetson的Jetpack系统
    的头像 发表于 03-01 15:52 1395次阅读
    基于OpenCV DNN实现YOLOv8的模型部署与<b class='flag-5'>推理</b>演示

    使用NVIDIA Triton推理服务器来加速AI预测

    这家云计算巨头的计算机视觉和数据科学服务使用 NVIDIA Triton 推理服务器来加速 AI 预测。
    的头像 发表于 02-29 14:04 545次阅读

    NVIDIA Jetson为嵌入式计算领域探索AI可能

    自动化业务流程、通过数据分析获得洞察力、与客户和员工互动……如今 AI 正在大幅提高生产力,推动竞争优势。NVIDIA Jetson 是适用于自主机器和其他嵌入式应用的先进平台,具有出色的 A
    的头像 发表于 01-25 17:03 503次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>Jetson</b>为嵌入式计算领域探索<b class='flag-5'>AI</b>可能

    HarmonyOS:使用MindSpore Lite引擎进行模型推理

    场景介绍 MindSpore Lite 是一款 AI 引擎,它提供了面向不同硬件设备 AI 模型推理的功能,目前已经在图像分类、目标识别、人脸识别、文字识别等应用中广泛使用。 本文介绍
    发表于 12-14 11:41

    NVIDIA Jetson 的嵌入式系统AI应用

    在这个平台上可以使用多个不同的芯片 ,案例的主角是AIMobile AIM Edge Ncox,一款基于NVIDIA Jetson Orin NX的小型被动冷却嵌入式系统。该系统具有6
    发表于 12-11 17:37 535次阅读