0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

基于NVIDIA Jetson的AIR-020 AI推理系统

星星科技指导员 来源:嵌入式计算设计 作者:嵌入式计算设计 2022-07-11 10:02 次阅读

随着世界对智能需求的增加,实时边缘计算不再仅仅指数据处理。它越来越多地暗示着人工智能

在交通监控、缺陷/质量检查、人数统计、医学成像或自主移动机器人 (AMR) 等应用中,对边缘 AI 的需求也意味着对低延迟、最低功耗和足够散热的要求——当然,在可能的最高性能水平。

研华AIR-020 系列边缘 AI 盒子通过为边缘计算用户提供基于 NVIDIA Jetson 硬件生态系统的可扩展硬件组合来实现这一目标。借助基于 Jetson Nano、Jetson TX2 NX 和 Jetson Xavier NX 模块的 SKU,AIR-020 系列可在 5W 热设计功率 (TDP) 下提供 472 GFLOP 的推理性能,一直到 15W 下的 21 TOP 139 x 110 x 44.5 毫米(5.47“ x 4.33” x 1.75“)封装。

AIR-020 系列 SKU 包括:

AIR-020N – 基于 Jetson Nano,AIR-020N 配备 128 个 CUDA 内核 Maxwell GPU 和四核 1.43 GHz Arm Cortex-A57 CPU、4 GB LPDDR4 内存和 16 GB eMMC 闪存,用于基准测试 512 GFOLP 的浮动- 第 16 点表现。

AIR-020T – 基于 Jetson TX2 NX,AIR-020T 包括 256 个 CUDA GPU 内核、双核 Arm Denver 2 和四核 Arm Cortex-A57 内核,运行频率为 2 GHz,以及 4 GB LPDDR4 内存和 16 GB eMMC闪存基准为 1.33 TFLOPS

AIR-020X – 基于 Jetson Xavier NX,AIR-020X 利用 384 Volta CUDA GPU 内核、48 个 Tensor 内核、六核 Arm v8.2 Carmel CPU、8 GB LPDDR4 内存和 16 GB eMMC Flash对 21 TOPS 的整数 8 分辨率性能进行了基准测试。

在整个系列中,用户可以期待包含一个或多个的 I/O 和接口

USB:USB 3.2 Type A/C、MicroUSB

网络:千兆以太网

显示:HDMI

串口:RS-232/422/485,CANbus

扩展:带 Nano SIM 插槽的全尺寸 MiniPCIe

这些功能与上述以视觉为中心的用例相结合,可实现高达每秒 1058 帧 (fps) 的性能速率。

研华 AIR-020 边缘人工智能系统在行动

然而,对于以 AI 为中心的应用程序,可以在随附的存储驱动器中添加高达 128 GB 的外部存储,该存储驱动器插入板载 M.2 插槽,允许处理器随意访问更大的 AI 模型和数据集。

在软件方面,这些平台运行 Ubuntu 18 的长期支持版本,该版本使用 JetPack SDK 和 Advantech 的 Edge AI Suite 4.5.1 版本进行开发。无代码、基于 GUI 的 Edge AI 套件包括推理引擎和对 OpenVINO 工具包的支持、预训练的 AI 模型和部署向导,而 JetPack SDK 包括 CUDA X 加速库和深度学习计算机视觉、和多媒体 API

这些平台还配备了安全技术,例如安全启动和可信计算集团 (TCG) 可信平台模块安全元素的 2.0 版,以保护设备上静态或跨物联网基础设施传输的敏感信息

硬件和软件功能共同促进了当今智能远程计算应用程序可用的一些最先进的智能。

运行时,AIR-020 系列支持 12-24V 直流电源输入,可在 -10 至 55°C 的温度范围内运行。它的振动额定为 3 Grms @ 5 ~ 500 Hz。

研华 AIR-020 边缘人工智能系统入门

与研华的 AIR-020 系列边缘 AI 推理系统一起提供的综合软件包还包括用于快速启动的 Linux 板卡支持包 (BSP),因此应用程序开发可以立即开始。当然,它并不止于此,在 Advantech Edge AI Suite 和 JetPack 社区生态系统中提供了大量演示、教程、应用说明等。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    27461

    浏览量

    265132
  • 人工智能
    +关注

    关注

    1781

    文章

    44964

    浏览量

    232385
  • 深度学习
    +关注

    关注

    73

    文章

    5266

    浏览量

    120176
收藏 人收藏

    评论

    相关推荐

    英伟达推出AI模型推理服务NVIDIA NIM

    英伟达近日宣布推出一项革命性的AI模型推理服务——NVIDIA NIM。这项服务将极大地简化AI模型部署过程,为全球的2800万英伟达开发者提供前所未有的便利。
    的头像 发表于 06-04 09:15 333次阅读

    Nvidia Jetson Nano + CYW55573/AWXB327MA-PUR M.2无法使用操作系统内置的网络管理器管理Wi-Fi如何解决?

    我们使用的是 Nvidia Jetson Nano + CYW55573/AWXB327MA-PUR M.2 ,请参阅 Nvidia Jetson 与英飞凌 AIROC Wi-Fi 6
    发表于 05-23 06:47

    利用NVIDIA组件提升GPU推理的吞吐

    本实践中,唯品会 AI 平台与 NVIDIA 团队合作,结合 NVIDIA TensorRT 和 NVIDIA Merlin HierarchicalKV(HKV)将
    的头像 发表于 04-20 09:39 316次阅读

    使用NVIDIA Triton推理服务器来加速AI预测

    这家云计算巨头的计算机视觉和数据科学服务使用 NVIDIA Triton 推理服务器来加速 AI 预测。
    的头像 发表于 02-29 14:04 338次阅读

    NVIDIA Jetson为嵌入式计算领域探索AI可能

    自动化业务流程、通过数据分析获得洞察力、与客户和员工互动……如今 AI 正在大幅提高生产力,推动竞争优势。NVIDIA Jetson 是适用于自主机器和其他嵌入式应用的先进平台,具有出色的 A
    的头像 发表于 01-25 17:03 341次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>Jetson</b>为嵌入式计算领域探索<b class='flag-5'>AI</b>可能

    NVIDIA Jetson 的嵌入式系统AI应用

    在这个平台上可以使用多个不同的芯片 ,案例的主角是AIMobile AIM Edge Ncox,一款基于NVIDIA Jetson Orin NX的小型被动冷却嵌入式系统。该系统具有6
    发表于 12-11 17:37 352次阅读

    利用 NVIDIA Jetson 实现生成式 AI

    近日,NVIDIA 发布了 Jetson 生成式 AI 实验室(Jetson Generative AI Lab),使开发者能够通过
    的头像 发表于 11-07 21:25 597次阅读
    利用 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>Jetson</b> 实现生成式 <b class='flag-5'>AI</b>

    周四研讨会预告 | 注册报名 NVIDIA AI Inference Day - 大模型推理线上研讨会

    由 CSDN 举办的 NVIDIA AI Inference Day - 大模型推理线上研讨会,将帮助您了解 NVIDIA 开源大型语言模型(LLM)
    的头像 发表于 10-26 09:05 233次阅读

    使用 NVIDIA Jetson 优化功率

    在使用 Jetson 模组等嵌入式系统时,必须根据功率分配和计算资源来优化应用。为避免性能以及热节流问题,进行监控就显得格外重要。 Jetson 模组自带 GPU、CPU 和各种 AI
    的头像 发表于 10-19 11:10 383次阅读
    使用 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>Jetson</b> 优化功率

    NVIDIA Grace Hopper超级芯片横扫MLPerf推理基准测试

    从云端到网络边缘,NVIDIA GH200、H100和L4 GPU以及Jetson Orin模组在运行生产级 AI 时均展现出卓越性能。       NVIDIA GH200 Grac
    发表于 09-13 09:45 210次阅读
    <b class='flag-5'>NVIDIA</b> Grace Hopper超级芯片横扫MLPerf<b class='flag-5'>推理</b>基准测试

    NVIDIA Grace Hopper 超级芯片横扫 MLPerf 推理基准测试

    从云端到网络边缘,NVIDIA GH200、H100 和 L4 GPU 以及 Jetson Orin 模组在运行生产级 AI 时均展现出卓越性能。 NVIDIA GH200 Grace
    的头像 发表于 09-12 20:40 314次阅读

    NVIDIA Jetson还能让AI驱动维修机器人?

    这位边缘 AI 领域的“绝地武士”使用 NVIDIA Jetson Orin Nano 开发者套件作为机器人的大脑,让这个身高不到四英尺、眼睛只有一个简单网络摄像头的机器人能够识别物体,并将头部转向物体。
    的头像 发表于 08-18 15:37 768次阅读

    安提国际推出基于NVIDIA Jetson Orin的新型无风扇边缘AI系统

    新北市2023年8月3日 /美通社/ -- 安提国际推出了基于NVIDIA Jetson Orin系统模块(system-on-module;SoM)的全新无风扇边缘计算系统。这些具紧
    的头像 发表于 08-04 10:41 407次阅读

    京东和美团已选用NVIDIA Jetson AGX Xavier 平台

    电商巨头选用NVIDIA Jetson AGX Xavier打造下一代配送机器人 京东、美团采用NVIDIA AI计算平台,以满足大量处理需求
    的头像 发表于 08-01 14:54 636次阅读

    NVIDIA JETSON载板设计开发教程 NVIDIA SDK Manager对载板进行自定义

    NVIDIA SDK Manager 是在 NVIDIA Jetson 开发者套件 上安装 NVIDIA JetPack SDK 的必备工具。它提供了一种简单易行的方法,可在几分钟内完
    的头像 发表于 07-28 17:10 1468次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>JETSON</b>载板设计开发教程 <b class='flag-5'>NVIDIA</b> SDK Manager对载板进行自定义