0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

【NVIDIA生态】具有100 TOPS强劲算力的AIBOX!

Firefly开源团队 2024-12-05 03:00 次阅读

近年来,AI 正在通过自动化、改进数据分析以及提升参与度来推动企业变革。借助强大的嵌入式 AI 计算机,为生成式 AI、计算机视觉和高级机器人技术打造新一代产品

Firefly 推出搭载 NVIDIA 原装Jetson Orin 模组的高算力AI主机:AIBOX-OrinNano 和 AIBOX-OrinNX

英伟达系列 AIBOX

该系列可提供 40 或 100 TOPS的 AI 计算能力、大容量统一内存和全面的软件堆栈,能够以超高能效驱动 Transformer 架构下大模型,最新的生成式 AI 应用。

fb5e23ae-b271-11ef-8084-92fbcf53809c.jpg

边缘生成式 AI

支持目前主流大模型的本地化运行,包括LLaMa3,ChatGLM3,Qwen等语言大模型,SAM等视觉大模型,以及Stable Diffusion AI绘图。

嵌入式软件堆栈

借助全面的 AI 软件堆栈和生态系统,使边缘 AI 和机器人应用开发实现大众化。为 AI 应用提供端到端加速,并可利用驱动数据中心和云部署的技术能力,快捷推动更多 AI 产品上市。

fb87b426-b271-11ef-8084-92fbcf53809c.png

边缘计算的优势

物联网和移动设备采用嵌入式处理器收集数据,边缘计算将 AI 直接引入这些设备,在捕获数据的边缘端处理数据,而不是在云端或数据中心,从而加快实时决策和自主机器的 AI 工作流。

AIBOX在MLPerf‌的实测表现

MLPerf‌是一个用于衡量机器学习硬件、软件和服务性能的标准化基准测试平台,通过一系列标准化的基准测试任务和数据集,来评估和比较不同系统在执行机器学习任务时的性能,AIBOX-OrinNX 在该平台的实测中表现出卓越 AI 性能。

fbadbd6a-b271-11ef-8084-92fbcf53809c.png

支持多种深度学习框架

支持所有主流大模型深度学习框架,包括TensorFlow、PyTorch、MXNet、PaddlePaddle、ONNX和Darknet,并支持自定义算子开发。

边缘 AI 应用场景

可广泛适用于边缘计算、机器人、大模型本地化、智慧城市、智慧医疗、智慧工业等行业领域。

产品参数

fbea78fe-b271-11ef-8084-92fbcf53809c.jpg

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 嵌入式
    +关注

    关注

    5089

    文章

    19160

    浏览量

    306609
  • NVIDIA
    +关注

    关注

    14

    文章

    5063

    浏览量

    103428
  • AI
    AI
    +关注

    关注

    87

    文章

    31335

    浏览量

    269715
收藏 人收藏

    评论

    相关推荐

    ThinkPad X1 Carbon Aura:以120TOPS、986克重量打造行业新巅峰!

    方式。联想近期发布的ThinkPad X1 Carbon Aura AI元启版,便是在这一背景下推出的重磅之作。它以120TOPS的AI、重量低于1千克(986克)的轻薄设计,以及行业首创的跨
    的头像 发表于 12-30 15:26 188次阅读

    AIBOX应用】通过 NVIDIA TensorRT 实现实时快速的语义分割

    NVIDIA系列AIBOXAIBOX-OrinNano和AIBOX-OrinNX均搭载NVIDIA原装JetsonOrin核心板模组,标配工业级全金属外壳,铝合金结构导热,顶盖外壳侧面采用条幅格栅
    的头像 发表于 12-18 16:33 221次阅读
    【<b class='flag-5'>AIBOX</b>应用】通过 <b class='flag-5'>NVIDIA</b> TensorRT 实现实时快速的语义分割

    杰和课堂|带你认识

    主板内置34TOPS的NPU。那么究竟什么是?一、
    的头像 发表于 12-06 10:24 371次阅读
    杰和课堂|带你认识<b class='flag-5'>算</b><b class='flag-5'>力</b>

    超紧凑模块提供高达 39 TOPS AI

    的 XDNA™ NPU 和强大的 Radeon RDNA 3™ 图形处理器,可为AI推理提供高达39 TOPS的惊人。      这使得全新conga-TCR8 Type 6模块在大批量、
    发表于 09-25 13:46 1342次阅读
     超紧凑模块提供高达 39 <b class='flag-5'>TOPS</b> AI <b class='flag-5'>算</b><b class='flag-5'>力</b>

    AIBOX旗舰版:内置NVIDIA核心模组

    AIBOX-OrinNano和AIBOX-OrinNX均搭载NVIDIA原装JetsonOrin核心板模组,该系列可提供40~100TOPS的AI计算能力、大容量统一内存和全面的软件堆
    的头像 发表于 08-30 11:51 424次阅读
    <b class='flag-5'>AIBOX</b>旗舰版:内置<b class='flag-5'>NVIDIA</b>核心模组

    ARMxy工业控制器为视频监控提供1Tops支持

    ARMxy ARM工业控制器以其1TopsNPU,在视频监控中的应用展现出了不错的性能和广泛的应用,为用户提供了高效、稳定和可靠的解决方案,一起看看它的具体应用吧。 一、ARMxy ARM工业
    的头像 发表于 08-20 12:03 354次阅读
    ARMxy工业控制器为视频监控提供1<b class='flag-5'>Tops</b><b class='flag-5'>算</b><b class='flag-5'>力</b>支持

    用ARMxy ARM工业控制器自带的1Tops实现高性能图像处理

    ARMxy ARM工业控制器凭借其强大的性能、灵活的配置和高度集成的特性,尤其是其内置的1TopsNPU(神经网络处理单元),在图像识别领域展现出了良好的处理性能。本文将简易说明ARMxy ARM工业控制器如何利用其1
    的头像 发表于 08-20 11:55 480次阅读
    用ARMxy ARM工业控制器自带的1<b class='flag-5'>Tops</b><b class='flag-5'>算</b><b class='flag-5'>力</b>实现高性能图像处理

    AIBOX青春版上线!1399把AI带回家

    BM1688,高达16TOPS,支持主流大模型的私有化部署,把AI的能力私有化,满足个性化的AI部署。人工智能私有化部署语言大模型支持Transformer架构下超大规
    的头像 发表于 08-08 08:02 702次阅读
    <b class='flag-5'>AIBOX</b>青春版上线!1399把AI带回家

    刷新AI PC NPU,AMD锐龙AI 9 HX 375领衔55 TOPS

    NPU性能第一梯队。而此次推出的Ryzen AI 9 HX 375进一步提升至55 TOPS。在NPU这条路上AMD甚是积极。  
    的头像 发表于 08-07 00:28 3513次阅读
    刷新AI PC NPU<b class='flag-5'>算</b><b class='flag-5'>力</b>,AMD锐龙AI 9 HX 375领衔55 <b class='flag-5'>TOPS</b>

    光子计算芯片最新突破,峰值超1000tops,比电芯片更适合大模型

    电子发烧友网报道(文/李弯弯)近日,国内光计算芯片公司光本位科技宣布,公司已完成算密度和精度均达到商用标准的光计算芯片流片。这颗芯片的矩阵规模为128×128,峰值
    的头像 发表于 07-08 07:18 4858次阅读
    光子计算芯片最新突破,峰值<b class='flag-5'>算</b><b class='flag-5'>力</b>超1000<b class='flag-5'>tops</b>,比电芯片更适合大模型

    AIBOX-1684X:把大语言模型“装”进小盒子

    AIBOX-1684X支持主流大模型私有化部署,高达32TOPS,同时也支持CNN、RNN、LSTM等传统网络架构,支持TensorFNNX和Darknet等深度学习架构,并支持自
    的头像 发表于 04-20 08:02 1353次阅读
    <b class='flag-5'>AIBOX</b>-1684X:把大语言模型“装”进小盒子

    AMD推出锐龙8000嵌入式处理器,AI高达39 T

    此款CPU选用4纳米制程、AMD基于“Zen 4”架构的CPU核心以及使用RDNA 3架构GPU和XDNA架构NPU,实现高达39TOPS的AI,其中NPU
    的头像 发表于 04-03 10:39 936次阅读

    256Tops!CSA1-N8S1684X服务器

    (基于BM1684X的高服务器)高AI处理器BM1684X搭载了BM1684AISo
    的头像 发表于 03-23 08:02 1714次阅读
    256<b class='flag-5'>Tops</b><b class='flag-5'>算</b><b class='flag-5'>力</b>!CSA1-N8S1684X<b class='flag-5'>算</b><b class='flag-5'>力</b>服务器

    能RADXA微服务器试用体验】Radxa Fogwise 1684X Mini 规格

    通过网络可以了解到,能RADXA微服务器的具体规格: 处理器:BM1684X :高达32Tops INT8峰值
    发表于 02-28 11:21

    大茉莉X16-P,5800M大称王称霸

    Rykj365
    发布于 :2024年01月25日 14:54:52