0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Edge Impulse发布新工具,助 NVIDIA 模型大规模部署

微云疏影 来源:综合整理 作者:综合整理 2024-03-25 16:00 次阅读

Edge Impulse 边缘智能平台近日推出全新工具套组,借力 NVIDIA TAO Toolkit 和 Omniverse,针对基于 Arm Cortex-A、Cortex-M 以及Ethos-U NPU 的低阶硬件架构推出新型 AI 模型,如 NXP I.MX RT1170、Alif E3、STM32H747AI 及 Renesas CK-RA8D1。

借助 Edge Impulse 和 NVIDIA TAO 工具包的协同效应,工程师得以快速构建并部署至边缘优化硬件(如上述型号)的计算机视觉模型。该平台还支持用户运用经由 GPU 优化的 NVIDIA TAO 模型(如 YOLO 以及 RetinaNet)进行自定义数据定制,调配后可适应有无 AI 加速器的边缘设备。

然而需注意,此创新方案需使用 GPU 进行模型训练。另外,Edge Impulse 还携手 NVIDIA Omniverse,实现模型在使用合成数据和边缘测试环境的应用程序中的集成。尤其适用环境下获取真实世界数据的成本高昂、耗时、存在隐私困扰或是无法充分描绘各类情景者。

利用 NVIDIA Omniverse Replicator ,Edge Impulse 可生成合成数据,并导入边缘设备的 AI 模型,配合应用于检测制造生产线上的缺陷、设备故障或者临床监测中的手术对象,以期避免术后并发症等状况。合成数据生成的优势颇多,包括:虚拟化减轻物理原型设计及测试负担;加速开发周期及实验过程;实现模拟传感器及模型行为;为MCU兼容性测试提供机会;提升模型可靠性并创设难以复现的情境。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    5075

    浏览量

    103601
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4768

    浏览量

    129281
  • 模型
    +关注

    关注

    1

    文章

    3298

    浏览量

    49135
收藏 人收藏

    评论

    相关推荐

    Adobe发布新工具简化内容创作

    Adobe近日宣布了一系列面向内容创作者的新工具和服务,旨在利用生成式人工智能技术简化繁琐的劳动密集型任务。其中,备受瞩目的新工具——“FireflyBulkCreate”应用程序,更是为内容创作者
    的头像 发表于 01-15 10:39 101次阅读

    NVIDIA推出面向RTX AI PC的AI基础模型

    NVIDIA 今日发布能在 NVIDIA RTX AI PC 本地运行的基础模型,为数字人、内容创作、生产力和开发提供强大助力。
    的头像 发表于 01-08 11:01 228次阅读

    NVIDIA Cosmos世界基础模型平台发布

    NVIDIA 宣布推出NVIDIA Cosmos,该平台由先进的生成式世界基础模型、高级 tokenizer、护栏和加速视频处理管线组成,将推动自动驾驶汽车(AV)和机器人等物理 AI 系统的发展。
    的头像 发表于 01-08 10:39 180次阅读

    AI模型部署边缘设备的奇妙之旅:目标检测模型

    介绍了如何使用分类任务进行手写数字的分类。相信大家脑海中可能会产生如下疑问: 数据依赖性强:分类模型的表现通常依赖于大量的标注数据进行训练。获取高质量、大规模的数据集既耗时又昂贵。 泛化能力有限:模型
    发表于 12-19 14:33

    利用OpenVINO部署GLM-Edge系列SLM模型

    近期智谱发布了其最新的GLM-Edge系列SLM模型,GLM-Edge 系列是智谱在面向端侧真实落地使用的场景下的一次尝试,由两种尺寸的大语言对话
    的头像 发表于 12-09 16:12 908次阅读

    NVIDIA与谷歌量子AI部门达成合作

    NVIDIA CUDA-Q 平台使谷歌量子 AI 研究人员能够为其量子计算机创建大规模的数字模型,以解决设计中面临的各种挑战
    的头像 发表于 11-20 09:39 300次阅读

    在设备上利用AI Edge Torch生成式API部署自定义大语言模型

    我们很高兴地发布 AI Edge Torch 生成式 API,它能将开发者用 PyTorch 编写的高性能大语言模型 (LLM) 部署至 TensorFlow Lite (TFLite
    的头像 发表于 11-14 10:23 526次阅读
    在设备上利用AI <b class='flag-5'>Edge</b> Torch生成式API<b class='flag-5'>部署</b>自定义大语言<b class='flag-5'>模型</b>

    NVIDIA发布全新AI和仿真工具以及工作流

    NVIDIA 在本周于德国慕尼黑举行的机器人学习大会(CoRL)上发布了全新 AI 和仿真工具以及工作流。机器人开发者可以使用这些工具和工作流,大大加快 AI 机器人(包括人形机器人)
    的头像 发表于 11-09 11:52 333次阅读

    FPGA仿真黑科技\"EasyGo Vs Addon \",助力大规模电力电子系统仿真

    ,可以搭建多电机系统、电力电子系统等包含开关器件的系统模型。依托强大的FPGA资源,最大可仿真240个关键元件的电力电子系统,使得更大规模的电力电子化电力系统的实时仿真成为可能。▍图形化模块灵活组合
    发表于 10-23 18:18

    NVIDIA NIM助力企业高效部署生成式AI模型

    Canonical、Nutanix 和 Red Hat 等厂商的开源 Kubernetes 平台集成了 NVIDIA NIM,将允许用户通过 API 调用来大规模部署大语言模型
    的头像 发表于 10-10 09:49 440次阅读

    NVIDIA RTX AI套件简化AI驱动的应用开发

    NVIDIA 于近日发布 NVIDIA RTX AI套件,这一工具和 SDK 集合能够帮助 Windows 应用开发者定制、优化和部署适用于
    的头像 发表于 09-06 14:45 510次阅读

    魔搭社区借助NVIDIA TensorRT-LLM提升LLM推理效率

    “魔搭社区是中国最具影响力的模型开源社区,致力给开发者提供模型即服务的体验。魔搭社区利用NVIDIA TensorRT-LLM,大大提高了大语言模型的推理性能,方便了
    的头像 发表于 08-23 15:48 496次阅读

    大规模语言模型:从理论到实践】- 阅读体验

    和抗噪声能力;以及通过可视化工具来增强模型的解释性等。同时,随着技术的不断进步和发展,在未来能够发展出更加高效、健壮和可解释的大语言模型
    发表于 06-07 14:44

    大规模语言模型:从理论到实践】- 每日进步一点点

    非常推荐大家去读 【大规模语言模型:从理论到实践】这本书,系统的讲解了大模型的前世今生,对各个环节知识进行了普及。 今天跟我一起学习归一化的部分。 大模型训练中的归一化是一个关键步骤
    发表于 05-31 19:54

    名单公布!【书籍评测活动NO.30】大规模语言模型:从理论到实践

    ,在大模型实践和理论研究的过程中,历时8个月完成 《大规模语言模型:从理论到实践》 一书的撰写。希望这本书能够帮助读者快速入门大模型的研究和应用,并解决相关技术问题。 本书一经上市,
    发表于 03-11 15:16