0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

工程师说 | 引入DRP-AI TVM以简化AI模型的实施

瑞萨电子 来源:未知 2023-05-11 20:16 次阅读

您在嵌入式设备中实施人工智能模型时是否遇到困难?本篇文章将为您介绍DRP-AI TVM,它简化了AI模型的实现。

近年来,人工智能已经在监控摄像头、交通监控系统、机器人无人机等嵌入式设备中得到实施。与云环境不同,嵌入式设备在实现人工智能方面有很多困难,比如要考虑HW性能、成本和功率限制。通过使用RZ/V系列AI-MPU和瑞萨的低功耗AI加速器DRP-AI,可以解决大部分HW实施的挑战。

当客户在我们的AI-MPU上实现AI模型时,他们使用DRP-AI翻译器,将AI模型转换为DRP-AI可执行文件,但一些客户指出,这很难实现,有两个主要原因:

01

DRP-AI翻译器支持的唯一AI模型格式是ONNX。

02

如果模型包含DRP-AI翻译器不支持的运算符,则不可能进行转换。

到目前为止,瑞萨一直要求客户自行处理此类情况,这对一些客户来说是一种负担。我们相信,解决这些问题将提高客户的便利性,并发布了新的DRP-AI TVM。

DRP-AI TVM是一个开源的ML编译器Apache TVM,支持DRP-AI。自动将DRP-AI翻译器不支持的操作者分配给CPU,使其更容易支持更多的AI模型。它还可以处理ONNX以外的AI框架格式。此外,DRP-AI能够以与传统DRP-AI翻译流程相同的方式处理AI推理的预处理,从而提高包括预处理在内的总的AI性能。

DRP-AI TVM的配置

99021058-e6bc-11ed-ab56-dac502259ad0.png

用DRP-AI TVM对AI模型操作员

进行自动CPU分配

9911f324-e6bc-11ed-ab56-dac502259ad0.png

DRP-AI TVM可在GitHub上使用,方便客户访问。GitHub包含教程、示例代码、各种人工智能模型的性能评估结果以及其他足以让客户使用产品信息。这些教程包括在瑞萨评估板上从构建环境到推理的步骤,客户可以通过这些步骤轻松评估他们的人工智能模型。瑞萨将继续改善用户体验,使客户更容易使用瑞萨的产品。

参考资料

01

DRP-AI TVM由Edgecortix MERATM编译器框架提供支持,DRP-AI的更多内容请点击文末阅读原文查看介绍页

02

Apache TVM网站

https://tvm.apache.org/

03

RZ/V系列介绍

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv-embedded-ai-mpus

04

Renesas info wiki RZ/V系列

https://renesas.info/wiki/RZ-V

05

DRP-AI TVM GitHub

https://github.com/renesas-rz/rzv_drp-ai_tvm

06

DRP-AI TVM教程

https://www.renesas.cn/cn/zh/application/key-technology/artificial-intelligence/ai-accelerator-drp-ai/ai-tool-drp-ai-tvm

07

EVK购买链接:

• RZ/V2L评估板套件

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2l-evkit-rzv2l-evaluation-board-kit

• RZ/V2M评估板套件

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2m-evkit-rzv2m-evaluation-board-kit

• RZ/V2MA评估板套件

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2ma-evaluation-board-kit-rzv2ma-evaluation-board-kit

1

END

1

瑞萨电子 (TSE: 6723)

科技让生活更轻松,致力于打造更安全、更智能、可持续发展的未来。作为全球微控制器供应商,瑞萨电子融合了在嵌入式处理、模拟电源及连接方面的专业知识,提供完整的半导体解决方案。成功产品组合加速汽车、工业、基础设施及物联网应用上市,赋能数十亿联网智能设备改善人们的工作和生活方式。更多信息,敬请访问renesas.com


原文标题:工程师说 | 引入DRP-AI TVM以简化AI模型的实施

文章出处:【微信公众号:瑞萨电子】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 瑞萨
    +关注

    关注

    35

    文章

    22309

    浏览量

    86357

原文标题:工程师说 | 引入DRP-AI TVM以简化AI模型的实施

文章出处:【微信号:瑞萨电子,微信公众号:瑞萨电子】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    企业AI模型部署攻略

    当下,越来越多的企业开始探索和实施AI模型提升业务效率和竞争力。然而,AI模型的部署并非易事
    的头像 发表于 12-23 10:31 123次阅读

    AI干货补给站04 | 工业AI视觉检测项目实施第三步:模型构建

    AI视觉检测项目入门指南》系列文章。该系列文章将AI视觉检测项目的实施过程细分为制定计划、数据收集、模型构建以及工厂验收四个阶段,旨在通过分享各阶段的
    的头像 发表于 11-29 01:04 190次阅读
    <b class='flag-5'>AI</b>干货补给站04 | 工业<b class='flag-5'>AI</b>视觉检测项目<b class='flag-5'>实施</b>第三步:<b class='flag-5'>模型</b>构建

    中国AI企业创新降低成本打造竞争力模型

    在中国,面对美国实施的芯片限制以及相较于西方企业更为有限的预算,人工智能(AI)公司正积极寻求降低成本的方法,开发出具有市场竞争力的模型。初创公司如01.
    的头像 发表于 10-22 14:56 436次阅读

    AI for Science:人工智能驱动科学创新》第二章AI for Science的技术支撑学习心得

    计算的结合 我深刻体会到高性能计算(HPC)在AI for Science中的重要性。传统的科学计算往往面临计算量大、计算时间长等问题,而AI技术的引入可以显著提高计算效率。同时,HPC也为A
    发表于 10-14 09:16

    下一代高功能新一代AI加速器(DRP-AI3):10x在高级AI系统高级AI中更快的嵌入处理

    电子发烧友网站提供《下一代高功能新一代AI加速器(DRP-AI3):10x在高级AI系统高级AI中更快的嵌入处理.pdf》资料免费下载
    发表于 08-15 11:06 0次下载
    下一代高功能新一代<b class='flag-5'>AI</b>加速器(<b class='flag-5'>DRP-AI</b>3):10x在高级<b class='flag-5'>AI</b>系统高级<b class='flag-5'>AI</b>中更快的嵌入处理

    ai模型ai框架的关系是什么

    AI模型AI框架是人工智能领域中两个重要的概念,它们之间的关系密切且复杂。 AI模型的定义和特点
    的头像 发表于 07-16 10:07 4w次阅读

    ai模型和传统ai的区别在哪?

    AI模型和传统AI的区别主要体现在以下几个方面: 数据量和训练规模 AI模型通常需要大量的数据进行训练,
    的头像 发表于 07-16 10:06 1380次阅读

    STM CUBE AI错误导入onnx模型报错的原因?

    使用cube-AI分析模型时报错,该模型是pytorch的cnn转化成onnx ``` Neural Network Tools for STM32AI v1.7.0 (STM.
    发表于 05-27 07:15

    为什么Cubeai导入模型的时候报错[AI:persondetection] ModuleNotFoundError: No module named \'_socket\'?

    在使用CubeIde导入ai模型进行模型分析的时候报错[AI:persondetection] ModuleNotFoundError: No module named \'_sock
    发表于 05-21 06:44

    防止AI模型被黑客病毒入侵控制(原创)聆思大模型AI开发套件评测4

    在设计防止AI模型被黑客病毒入侵时,需要考虑到复杂的加密和解密算法以及模型的实现细节,首先需要了解模型的结构和实现细节。 以下是我使用Python和TensorFlow 2.x实现
    发表于 03-19 11:18

    cubemx ai导入onnx模型后压缩失败了怎么解决?

    cubemx ai导入onnx模型后压缩失败。请问我怎么解决
    发表于 03-19 07:58

    AI模型远程控制启动车辆(原创)

    AI模型
    还没吃饭
    发布于 :2024年03月18日 15:18:29

    使用cube-AI分析模型时报错的原因有哪些?

    使用cube-AI分析模型时报错,该模型是pytorch的cnn转化成onnx ``` Neural Network Tools for STM32AI v1.7.0 (STM.
    发表于 03-14 07:09

    RZ/V2L DRP-AI支持包版本.7.41发布说明

    电子发烧友网站提供《RZ/V2L DRP-AI支持包版本.7.41发布说明.pdf》资料免费下载
    发表于 02-01 10:07 0次下载
    RZ/V2L <b class='flag-5'>DRP-AI</b>支持包版本.7.41发布说明

    基于瑞萨RZ/V2L MPU AI解决方案

    瑞萨电子RZ/V2L配备Cortex-A55(1.2 GHz)CPU和内置AI加速器“DRP-AI”,提供更好的机器视觉处理性能,这是瑞萨电子的独创技术。DRP-AI
    的头像 发表于 01-18 12:20 727次阅读
    基于瑞萨RZ/V2L MPU <b class='flag-5'>AI</b>解决方案