0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

工程师说 | 引入DRP-AI TVM以简化AI模型的实施

瑞萨电子 来源:未知 2023-05-11 20:16 次阅读

您在嵌入式设备中实施人工智能模型时是否遇到困难?本篇文章将为您介绍DRP-AI TVM,它简化了AI模型的实现。

近年来,人工智能已经在监控摄像头、交通监控系统、机器人无人机等嵌入式设备中得到实施。与云环境不同,嵌入式设备在实现人工智能方面有很多困难,比如要考虑HW性能、成本和功率限制。通过使用RZ/V系列AI-MPU和瑞萨的低功耗AI加速器DRP-AI,可以解决大部分HW实施的挑战。

当客户在我们的AI-MPU上实现AI模型时,他们使用DRP-AI翻译器,将AI模型转换为DRP-AI可执行文件,但一些客户指出,这很难实现,有两个主要原因:

01

DRP-AI翻译器支持的唯一AI模型格式是ONNX。

02

如果模型包含DRP-AI翻译器不支持的运算符,则不可能进行转换。

到目前为止,瑞萨一直要求客户自行处理此类情况,这对一些客户来说是一种负担。我们相信,解决这些问题将提高客户的便利性,并发布了新的DRP-AI TVM。

DRP-AI TVM是一个开源的ML编译器Apache TVM,支持DRP-AI。自动将DRP-AI翻译器不支持的操作者分配给CPU,使其更容易支持更多的AI模型。它还可以处理ONNX以外的AI框架格式。此外,DRP-AI能够以与传统DRP-AI翻译流程相同的方式处理AI推理的预处理,从而提高包括预处理在内的总的AI性能。

DRP-AI TVM的配置

99021058-e6bc-11ed-ab56-dac502259ad0.png

用DRP-AI TVM对AI模型操作员

进行自动CPU分配

9911f324-e6bc-11ed-ab56-dac502259ad0.png

DRP-AI TVM可在GitHub上使用,方便客户访问。GitHub包含教程、示例代码、各种人工智能模型的性能评估结果以及其他足以让客户使用产品信息。这些教程包括在瑞萨评估板上从构建环境到推理的步骤,客户可以通过这些步骤轻松评估他们的人工智能模型。瑞萨将继续改善用户体验,使客户更容易使用瑞萨的产品。

参考资料

01

DRP-AI TVM由Edgecortix MERATM编译器框架提供支持,DRP-AI的更多内容请点击文末阅读原文查看介绍页

02

Apache TVM网站

https://tvm.apache.org/

03

RZ/V系列介绍

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv-embedded-ai-mpus

04

Renesas info wiki RZ/V系列

https://renesas.info/wiki/RZ-V

05

DRP-AI TVM GitHub

https://github.com/renesas-rz/rzv_drp-ai_tvm

06

DRP-AI TVM教程

https://www.renesas.cn/cn/zh/application/key-technology/artificial-intelligence/ai-accelerator-drp-ai/ai-tool-drp-ai-tvm

07

EVK购买链接:

• RZ/V2L评估板套件

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2l-evkit-rzv2l-evaluation-board-kit

• RZ/V2M评估板套件

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2m-evkit-rzv2m-evaluation-board-kit

• RZ/V2MA评估板套件

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2ma-evaluation-board-kit-rzv2ma-evaluation-board-kit

1

END

1

瑞萨电子 (TSE: 6723)

科技让生活更轻松,致力于打造更安全、更智能、可持续发展的未来。作为全球微控制器供应商,瑞萨电子融合了在嵌入式处理、模拟电源及连接方面的专业知识,提供完整的半导体解决方案。成功产品组合加速汽车、工业、基础设施及物联网应用上市,赋能数十亿联网智能设备改善人们的工作和生活方式。更多信息,敬请访问renesas.com


原文标题:工程师说 | 引入DRP-AI TVM以简化AI模型的实施

文章出处:【微信公众号:瑞萨电子】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 瑞萨
    +关注

    关注

    32

    文章

    22224

    浏览量

    85186

原文标题:工程师说 | 引入DRP-AI TVM以简化AI模型的实施

文章出处:【微信号:瑞萨电子,微信公众号:瑞萨电子】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    STM CUBE AI错误导入onnx模型报错的原因?

    使用cube-AI分析模型时报错,该模型是pytorch的cnn转化成onnx ``` Neural Network Tools for STM32AI v1.7.0 (STM.
    发表于 05-27 07:15

    为什么Cubeai导入模型的时候报错[AI:persondetection] ModuleNotFoundError: No module named \'_socket\'?

    在使用CubeIde导入ai模型进行模型分析的时候报错[AI:persondetection] ModuleNotFoundError: No module named \'_sock
    发表于 05-21 06:44

    防止AI模型被黑客病毒入侵控制(原创)聆思大模型AI开发套件评测4

    在设计防止AI模型被黑客病毒入侵时,需要考虑到复杂的加密和解密算法以及模型的实现细节,首先需要了解模型的结构和实现细节。 以下是我使用Python和TensorFlow 2.x实现
    发表于 03-19 11:18

    cubemx ai导入onnx模型后压缩失败了怎么解决?

    cubemx ai导入onnx模型后压缩失败。请问我怎么解决
    发表于 03-19 07:58

    AI模型远程控制启动车辆(原创)

    AI模型
    还没吃饭
    发布于 :2024年03月18日 15:18:29

    使用cube-AI分析模型时报错的原因有哪些?

    使用cube-AI分析模型时报错,该模型是pytorch的cnn转化成onnx ``` Neural Network Tools for STM32AI v1.7.0 (STM.
    发表于 03-14 07:09

    瑞萨发布了下一代动态可重构人工智能处理器(DRP-AI)加速器

    最近的视觉AI模型必须处理动态和复杂的环境,因此在实时应用中需要更高的能效和速度。
    的头像 发表于 03-08 13:35 625次阅读
    瑞萨发布了下一代动态可重构人工智能处理器(<b class='flag-5'>DRP-AI</b>)加速器

    RZ/V2L DRP-AI支持包版本.7.41发布说明

    电子发烧友网站提供《RZ/V2L DRP-AI支持包版本.7.41发布说明.pdf》资料免费下载
    发表于 02-01 10:07 0次下载
    RZ/V2L <b class='flag-5'>DRP-AI</b>支持包版本.7.41发布说明

    基于瑞萨RZ/V2L MPU AI解决方案

    瑞萨电子RZ/V2L配备Cortex-A55(1.2 GHz)CPU和内置AI加速器“DRP-AI”,以提供更好的机器视觉处理性能,这是瑞萨电子的独创技术。DRP-AIDRP
    的头像 发表于 01-18 12:20 473次阅读
    基于瑞萨RZ/V2L MPU <b class='flag-5'>AI</b>解决方案

    AI模型可以取代大学教育吗?

    AI模型
    电子发烧友网官方
    发布于 :2024年01月02日 16:27:52

    AI模型怎么解决芯片过剩?

    AI模型
    电子发烧友网官方
    发布于 :2024年01月02日 15:42:05

    AI模型会不会取代电子工程师?

    AI模型
    电子发烧友网官方
    发布于 :2024年01月02日 15:11:43

    AI模型可以设计电路吗?

    AI模型
    电子发烧友网官方
    发布于 :2024年01月02日 15:09:29

    【KV260视觉入门套件试用体验】Vitis AI 构建开发环境,并使用inspector检查模型

    AI环境配置完毕。 使用inspector检查模型 运行jupyterlab,新建Notebook: 导入相关python包和要分析的深度学习模型,本文resnet18为例: i
    发表于 10-14 15:34

    训练好的ai模型导入cubemx不成功怎么解决?

    训练好的ai模型导入cubemx不成功咋办,试了好几个模型压缩了也不行,ram占用过大,有无解决方案?
    发表于 08-04 09:16