ONNX是一种开放格式,用于表示和交换深度学习模型。
ONNX,全称为Open Neural Network Exchange,是由微软和Facebook在2017年推出的一个开放标准。它的主要目的是促进不同深度学习框架之间的互操作性,使得AI模型能够在不同的环境和平台之间无缝迁移和部署。以下是关于ONNX的一些关键信息:
- 框架无关性:ONNX定义了一套与环境和平台无关的标准格式,这有助于在不同的深度学习框架之间迁移模型。
- 模型优化:硬件和软件厂商可以基于ONNX标准来优化模型性能,从而使得所有支持ONNX标准的框架都能从中受益。
- 广泛的支持:自从推出以来,ONNX得到了许多大型厂商和框架的支持,并逐渐成为表示深度学习模型的事实上的标准。
- 模型转换:可以通过使用PyTorch的`torch.onnx.export`函数将PyTorch模型转换成ONNX模型。这一过程涉及到对模型拓扑图、计算节点属性等基本概念的理解。
总的来说,ONNX提供了一个标准化的方式来表示神经网络模型,这对于模型的共享、部署和优化都是非常有益的。通过使用ONNX,开发者可以更容易地在不同的深度学习框架和部署环境之间迁移和优化模型。
审核编辑 黄宇
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。
举报投诉
相关推荐
电子发烧友网站提供《基于Pytorch训练并部署ONNX模型在TDA4应用笔记.pdf》资料免费下载
发表于 09-11 09:24
•0次下载
请问我导入keras或者onnx模型到cubeai进行分析,为什么会报错,而且没有报错内容,cubeai版本9.0.0。换成8.1.0版本后报错内容是invalid network。该怎么入手解决。
发表于 07-03 07:55
用官方的模型不出错,用自己的yolov5训练出来的best.pt导出成onnx转化成fp32 bmodel后在Airbox上跑,出现报错:
linaro@bm1684:~/yolov5/python
发表于 05-31 08:10
使用cube-AI分析模型时报错,该模型是pytorch的cnn转化成onnx
```
Neural Network Tools for STM32AI v1.7.0 (STM.ai v8.0.0-19389)
INTERNAL ERROR: list index out of range
```
发表于 05-27 07:15
近日,备受瞩目的AI推理框架开源社区ONNX Runtime宣布推出支持龙架构的新版本1.17.0,这一里程碑式的更新意味着龙芯平台上的AI推理应用开发与部署将更加便捷。
发表于 03-27 10:58
•664次阅读
stm32cubemxnetwork_output
Neural Network Tools for STM32AI v1.6.0 (STM.ai v7.1.0-RC3)
INTERNAL ERROR: Non positive value in (\'BATCH: -1\', \'CH: 224\', \'H: 3\', \'W: 224\') (Channel First)
在分析时也出现error,但是没有报错提示
发表于 03-21 07:43
cubemx ai导入onnx模型后压缩失败。请问我怎么解决
发表于 03-19 07:58
报错显示张量不能大于四维的,想请教解决一下,我再此之后通过onnx-simplifier对.onnx进行简化之后再通过cube-ai进行分析还是出现上述报错,恳求指导,谢谢您!
发表于 03-15 06:54
使用cube-AI分析模型时报错,该模型是pytorch的cnn转化成onnx
```
Neural Network Tools for STM32AI v1.7.0 (STM.ai v8.0.0-19389)
INTERNAL ERROR: list index out of range
```
发表于 03-14 07:09
第一个我是转onnx时 想把权重文件变小点 就用了半精度 --half,则说17版本不支持半精度 后面则是没有缩小的单精度 但是显示哪里溢出了···· 也不说是哪里、、。。。 到底能不能部署yolov5这种东西啊?? 也没看见几个部署在这上面......................
发表于 03-14 06:23
近日,知名AI推理框架开源社区ONNX Runtime正式发布支持龙架构的版本1.17.0。
发表于 03-12 12:23
•539次阅读
作为微软的 JavaScript 库,ONNX Runtime Web 使得网络开发者能在浏览器环境下部署机器学习模型,并提供多种硬件加速的后端支持。
发表于 03-05 14:23
•983次阅读
)或ONNX模型(.onnx)等。这些模型文件是二进制的,并且是为特定的机器学习框架设计的,而不是为图像编辑软件如PS设计的。
发表于 02-29 18:25
•1356次阅读
大家好。我叫Manav Dalal,今天我将讲解如何通过新的ONNX导出器简化模型导出流程。如果你还没有听说过ONNX,它是一种用于表示机器学习模型的开放格式。它定义了一套通用的运算符,机器学习
发表于 01-10 09:45
•864次阅读
的,只不过主角这次换成了pulsar2:
1、先在服务器上训练好网络模型,并以一个通用的中间形式导出(通常是onnx)
2、根据你要使用的推理引擎进行离线转换,把onnx转换成你的推理引擎能部署的模型
发表于 12-10 16:34
评论