0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

ONNX Runtime支持龙架构,AI推理生态再添新翼

CHANBAEK 来源:网络整理 2024-03-27 10:58 次阅读

近日,备受瞩目的AI推理框架开源社区ONNX Runtime宣布推出支持龙架构的新版本1.17.0,这一里程碑式的更新意味着龙芯平台上的AI推理应用开发与部署将更加便捷。

ONNX Runtime(ORT)作为近年来兴起的AI推理框架软件,已逐渐成为众多AI应用的首选基础推理引擎。此次更新不仅丰富了ORT的算力后端支持,更在软件生态层面为龙架构注入了新的活力。新版本将支持PyTorch、TensorflowTFLite等多种模型格式输入,覆盖CPUGPUIoT、NPU、FPGA等多样化算力平台,从而满足各种复杂的AI推理需求。

此次ONNX Runtime对龙架构的支持,无疑将进一步推动龙芯平台在AI领域的应用和发展,为开发者提供更加广阔的创新空间。同时,这也标志着龙架构软件生态正在不断完善,为未来的AI技术革新奠定了坚实基础。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 龙芯
    +关注

    关注

    3

    文章

    349

    浏览量

    31334
  • AI
    AI
    +关注

    关注

    87

    文章

    31493

    浏览量

    270105
  • 开源
    +关注

    关注

    3

    文章

    3398

    浏览量

    42676
收藏 人收藏

    评论

    相关推荐

    生成式AI推理技术、市场与未来

    OpenAI o1、QwQ-32B-Preview、DeepSeek R1-Lite-Preview的相继发布,预示着生成式AI研究正从预训练转向推理(Inference),以提升AI逻辑推理
    的头像 发表于 01-20 11:16 355次阅读
    生成式<b class='flag-5'>AI</b><b class='flag-5'>推理</b>技术、市场与未来

    2024架构创新产品奖发布

    架构生态的蓬勃发展离不开众多中小企业生态伙伴的支持及新产品的持续推出。为鼓励龙芯中小企业生态
    的头像 发表于 01-16 17:17 309次阅读

    Alpine操作系统社区发布架构版本

    近日,开源软件世界和云计算领域重要的操作系统发行版社区Alpine Linux正式发布3.21最新版本,以完整的系统形态实现对架构的原生支持,将有力促进
    的头像 发表于 12-10 11:12 366次阅读

    AMD以49亿美元收购ZT Systems,强化AI芯片竞争力

    AMD在AI领域的雄心壮志新翼,近日宣布以49亿美元巨资并购全球领先的超大规模计算AI基础设施提供商ZT Systems。这一战略举措不
    的头像 发表于 08-26 16:44 673次阅读

    STM CUBE AI错误导入onnx模型报错的原因?

    使用cube-AI分析模型时报错,该模型是pytorch的cnn转化成onnx ``` Neural Network Tools for STM32AI v1.7.0 (STM.ai
    发表于 05-27 07:15

    ONNX是什么?

    ONNX是什么?
    的头像 发表于 05-15 09:49 1959次阅读

    进一步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片

    成为处理万亿参数生成式AI模型的理想选择。 NVL72 机架级系统支持万亿参数 LLM 训练和实时推理 GB200 NVL72 的机架级设计,通过在单个 NVIDIA NVLink 域上连接 72 个
    发表于 05-13 17:16

    必易微新翼 必易微青岛办事处正式成立

    必易微砥砺奋进,新翼! 近日,必易微青岛办事处正式成立,是必易微在华东区域的又一重要战略布局。 青岛作为国家打造“一带一路”国际合作新平台的重点城市,将集成电路产业放在新兴产业发展重要位置,汇集
    的头像 发表于 04-14 10:34 466次阅读

    开发者手机 AI - 目标识别 demo

    应用的demo。 应用程序通过相机进行预览,对预览画面中的物体进行目标识别,目前该应用程序支持识别100种物体。 系统架构 下图为demo应用以及Openharmony AI子系统的架构
    发表于 04-11 16:14

    cubemx ai导入onnx模型后压缩失败了怎么解决?

    cubemx ai导入onnx模型后压缩失败。请问我怎么解决
    发表于 03-19 07:58

    将yolov5s的模型转成.onnx模型,进行cube-ai分析时报错的原因?

    报错显示张量不能大于四维的,想请教解决一下,我此之后通过onnx-simplifier对.onnx进行简化之后通过cube-ai进行分
    发表于 03-15 06:54

    使用cube-AI分析模型时报错的原因有哪些?

    使用cube-AI分析模型时报错,该模型是pytorch的cnn转化成onnx ``` Neural Network Tools for STM32AI v1.7.0 (STM.ai
    发表于 03-14 07:09

    AI推理框架软件ONNX Runtime正式支持架构

    近日,知名AI推理框架开源社区ONNX Runtime正式发布支持
    的头像 发表于 03-12 12:23 620次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>框架软件<b class='flag-5'>ONNX</b> <b class='flag-5'>Runtime</b>正式<b class='flag-5'>支持</b><b class='flag-5'>龙</b><b class='flag-5'>架构</b>

    微软推出ONNX Runtime Web,利用WebGPU优化浏览器机器学习性能

    作为微软的 JavaScript 库,ONNX Runtime Web 使得网络开发者能在浏览器环境下部署机器学习模型,并提供多种硬件加速的后端支持
    的头像 发表于 03-05 14:23 1226次阅读

    微软推出DirectML 1.13.1和ONNX Runtime 1.17预览版,支持英特尔

    据称,有了这项技术革新的推动力,微软与英特尔紧密协作,更深入地与三星展开深度对话,共同致力于提高使用 DirectML 的AI相关应用程序的处理效率。
    的头像 发表于 02-02 14:21 1035次阅读