0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

ONNX Runtime支持龙架构,AI推理生态再添新翼

CHANBAEK 来源:网络整理 2024-03-27 10:58 次阅读

近日,备受瞩目的AI推理框架开源社区ONNX Runtime宣布推出支持龙架构的新版本1.17.0,这一里程碑式的更新意味着龙芯平台上的AI推理应用开发与部署将更加便捷。

ONNX Runtime(ORT)作为近年来兴起的AI推理框架软件,已逐渐成为众多AI应用的首选基础推理引擎。此次更新不仅丰富了ORT的算力后端支持,更在软件生态层面为龙架构注入了新的活力。新版本将支持PyTorch、TensorflowTFLite等多种模型格式输入,覆盖CPUGPUIoT、NPU、FPGA等多样化算力平台,从而满足各种复杂的AI推理需求。

此次ONNX Runtime对龙架构的支持,无疑将进一步推动龙芯平台在AI领域的应用和发展,为开发者提供更加广阔的创新空间。同时,这也标志着龙架构软件生态正在不断完善,为未来的AI技术革新奠定了坚实基础。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 龙芯
    +关注

    关注

    3

    文章

    330

    浏览量

    31173
  • AI
    AI
    +关注

    关注

    87

    文章

    29665

    浏览量

    267994
  • 开源
    +关注

    关注

    3

    文章

    3210

    浏览量

    42288
收藏 人收藏

    评论

    相关推荐

    AMD以49亿美元收购ZT Systems,强化AI芯片竞争力

    AMD在AI领域的雄心壮志新翼,近日宣布以49亿美元巨资并购全球领先的超大规模计算AI基础设施提供商ZT Systems。这一战略举措不
    的头像 发表于 08-26 16:44 574次阅读

    STM CUBE AI错误导入onnx模型报错的原因?

    使用cube-AI分析模型时报错,该模型是pytorch的cnn转化成onnx ``` Neural Network Tools for STM32AI v1.7.0 (STM.ai
    发表于 05-27 07:15

    ONNX是什么?

    ONNX是什么?
    的头像 发表于 05-15 09:49 1639次阅读

    进一步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片

    成为处理万亿参数生成式AI模型的理想选择。 NVL72 机架级系统支持万亿参数 LLM 训练和实时推理 GB200 NVL72 的机架级设计,通过在单个 NVIDIA NVLink 域上连接 72 个
    发表于 05-13 17:16

    必易微新翼 必易微青岛办事处正式成立

    必易微砥砺奋进,新翼! 近日,必易微青岛办事处正式成立,是必易微在华东区域的又一重要战略布局。 青岛作为国家打造“一带一路”国际合作新平台的重点城市,将集成电路产业放在新兴产业发展重要位置,汇集
    的头像 发表于 04-14 10:34 383次阅读

    开发者手机 AI - 目标识别 demo

    应用的demo。 应用程序通过相机进行预览,对预览画面中的物体进行目标识别,目前该应用程序支持识别100种物体。 系统架构 下图为demo应用以及Openharmony AI子系统的架构
    发表于 04-11 16:14

    cubemx ai导入onnx模型后压缩失败了怎么解决?

    cubemx ai导入onnx模型后压缩失败。请问我怎么解决
    发表于 03-19 07:58

    将yolov5s的模型转成.onnx模型,进行cube-ai分析时报错的原因?

    报错显示张量不能大于四维的,想请教解决一下,我此之后通过onnx-simplifier对.onnx进行简化之后通过cube-ai进行分
    发表于 03-15 06:54

    使用cube-AI分析模型时报错的原因有哪些?

    使用cube-AI分析模型时报错,该模型是pytorch的cnn转化成onnx ``` Neural Network Tools for STM32AI v1.7.0 (STM.ai
    发表于 03-14 07:09

    AI推理框架软件ONNX Runtime正式支持架构

    近日,知名AI推理框架开源社区ONNX Runtime正式发布支持
    的头像 发表于 03-12 12:23 523次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>框架软件<b class='flag-5'>ONNX</b> <b class='flag-5'>Runtime</b>正式<b class='flag-5'>支持</b><b class='flag-5'>龙</b><b class='flag-5'>架构</b>

    微软推出ONNX Runtime Web,利用WebGPU优化浏览器机器学习性能

    作为微软的 JavaScript 库,ONNX Runtime Web 使得网络开发者能在浏览器环境下部署机器学习模型,并提供多种硬件加速的后端支持
    的头像 发表于 03-05 14:23 917次阅读

    HarmonyOS:Neural Network Runtime对接AI推理框架开发指导

    场景介绍 Neural Network Runtime 作为 AI 推理引擎和加速芯片的桥梁,为 AI 推理引擎提供精简的 Native 接
    发表于 12-19 10:09

    HarmonyOS:使用MindSpore Lite引擎进行模型推理

    场景介绍 MindSpore Lite 是一款 AI 引擎,它提供了面向不同硬件设备 AI 模型推理的功能,目前已经在图像分类、目标识别、人脸识别、文字识别等应用中广泛使用。 本文介绍
    发表于 12-14 11:41

    SC23 | NVIDIA 为全球领先的 AI 计算平台 Hopper 新动力

    新动力。 NVIDIA H200 是首款采用 HBM3e 的 GPU,其运行更快、更大的显存容量将进一步加速生成式 AI 与大语言模型,同时推进用于 HPC 工作负载的科学计算。凭借 HBM3e
    的头像 发表于 11-14 20:05 415次阅读
    SC23 | NVIDIA 为全球领先的 <b class='flag-5'>AI</b> 计算平台 Hopper <b class='flag-5'>再</b><b class='flag-5'>添</b>新动力

    NVIDIA 为全球领先的 AI 计算平台 Hopper 新动力

    NVIDIA HGX™ H200,为 Hopper 这一全球领先的 AI 计算平台新动力。NVIDIA HGX H200 平台基于 NVIDIA Hopper™ 架构,搭载 NV
    发表于 11-14 14:30 222次阅读
    NVIDIA 为全球领先的 <b class='flag-5'>AI</b> 计算平台 Hopper <b class='flag-5'>再</b><b class='flag-5'>添</b>新动力