电子发烧友App

硬声App

0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示
电子发烧友网>电子资料下载>电子资料>OpenPPL高性能深度学习推理平台

OpenPPL高性能深度学习推理平台

2022-06-17 | zip | 13.54 MB | 次下载 | 免费

资料介绍

授权协议 Apache
开发语言 C/C++
操作系统 跨平台
软件类型 开源软件

软件简介

OpenPPL 是基于自研高性能算子库的推理引擎,拥有极致调优的性能;提供云原生环境下 的 AI 模型多后端部署能力,支持 OpenMMLab 等深度学习模型的高效部署。

架构如下:

pYYBAGKn_7eAL4DJAAB27-zeyBY637.png

高性能

设计微架构友好的任务/数据/指令等多级并行策略,自研 NV GPU、 x86 CPU 计算库,满足部署场景对神经网络推理、常用图像处理的性能需求

  • 支持 GPU T4 平台 FP16 推理
  • 支持 CPU x86 平台 FP32 推理
  • 核心算子优化,平均性能领先业界

OpenMMLab 部署

支持 OpenMMLab 检测、分类、分割、超分等系列前沿模型,同时提供模型前后处理所需图像处理算子

  • 遵循 ONNX 开放标准,提供 ONNX 转换支持
  • 支持网络动态特性
  • 提供 MMCV 算子高性能实现

云上多后端部署

面向云端异构推理场景,支持多平台部署

  • 支持 x86 FMA & AVX512、NV Turing 架构
  • 支持异构设备并行推理
 

下载该资料的人也在下载 下载该资料的人还在阅读
更多 >

评论

查看更多

下载排行

本周

  1. 1SMD LED选型手册 贴片灯珠
  2. 5.47 MB   |  4次下载  |  免费
  3. 2明纬S-50-24开关电源电路图.pdf
  4. 0.10 MB   |  2次下载  |  5 积分
  5. 3基本半导体产品在Sic逆变焊机中的应用
  6. 7.27 MB   |  2次下载  |  免费
  7. 4加密芯片的一种破解方法和对应加密方案改进设计
  8. 0.29 MB   |  1次下载  |  免费
  9. 5多功能MPU芯片GC9005数据手册
  10. 2.67 MB   |  1次下载  |  免费
  11. 6基本半导体产品在125kW工商业储能PCS中的应用
  12. 10.74 MB   |  1次下载  |  免费
  13. 7MOSFET参数解读
  14. 1.59 MB   |  1次下载  |  2 积分
  15. 8550W充电机原理图
  16. 0.13 MB   |  1次下载  |  6 积分

本月

  1. 1使用单片机实现七人表决器的程序和仿真资料免费下载
  2. 2.96 MB   |  44次下载  |  免费
  3. 2美的电磁炉维修手册大全
  4. 1.56 MB   |  16次下载  |  5 积分
  5. 33314A函数发生器维修手册
  6. 16.30 MB   |  13次下载  |  免费
  7. 4STM32F101x8/STM32F101xB手册
  8. 1.69 MB   |  8次下载  |  1 积分
  9. 5感应笔电路图
  10. 0.06 MB   |  8次下载  |  免费
  11. 6使用TL431设计电源
  12. 0.67 MB   |  7次下载  |  免费
  13. 7不对称半桥(AHB)反激变换器的分析与设计
  14. 0.68 MB   |  6次下载  |  1 积分
  15. 8LZC3106G高性能谐振控制器中文手册
  16. 1.29 MB   |  5次下载  |  1 积分

总榜

  1. 1matlab软件下载入口
  2. 未知  |  935119次下载  |  10 积分
  3. 2开源硬件-PMP21529.1-4 开关降压/升压双向直流/直流转换器 PCB layout 设计
  4. 1.48MB  |  420062次下载  |  10 积分
  5. 3Altium DXP2002下载入口
  6. 未知  |  233084次下载  |  10 积分
  7. 4电路仿真软件multisim 10.0免费下载
  8. 340992  |  191367次下载  |  10 积分
  9. 5十天学会AVR单片机与C语言视频教程 下载
  10. 158M  |  183335次下载  |  10 积分
  11. 6labview8.5下载
  12. 未知  |  81581次下载  |  10 积分
  13. 7Keil工具MDK-Arm免费下载
  14. 0.02 MB  |  73807次下载  |  10 积分
  15. 8LabVIEW 8.6下载
  16. 未知  |  65987次下载  |  10 积分