电子发烧友App

硬声App

0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示
电子发烧友网>电子资料下载>电子资料>Lightseq用于序列处理和生成的高性能库

Lightseq用于序列处理和生成的高性能库

2022-06-17 | zip | 1.94 MB | 次下载 | 2积分

资料介绍

授权协议 Apache-2.0
开发语言 C/C++ Python
操作系统 跨平台
软件类型 开源软件

软件简介

LightSeq 是一个高性能的训练和推理库,用于在 CUDA 中实现序列处理和生成。它可以高效计算现代 NLP 模型,例如BERT、GPT、 Transformer等。因此,它最适用于机器翻译文本生成对话语言建模情感分析和其他具有序列数据的相关任务。

该库建立在 CUDA 官方库(cuBLASThrustCUB)和自定义内核函数之上, 这些函数专门为 Transformer 模型系列融合和优化。除了模型组件,推理库还提供了基于 TensorRT 推理服务器的易于部署的模型管理和服务后端 。使用 LightSeq,只需少量额外代码即可轻松开发修改后的 Transformer 架构。

特征

以下是 LightSeq 训练库支持的矩阵与 DeepSpeed 对比。

pYYBAGKn_qKAayu6AAGfBwgdzCI958.pngpYYBAGKn_qKAayu6AAGfBwgdzCI958.png

以下是 LightSeq 推理库支持矩阵与 TurboTransformers 和 FasterTransformer 的对比。

poYBAGKn_qaAMk5hAAF1WTYeg34832.png

 

下载该资料的人也在下载 下载该资料的人还在阅读
更多 >

评论

查看更多

下载排行

本周

  1. 1SMD LED选型手册 贴片灯珠
  2. 5.47 MB   |  4次下载  |  免费
  3. 2明纬S-50-24开关电源电路图.pdf
  4. 0.10 MB   |  2次下载  |  5 积分
  5. 3基本半导体产品在Sic逆变焊机中的应用
  6. 7.27 MB   |  2次下载  |  免费
  7. 4加密芯片的一种破解方法和对应加密方案改进设计
  8. 0.29 MB   |  1次下载  |  免费
  9. 5多功能MPU芯片GC9005数据手册
  10. 2.67 MB   |  1次下载  |  免费
  11. 6基本半导体产品在125kW工商业储能PCS中的应用
  12. 10.74 MB   |  1次下载  |  免费
  13. 7MOSFET参数解读
  14. 1.59 MB   |  1次下载  |  2 积分
  15. 8550W充电机原理图
  16. 0.13 MB   |  1次下载  |  6 积分

本月

  1. 1使用单片机实现七人表决器的程序和仿真资料免费下载
  2. 2.96 MB   |  44次下载  |  免费
  3. 2美的电磁炉维修手册大全
  4. 1.56 MB   |  16次下载  |  5 积分
  5. 33314A函数发生器维修手册
  6. 16.30 MB   |  13次下载  |  免费
  7. 4STM32F101x8/STM32F101xB手册
  8. 1.69 MB   |  8次下载  |  1 积分
  9. 5感应笔电路图
  10. 0.06 MB   |  8次下载  |  免费
  11. 6使用TL431设计电源
  12. 0.67 MB   |  7次下载  |  免费
  13. 7不对称半桥(AHB)反激变换器的分析与设计
  14. 0.68 MB   |  6次下载  |  1 积分
  15. 8LZC3106G高性能谐振控制器中文手册
  16. 1.29 MB   |  5次下载  |  1 积分

总榜

  1. 1matlab软件下载入口
  2. 未知  |  935119次下载  |  10 积分
  3. 2开源硬件-PMP21529.1-4 开关降压/升压双向直流/直流转换器 PCB layout 设计
  4. 1.48MB  |  420062次下载  |  10 积分
  5. 3Altium DXP2002下载入口
  6. 未知  |  233084次下载  |  10 积分
  7. 4电路仿真软件multisim 10.0免费下载
  8. 340992  |  191367次下载  |  10 积分
  9. 5十天学会AVR单片机与C语言视频教程 下载
  10. 158M  |  183335次下载  |  10 积分
  11. 6labview8.5下载
  12. 未知  |  81581次下载  |  10 积分
  13. 7Keil工具MDK-Arm免费下载
  14. 0.02 MB  |  73807次下载  |  10 积分
  15. 8LabVIEW 8.6下载
  16. 未知  |  65987次下载  |  10 积分