资料介绍
软件简介
LightSeq 是一个高性能的训练和推理库,用于在 CUDA 中实现序列处理和生成。它可以高效计算现代 NLP 模型,例如BERT、GPT、 Transformer等。因此,它最适用于机器翻译、文本生成、对话、语言建模、情感分析和其他具有序列数据的相关任务。
该库建立在 CUDA 官方库(cuBLAS、Thrust、CUB)和自定义内核函数之上, 这些函数专门为 Transformer 模型系列融合和优化。除了模型组件,推理库还提供了基于 TensorRT 推理服务器的易于部署的模型管理和服务后端 。使用 LightSeq,只需少量额外代码即可轻松开发修改后的 Transformer 架构。
特征
以下是 LightSeq 训练库支持的矩阵与 DeepSpeed 对比。
以下是 LightSeq 推理库支持矩阵与 TurboTransformers 和 FasterTransformer 的对比。
- 面向动态三维重建的地图序列快速生成方法 9次下载
- 基于MapReduce的时间序列索引及数据查询 7次下载
- 基于语义感知的中文短文本摘要生成技术 2次下载
- 高性能嵌入式堆栈Azure PTOS USBX概述 10次下载
- Holtek触摸开发库生成使用说明 8次下载
- 高性能低成本的蓝牙模块CSR6576原理图 16次下载
- 基于双序列函数的web服务端防御方案 3次下载
- keil4等可使用的序列号生成器工具下载 91次下载
- dsPIC DSC DTMF 生成库的详细中文资料概述
- 用于宽带无线语音链路的高性能、低延迟、低功率音频处理系统
- 支持COC的低层高性能通信库
- 基于混沌序列的种子密钥表生成方法
- Galileo系统伪随机序列生成及其FPGA实现
- 生成de Bruijn序列的升级算法
- 生成de Bruijn序列的消元算法
- 澎峰科技高性能计算库PerfIPP介绍 235次阅读
- 带你了解什么是高性能计算(HPC) 277次阅读
- 高性能芯片有哪些特征? 753次阅读
- 如何使用Serde进行序列化和反序列化 1149次阅读
- Prost的最佳实践经验 1101次阅读
- 蚂蚁集团开源高性能多语言序列化框架Fury解读 995次阅读
- 高性能数学计算库的现状 1323次阅读
- 关于HPC的高性能计算测试方法 2112次阅读
- 一个高性能异步计算框架介绍 710次阅读
- 基于OpenAI的GPT-2的语言模型ProtGPT2可生成新的蛋白质序列 1742次阅读
- 适用于高性能系统设计的ADS5294的性能特性及应用 2164次阅读
- UVM序列的创建和运行及中断服务程序实现方案 3998次阅读
- 高性能纸币处理系统设计的仿真优化资料说明 3328次阅读
- 如何满足高性能时钟IC需求 4529次阅读
- 高性能的视频采集电路图 4455次阅读
下载排行
本周
- 1SMD LED选型手册 贴片灯珠
- 5.47 MB | 4次下载 | 免费
- 2明纬S-50-24开关电源电路图.pdf
- 0.10 MB | 2次下载 | 5 积分
- 3基本半导体产品在Sic逆变焊机中的应用
- 7.27 MB | 2次下载 | 免费
- 4加密芯片的一种破解方法和对应加密方案改进设计
- 0.29 MB | 1次下载 | 免费
- 5多功能MPU芯片GC9005数据手册
- 2.67 MB | 1次下载 | 免费
- 6基本半导体产品在125kW工商业储能PCS中的应用
- 10.74 MB | 1次下载 | 免费
- 7MOSFET参数解读
- 1.59 MB | 1次下载 | 2 积分
- 8550W充电机原理图
- 0.13 MB | 1次下载 | 6 积分
本月
- 1使用单片机实现七人表决器的程序和仿真资料免费下载
- 2.96 MB | 44次下载 | 免费
- 2美的电磁炉维修手册大全
- 1.56 MB | 16次下载 | 5 积分
- 33314A函数发生器维修手册
- 16.30 MB | 13次下载 | 免费
- 4STM32F101x8/STM32F101xB手册
- 1.69 MB | 8次下载 | 1 积分
- 5感应笔电路图
- 0.06 MB | 8次下载 | 免费
- 6使用TL431设计电源
- 0.67 MB | 7次下载 | 免费
- 7不对称半桥(AHB)反激变换器的分析与设计
- 0.68 MB | 6次下载 | 1 积分
- 8LZC3106G高性能谐振控制器中文手册
- 1.29 MB | 5次下载 | 1 积分
总榜
- 1matlab软件下载入口
- 未知 | 935119次下载 | 10 积分
- 2开源硬件-PMP21529.1-4 开关降压/升压双向直流/直流转换器 PCB layout 设计
- 1.48MB | 420062次下载 | 10 积分
- 3Altium DXP2002下载入口
- 未知 | 233084次下载 | 10 积分
- 4电路仿真软件multisim 10.0免费下载
- 340992 | 191367次下载 | 10 积分
- 5十天学会AVR单片机与C语言视频教程 下载
- 158M | 183335次下载 | 10 积分
- 6labview8.5下载
- 未知 | 81581次下载 | 10 积分
- 7Keil工具MDK-Arm免费下载
- 0.02 MB | 73807次下载 | 10 积分
- 8LabVIEW 8.6下载
- 未知 | 65987次下载 | 10 积分
评论
查看更多