完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>
标签 > transformer
文章:135个 浏览:6019次 帖子:3个
英伟达h800和h100的区别 其实大白话就是,A100、H100是原版,特供中国市场的减配版是A800、H800。A100、H100是价格更便宜,性能...
2023-08-08 标签:英伟达TransformerAI芯片 4.6万 0
随着Transformer在视觉中的崛起,Transformer在多模态中应用也是合情合理的事情,甚至以后可能会有更多的类似的paper。
2021-03-25 标签:视觉paperTransformer 1.1万 0
请求和键值初始为不同的权重是为了解决可能输入句长与输出句长不一致的问题。并且假如QK维度一致,如果不用Q,直接拿K和K点乘的话,你会发现attentio...
2021-04-15 标签:编码器矩阵Transformer 7516 0
近些年,Transformer[1]逐渐成为了自然语言处理中的主流结构。为了进一步提升Transformer的性能,一些工作通过引入额外的结构或知识来提...
2021-04-09 标签:DropoutTransformer自然语言处理 6781 0
Transformer的复杂度和高效设计及Transformer的应用
来自:AI部落联盟 前言 这次我们总结一下ACL2021中的Transformers,看看2021年了,NLPer在如何使用、应用、改进、分析Trans...
2021-09-01 标签:ACLTransformernlp 6359 0
这个架构的输入,是多个相机拍摄的图像,输出则是自动驾驶的一系列任务,当中包含了动态障碍物的检测和预测,静态场景的理解,以及这两个基础之上的一系列下游规控任务。
2022-11-18 标签:嵌入式自动驾驶Transformer 6225 0
嵌入式快讯:M1808 AI 核心板和基于Transformer的车道线检测网络
导读:本期为 AI 嵌入式简报: 今日推送干货多多,为关注嵌入式AI的你量身定制~ 1. 澎峰科技CEO张先轶详解利用AI开发板实现面向无人机的嵌入式视...
基于Transformer结构的各类语言模型(Bert基于其encoder,Gpt-2基于其decoder)早已经在各类NLP任务上大放异彩,面对让人眼...
2021-03-08 标签:人工智能深度学习Transformer 4450 0
大语言模型背后的Transformer,与CNN和RNN有何不同
电子发烧友网报道(文/李弯弯)近年来,随着大语言模型的不断出圈,Transformer这一概念也走进了大众视野。Transformer是一种非常流行...
2023-12-25 标签:cnnTransformerrnn 4192 0
使用知识图谱作为输入的表征,研究一个端到端的graph-to-text生成系统
graph-to-text的一个重要任务是从 Abstract Meaning Representation (AMR) graph生成内容,其中图...
2020-08-28 标签:数据集Transformer知识图谱 3997 0
所以我们为此文章写了篇注解文档,并给出了一行行实现的Transformer的代码。本文档删除了原文的一些章节并进行了重新排序,并在整个文章中加入了相应的...
2022-06-20 标签:代码Transformerpytorch 3874 0
视海芯图Transformer加速SoC助力AR/VR设备性能升级
5月12日,第十三届松山湖中国IC创新高峰论坛在广东东莞松山湖凯酒店举行,本届活动继续由中国半导体行业协会IC设计分会(ICCAD)、芯原微电子、松山湖...
2023-05-12 标签:ArTransformer视海芯图 3243 0
谷歌Evolved Transformer通过AutoML技术进行特定任务定制,在编码器和解码器模块底部的卷积层以分支模式运行,提高了语言建模的性能,目...
导读 国际表示学习大会(TheInternationalConference onLearningRepresentations)是致力于人工智能领域发...
2020-11-02 标签:人工智能深度学习Transformer 2705 0
Transformers 加速了自然语言处理(NLP)任务的新技术和模型的发展。虽然它主要用于NLP任务,但现在它被大量应用于处理计算机视觉任务。这使它...
2021-03-05 标签:机器学习Transformer自然语言处理 2261 0
受过去对快速权重研究的启发,研究者建议用产生这种行为的替代规则替换更新规则。此外,该研究还提出了一个新的核函数来线性化注意力,平衡简单性和有效性。他们进...
2021-03-31 标签:人工智能深度学习Transformer 1866 0
如图2所示,Transformer模型一般由输入嵌入层、输出层和若干结构相同的Transformer层堆叠组成。更具体地,每层由一个多头自注意力模块和前...
2022-04-07 标签:数据集Transformer 1762 0
用于语言和视觉处理的高效 Transformer能在多种语言和视觉任务中带来优异效果
白皮书《Transformer-LS:用于语言和视觉处理的高效 Transformer》中提出了“长-短 Transformer” (Transform...
2021-12-28 标签:计算机视觉Transformer 1592 0
当我们在翻译软件上输入 Transformer is a novel neural network architecture based on a se...
2020-11-06 标签:谷歌Transformer自然语言 1582 0
电子发烧友网报道(文/周凯扬)近日,一家由哈佛辍学生成立的初创公司Etched,宣布了他们在打造的一款“专用”AI芯片Sohu。据其声称该芯片的速度将是...
2024-07-01 标签:TransformerAI芯片 1426 0
编辑推荐厂商产品技术软件/工具OS/语言教程专题
电机控制 | DSP | 氮化镓 | 功率放大器 | ChatGPT | 自动驾驶 | TI | 瑞萨电子 |
BLDC | PLC | 碳化硅 | 二极管 | OpenAI | 元宇宙 | 安森美 | ADI |
无刷电机 | FOC | IGBT | 逆变器 | 文心一言 | 5G | 英飞凌 | 罗姆 |
直流电机 | PID | MOSFET | 传感器 | 人工智能 | 物联网 | NXP | 赛灵思 |
步进电机 | SPWM | 充电桩 | IPM | 机器视觉 | 无人机 | 三菱电机 | ST |
伺服电机 | SVPWM | 光伏发电 | UPS | AR | 智能电网 | 国民技术 | Microchip |
开关电源 | 步进电机 | 无线充电 | LabVIEW | EMC | PLC | OLED | 单片机 |
5G | m2m | DSP | MCU | ASIC | CPU | ROM | DRAM |
NB-IoT | LoRa | Zigbee | NFC | 蓝牙 | RFID | Wi-Fi | SIGFOX |
Type-C | USB | 以太网 | 仿真器 | RISC | RAM | 寄存器 | GPU |
语音识别 | 万用表 | CPLD | 耦合 | 电路仿真 | 电容滤波 | 保护电路 | 看门狗 |
CAN | CSI | DSI | DVI | Ethernet | HDMI | I2C | RS-485 |
SDI | nas | DMA | HomeKit | 阈值电压 | UART | 机器学习 | TensorFlow |
Arduino | BeagleBone | 树莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
OrCAD | Cadence | AutoCAD | 华秋DFM | Keil | MATLAB | MPLAB | Quartus |
C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
DuerOS | Brillo | Windows11 | HarmonyOS |