0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

标签 > 大模型

大模型

+关注2人关注

以大模型作为基础模型支撑AI产业应用逻辑已经被证明实用性,AI大模型为AI落地应用提供了一种通用化的解决方案;各自各样参数不一、面向不同行业、面向不同任务的“大模型”也陆续发布,大模型已经成为整个AI 界追逐的宠儿,AI大模型有效果好、泛化性强、研发流程标准化程度高等特点。

文章:2139 浏览:2087 帖子:5

大模型技术

大模型分布式训练并行技术(一)-概述

大模型分布式训练并行技术(一)-概述

数据并行是最常见的并行形式,因为它很简单。在数据并行训练中,数据集被分割成几个碎片,每个碎片被分配到一个设备上。这相当于沿批次(Batch)维度对训练过...

2023-08-24 标签:模型数据集pytorch 1273 0

BaiChuan13B多轮对话微调范例

BaiChuan13B多轮对话微调范例

答案是不会。原因是LLM作为语言模型,它的注意力机制是一个单向注意力机制(通过引入 Masked Attention实现),模型在第一轮对话的输出跟输入...

2023-08-24 标签:语言模型大模型 855 0

解析优化的调度逻辑和cuda实现

0x0. 前言 这篇文章来解析一下Megaton-LM涉及到的一个优化gradient_accumulation_fusion。这里fusion的意思是...

2023-08-24 标签:逻辑异步通信函数 1209 0

风口浪尖行稳致远 - 英伟达等企业如何顺应高性能计算大模型浪潮

风口浪尖行稳致远 - 英伟达等企业如何顺应高性能计算大模型浪潮

关键词:PLM;NLP;Transformer;ChatGPT;BERT;RNN;CNN;自注意力机制;多头注意力机制; Decoder Only ;E...

2023-08-23 标签:神经网络AI英伟达 2217 0

AGI离我们还有多远?大模型不是最终解,世界模型才是未来

大型语言模型(如 GPT-4)在解决特定任务和提取因果关系方面表现出色,但缺乏抽象的因果推理能力。它们倾向于从数据中提取已知的因果模式,而无法生成新的因果见解。

2023-08-23 标签:语言模型Agi大模型 352 0

中科大提出:LLMs的个性化综述,详述大模型与个性化的挑战与机遇

中科大提出:LLMs的个性化综述,详述大模型与个性化的挑战与机遇

因此,我们认为现在是时候审视个性化服务的挑战以及用大型语言模型来解决它们的机会了。特别是,我们在这篇展望性论文中专门讨论了以下几个方面:现有个性化系统的...

2023-08-21 标签:人工智能语言模型大模型 896 0

LLM大模型训练Trick系列之拒绝采样

LLM大模型训练Trick系列之拒绝采样

这个方法之所以有效,是因为均匀分布帮助我们将Mq(x)提供的“封包”缩放到p(x)的概率密度函数。另一种看法是,我们取样点x0的概率。这与从g中取样x0...

2023-08-21 标签:算法大模型LLM 1946 0

基于Transformer多模态先导性工作

基于Transformer多模态先导性工作

多模态(Multimodality)是指在信息处理、传递和表达中涉及多种不同的感知模态或信息来源。这些感知模态可以包括语言、视觉、听觉、触觉等,它们共同...

2023-08-21 标签:数据人工智能Transformer 743 0

Intel跑步进入AI PC时代!13代酷睿支持160亿参数大模型、Arc显卡提速54%

Intel跑步进入AI PC时代!13代酷睿支持160亿参数大模型、Arc显卡提速54%

生成式AI(AIGC)无疑是当下最热门的话题和应用,各家软硬件厂商都在全力投入。 作为拥有强大硬件、广泛生态的行业领袖,Intel也正在大力推动PC A...

2023-08-21 标签:intelAI大模型 1058 0

如何在SAM时代下打造高效的高性能计算大模型训练平台

如何在SAM时代下打造高效的高性能计算大模型训练平台

Segment Anything Model (SAM)是Meta 公司最近推出的一个创新AI 模型,专门用于计算机视觉领域图像分割任务。借鉴ChatG...

2023-08-21 标签:amd人工智能SAM 1652 0

开发者如何使用讯飞星火认知大模型API?

开发者如何使用讯飞星火认知大模型API?

之前我们使用网页文本输入的方式体验了讯飞星火认知大模型的功能(是什么让科大讯飞1个月股价翻倍?),本篇博文将从开发者角度来看看如何使用讯飞星火认知大模型API。

2023-08-15 标签:测试API科大讯飞 5276 0

大模型应用:激发芯片设计新纪元

大模型应用:激发芯片设计新纪元

2023 年,生成式 AI 如同当红炸子鸡,吸引着全球的目光。当前,围绕这一领域的竞争愈发白热化,全球陷入百模大战,并朝着千模大战奋进。在这场潮流中,A...

2023-08-15 标签:芯片AIchiplet 1136 0

大型语言模型在关键任务和实际应用中的挑战

大型语言模型在关键任务和实际应用中的挑战

大型语言模型的出现极大地推动了自然语言处理领域的进步,但同时也存在一些局限性,比如模型可能会产生看似合理但实际上是错误或虚假的内容,这一现象被称为幻觉(...

2023-08-15 标签:解码器数据语言模型 1369 0

ai大模型与智能驾驶之间的联系

Ai大模型可以在智能驾驶中扮演重要的角色,包括车辆辨识、路标识别、道路拓扑图构建、实时路况分析等。智能驾驶还需要考虑到行车安全、舒适性、能源效率等方面,...

2023-08-14 标签:AI人工智能智能驾驶 664 0

对话文本数据的珍贵贡献:训练大模型赋予智能与情感理解

在当今信息爆炸的时代,对话文本数据正成为塑造人工智能大模型的重要基石,为这些模型注入智能和情感理解的能力。这些数据不仅在培养模型的语言表达能力方面起到关...

2023-08-14 标签:人工智能大模型 524 0

对话文本数据是培养大模型的智能与交流之源

对话文本数据,作为人类交流的生动表现,正成为训练大型模型的宝贵资源。这些数据不仅蕴含了丰富的语言特点和人类交流方式,更在模型训练中发挥着重要的意义,从而...

2023-08-14 标签:人工智能深度学习大模型 523 0

GPT时代医学AI新赛道:16万张图片、70万问答对的临床问答数据集MIMIC-Diff-VQA发布

GPT时代医学AI新赛道:16万张图片、70万问答对的临床问答数据集MIMIC-Diff-VQA发布

该研究同时提出了一个全新任务,图像对比 VQA (difference VQA):给定两张图片,回答关于这两张图片差异性的问题。在医学领域,这个任务直接...

2023-08-09 标签:模型数据集大模型 408 0

存储系统如何支持大模型生成式AI

北京2023年8月8日 /美通社/ -- 冬瓜哥上次学习AI和ML,还是在2019年初。当时其实是卷积神经网络和深度神经网络蓬勃发展期,其主要目的是分类...

2023-08-08 标签:AI存储系统人工智能 400 0

四足机器人走着走着突然断了一条腿,还能继续前进吗?

四足机器人走着走着突然断了一条腿,还能继续前进吗?

他们发明的一种叫做AutoRobotics-Zero (ARZ)的搜索算法,既不靠大模型,也不用神经网络,可以让机器人一旦遇到剧烈的环境变化,就立刻自动...

2023-08-08 标签:机器人神经网络大模型 497 0

英伟达 H100 vs 苹果M2 大模型训练,哪款性价比更高?

英伟达 H100 vs 苹果M2 大模型训练,哪款性价比更高?

训练和微调大型语言模型对于硬件资源的要求非常高。目前,主流的大模型训练硬件通常采用英特尔的CPU和英伟达的GPU。然而,最近苹果的M2 Ultra芯片和...

2023-07-28 标签:英特尔苹果AI 2816 0

相关标签

相关话题

换一批
  • 电子发烧友网
    电子发烧友网
    +关注
    电子发烧友网于2006年10月成立, 是一个以电子技术知识为核心,以工程师为主导的平台。致立于为中国电子工程师的电子产品设计等做出最大贡献,促进中国电子科技的稳步发展。
  • 无人驾驶
    无人驾驶
    +关注
    提供全球最前沿无人驾驶科技趋势,中国无人驾驶开发者社区
  • 1024
    1024
    +关注
  • 京瓷
    京瓷
    +关注
    京瓷株式会社成立于1959年4月1日。川村诚为现任代表取缔役社长。资本金为1,157亿332万日元。截至2006年3月31日为止的年度销售额达到1,181,489百万日元,集团公司包括关联公司在内共计183家,员工61,468名。
  • emmc
    emmc
    +关注
    eMMC (Embedded Multi Media Card)是MMC协会订立、主要针对手机或平板电脑等产品的内嵌式存储器标准规格。
  • 过压保护电路
    过压保护电路
    +关注
  • 6G
    6G
    +关注
    6G网络将是一个地面无线与卫星通信集成的全连接世界。6G,即第六代移动通信标准,也被称为第六代移动通信技术。主要促进的就是物联网的发展 。截至2019年11月,6G仍在开发阶段。6G的传输能力可能比5G提升100倍,网络延迟也可能从毫秒降到微秒级。
  • 华强pcb线路板打样
    华强pcb线路板打样
    +关注
  • 高频电容
    高频电容
    +关注
  • COB
    COB
    +关注
  • dcdc转换器
    dcdc转换器
    +关注
    DC/DC转换器为转变输入电压后有效输出固定电压的电压转换器。DC/DC转换器分为三类:升压型DC/DC转换器、降压型DC/DC转换器以及升降压型DC/DC转换器。
  • wifi6
    wifi6
    +关注
    WiFi6主要使用了OFDMA、MU-MIMO等技术,MU-MIMO(多用户多入多出)技术允许路由器同时与多个设备通信,而不是依次进行通信。MU-MIMO允许路由器一次与四个设备通信,WiFi6将允许与多达8个设备通信。WiFi6还利用其他技术,如OFDMA(正交频分多址)和发射波束成形,两者的作用分别提高效率和网络容量。WiFi6最高速率可达9.6Gbps。
  • 汽车
    汽车
    +关注
  • 检测电路图
    检测电路图
    +关注
  • Zynq-7000
    Zynq-7000
    +关注
      赛灵思公司(Xilinx)推出的行业第一个可扩展处理平台Zynq系列。旨在为视频监视、汽车驾驶员辅助以及工厂自动化等高端嵌入式应用提供所需的处理与计算性能水平。
  • CD4069
    CD4069
    +关注
  • 过流保护电路
    过流保护电路
    +关注
    电路过电流过电压保护是为防止主回路短路或直流牵引电动机发生环火造成主回路电流过大而损坏同步牵引发电机、主整流柜等电气设备,机车在牵引、电阻制动或自负载工况下,对主电路的过电流和过电压均进行保护。
  • 过零检测电路
    过零检测电路
    +关注
    过零检测指的是在交流系统中,当波形从正半周向负半周转换时,经过零位时,系统作出的检测。可作开关电路或者频率检测。漏电开关的漏电检测是检测零序电流。
  • 特斯拉线圈
    特斯拉线圈
    +关注
    特斯拉线圈又叫泰斯拉线圈,因为这是从“Tesla”这个英文名直接音译过来的。这是一种分布参数高频串联谐振变压器,可以获得上百万伏的高频电压。
  • VHF
    VHF
    +关注
  • 逆变器电路图
    逆变器电路图
    +关注
  • 慕尼黑上海电子展
    慕尼黑上海电子展
    +关注
  • VDD
    VDD
    +关注
     Vcc和Vdd是器件的电源端。Vcc是双极器件的正,Vdd多半是单极器件的正。下标可以理解为NPN晶体管的集电极C,和PMOS or NMOS场效应管的漏极D。同样你可在电路图中看见Vee和Vss,含义一样。因为主流芯片结构是硅NPN所以Vcc通常是正。如果用PNP结构Vcc就为负了。建议选用芯片时一定要看清电气参数
  • 测试电路
    测试电路
    +关注
  • AIoT
    AIoT
    +关注
    AIoT(人工智能物联网)=AI(人工智能)+IoT(物联网)。 AIoT融合AI技术和IoT技术,通过物联网产生、收集海量的数据存储于云端、边缘端,再通过大数据分析,以及更高形式的人工智能,实现万物数据化、万物智联化,物联网技术与人工智能追求的是一个智能化生态体系,除了技术上需要不断革新,技术的落地与应用更是现阶段物联网与人工智能领域亟待突破的核心问题。
  • HarmonyOS
    HarmonyOS
    +关注
    HarmonyOS最新信息分享,我们将为大家带来HarmonyOS是什么意思的深度解读,HarmonyOS官网地址、HarmonyOS开源相关技术解读与设计应用案例,HarmonyOS系统官网信息,华为harmonyOS最新资讯动态分析等。
  • 功放板
    功放板
    +关注
  • ELMOS
    ELMOS
    +关注
  • 功放制作
    功放制作
    +关注
    功率放大器(英文名称:power amplifier),简称“功放”,是指在给定失真率条件下,能产生最大功率输出以驱动某一负载(例如扬声器)的放大器。
  • 科创板
    科创板
    +关注
    拟订科创板股票上市审核规则、科创板上市公司并购重组审核规则、上市委员会及科技创新咨询委员会相关规则;负责科创板股票发行上市审核和科创板上市公司并购重组审核工作,拟订审核标准、审核程序等;对发行人、科创板上市公司及中介机构进行自律监管等。

关注此标签的用户(2人)

jf_76320117 meetyou_530

编辑推荐厂商产品技术软件/工具OS/语言教程专题

电机控制 DSP 氮化镓 功率放大器 ChatGPT 自动驾驶 TI 瑞萨电子
BLDC PLC 碳化硅 二极管 OpenAI 元宇宙 安森美 ADI
无刷电机 FOC IGBT 逆变器 文心一言 5G 英飞凌 罗姆
直流电机 PID MOSFET 传感器 人工智能 物联网 NXP 赛灵思
步进电机 SPWM 充电桩 IPM 机器视觉 无人机 三菱电机 ST
伺服电机 SVPWM 光伏发电 UPS AR 智能电网 国民技术 Microchip
瑞萨 沁恒股份 全志 国民技术 瑞芯微 兆易创新 芯海科技 Altium
德州仪器 Vishay Micron Skyworks AMS TAIYOYUDEN 纳芯微 HARTING
adi Cypress Littelfuse Avago FTDI Cirrus LogIC Intersil Qualcomm
st Murata Panasonic Altera Bourns 矽力杰 Samtec 扬兴科技
microchip TDK Rohm Silicon Labs 圣邦微电子 安费诺工业 ixys Isocom Compo
安森美 DIODES Nidec Intel EPSON 乐鑫 Realtek ERNI电子
TE Connectivity Toshiba OMRON Sensirion Broadcom Semtech 旺宏 英飞凌
Nexperia Lattice KEMET 顺络电子 霍尼韦尔 pulse ISSI NXP
Xilinx 广濑电机 金升阳 君耀电子 聚洵 Liteon 新洁能 Maxim
MPS 亿光 Exar 菲尼克斯 CUI WIZnet Molex Yageo
Samsung 风华高科 WINBOND 长晶科技 晶导微电子 上海贝岭 KOA Echelon
Coilcraft LRC trinamic
放大器 运算放大器 差动放大器 电流感应放大器 比较器 仪表放大器 可变增益放大器 隔离放大器
时钟 时钟振荡器 时钟发生器 时钟缓冲器 定时器 寄存器 实时时钟 PWM 调制器
视频放大器 功率放大器 频率转换器 扬声器放大器 音频转换器 音频开关 音频接口 音频编解码器
模数转换器 数模转换器 数字电位器 触摸屏控制器 AFE ADC DAC 电源管理
线性稳压器 LDO 开关稳压器 DC/DC 降压转换器 电源模块 MOSFET IGBT
振荡器 谐振器 滤波器 电容器 电感器 电阻器 二极管 晶体管
变送器 传感器 解析器 编码器 陀螺仪 加速计 温度传感器 压力传感器
电机驱动器 步进驱动器 TWS BLDC 无刷直流驱动器 湿度传感器 光学传感器 图像传感器
数字隔离器 ESD 保护 收发器 桥接器 多路复用器 氮化镓 PFC 数字电源
开关电源 步进电机 无线充电 LabVIEW EMC PLC OLED 单片机
5G m2m DSP MCU ASIC CPU ROM DRAM
NB-IoT LoRa Zigbee NFC 蓝牙 RFID Wi-Fi SIGFOX
Type-C USB 以太网 仿真器 RISC RAM 寄存器 GPU
语音识别 万用表 CPLD 耦合 电路仿真 电容滤波 保护电路 看门狗
CAN CSI DSI DVI Ethernet HDMI I2C RS-485
SDI nas DMA HomeKit 阈值电压 UART 机器学习 TensorFlow
Arduino BeagleBone 树莓派 STM32 MSP430 EFM32 ARM mbed EDA
示波器 LPC imx8 PSoC Altium Designer Allegro Mentor Pads
OrCAD Cadence AutoCAD 华秋DFM Keil MATLAB MPLAB Quartus
C++ Java Python JavaScript node.js RISC-V verilog Tensorflow
Android iOS linux RTOS FreeRTOS LiteOS RT-THread uCOS
DuerOS Brillo Windows11 HarmonyOS
林超文PCB设计:PADS教程,PADS视频教程 郑振宇老师:Altium Designer教程,Altium Designer视频教程
张飞实战电子视频教程 朱有鹏老师:海思HI3518e教程,HI3518e视频教程
李增老师:信号完整性教程,高速电路仿真教程 华为鸿蒙系统教程,HarmonyOS视频教程
赛盛:EMC设计教程,EMC视频教程 杜洋老师:STM32教程,STM32视频教程
唐佐林:c语言基础教程,c语言基础视频教程 张飞:BUCK电源教程,BUCK电源视频教程
正点原子:FPGA教程,FPGA视频教程 韦东山老师:嵌入式教程,嵌入式视频教程
张先凤老师:C语言基础视频教程 许孝刚老师:Modbus通讯视频教程
王振涛老师:NB-IoT开发视频教程 Mill老师:FPGA教程,Zynq视频教程
C语言视频教程 RK3566芯片资料合集
朱有鹏老师:U-Boot源码分析视频教程 开源硬件专题