完善资料让更多小伙伴认识你，还能领取20积分哦，立即完善>
标签 > LLM
在人工智能领域，LLM代表“大型语言模型”。在人工智能（AI）领域自然语言处理（NLP）是一个快速进展的领域。NLP中最重要是大语言模型（LLM）。大语言模型（英文：Large Language Model，缩写LLM），也称大型语言模型，是一种基于机器学习和自然语言处理技术的模型。
文章：296个 浏览：394次 帖子：3个
在NVIDIA TensorRT-LLM中启用ReDrafter的一些变化
Recurrent Drafting (简称 ReDrafter) 是苹果公司为大语言模型 (LLM) 推理开发并开源的一种新型推测解码技术，该技术现在...
NVIDIA TensorRT-LLM 是一个专为优化大语言模型 (LLM) 推理而设计的库。它提供了多种先进的优化技术，包括自定义 Attention...
移植Mediapipe LLM Demo到Kotlin Multiplatform
在今年的厦门和广州 Google I/O Extended 上，我分享了《On-Device Model 集成 (KMP) 与用例》。本文是当时 Dem...
Arm KleidiAI助力提升PyTorch上LLM推理性能
生成式人工智能 (AI) 正在科技领域发挥关键作用，许多企业已经开始将大语言模型 (LLM) 集成到云端和边缘侧的应用中。生成式 AI 的引入也使得许多...
作者：Sebastian Raschka 博士， 翻译：张晶，Linux Fundation APAC Open Source Evangelist...
如何在 OrangePi 5 Pro 的 NPU 上运行 LLM
在OrangePi5Pro上访问NPU需要安装最新版Ubuntu的定制版本，还需要安装特殊软件，让你能在NPU而不是CPU上运行专门转换的LLM。整个过...
本文通俗简单地介绍了什么是大模型、大模型是怎么训练出来的和大模型的作用。 什么是大模型 大模型，英文名叫Large Model，大型模型。早期的时候...
视觉语言模型（VLM）通过将文本和图像投射到同一个嵌入空间，将基础大语言模型（LLM）强大的语言理解能力与视觉 transformer（ViT）的视觉能...
本文将分享 TensorRT-LLM 中低精度量化内容，并从精度和速度角度对比 FP8 与 INT8。首先介绍性能，包括速度和精度。其次，介绍量化工具 ...
大模型由于其在各种任务中的出色表现而引起了广泛的关注。然而，大模型推理的大量计算和内存需求对其在资源受限场景的部署提出了挑战。业内一直在努力开发旨在提高...
新品| LLM630 Compute Kit，AI 大语言模型推理开发平台
LLM630LLM推理，视觉识别，可开发，灵活扩展···LLM630ComputeKit是一款AI大语言模型推理开发平台，专为边缘计算和智能交互应用而设...
2025年伊始，硅谷顶级风投A16z最近发表了一篇名为《2025BigldeasinTech》的文章，通过对其50位合伙人进行了采访，得出了50个对科技...
OpenAI 最近推出了其新的推理模型 o3，该模型在 ARC 数据集上大幅超越了之前的最佳性能（SOTA），并在具有挑战性的 FrontierMa...
京东广告生成式召回基于 NVIDIA TensorRT-LLM 的推理加速实践
作者：京东零售 陈航 0000 生成式推荐系统优势介绍 推荐系统的主要任务是根据用户的历史行为预测其兴趣点，并向其推荐相应的商品。传统的推荐系统在处理用...
随着大规模语言模型（LLM）在性能、成本和应用前景上的快速发展，越来越多的团队开始探索如何自主训练LLM模型。然而，是否从零开始训练一个LLM，并非每个...
极空间私有云联合UnifyDrive亮相CES：发布全球首款大语言模型 AI NAS
一年一度，享有“科技春晚”美誉的全球最大科技盛宴国际消费电子展（以下简称：CES）近日在美国拉斯维加斯举行。根据CES官网展示的参展商名单显示，AI也毫...
领先的AI专用集成电路（ASIC）解决方案提供商Neuchips在CES 2024上展示了其革命性的Raptor Gen AI加速芯片（以前称为N300...
众所周知，过去一年间，大语言模型(LLM)领域经历了翻天覆地的变化... 回望2023年底，OpenAI的GPT-4还是一座难以逾越的高峰，其他AI实验...
写在前面 "这份 200 页的技术文档，能帮我总结一下核心内容吗？" "刚收到客户 100 页的需求文档，有办法快速理解吗？" "团队的知识库太庞大了，...
目前，大模型（特别是在2023年及之后的语境中）通常特指大语言模型（LLM, Large Language Model），但其范围也涵盖其他领域的超大规...
换一批
编辑推荐厂商产品技术软件/工具OS/语言教程专题
| 电机控制 | DSP | 氮化镓 | 功率放大器 | ChatGPT | 自动驾驶 | TI | 瑞萨电子 |
| BLDC | PLC | 碳化硅 | 二极管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 无刷电机 | FOC | IGBT | 逆变器 | 文心一言 | 5G | 英飞凌 | 罗姆 |
| 直流电机 | PID | MOSFET | 传感器 | 人工智能 | 物联网 | NXP | 赛灵思 |
| 步进电机 | SPWM | 充电桩 | IPM | 机器视觉 | 无人机 | 三菱电机 | ST |
| 伺服电机 | SVPWM | 光伏发电 | UPS | AR | 智能电网 | 国民技术 | Microchip |
| 开关电源 | 步进电机 | 无线充电 | LabVIEW | EMC | PLC | OLED | 单片机 |
| 5G | m2m | DSP | MCU | ASIC | CPU | ROM | DRAM |
| NB-IoT | LoRa | Zigbee | NFC | 蓝牙 | RFID | Wi-Fi | SIGFOX |
| Type-C | USB | 以太网 | 仿真器 | RISC | RAM | 寄存器 | GPU |
| 语音识别 | 万用表 | CPLD | 耦合 | 电路仿真 | 电容滤波 | 保护电路 | 看门狗 |
| CAN | CSI | DSI | DVI | Ethernet | HDMI | I2C | RS-485 |
| SDI | nas | DMA | HomeKit | 阈值电压 | UART | 机器学习 | TensorFlow |
| Arduino | BeagleBone | 树莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 华秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
关注我们的微信
下载发烧友APP
电子发烧友观察
版权所有 © 湖南华秋数字科技有限公司
长沙市望城经济技术开发区航空路6号手机智能终端产业园2号厂房3层（0731-88081133）
电子发烧友 （电路图） 湘公网安备43011202000918
工商网监
湘ICP备2023018690号-1
