完善资料让更多小伙伴认识你，还能领取20积分哦，立即完善>
标签 > LLM
在人工智能领域，LLM代表“大型语言模型”。在人工智能（AI）领域自然语言处理（NLP）是一个快速进展的领域。NLP中最重要是大语言模型（LLM）。大语言模型（英文：Large Language Model，缩写LLM），也称大型语言模型，是一种基于机器学习和自然语言处理技术的模型。
文章：314个 浏览：620次 帖子：3个
2025年，如何提升大型语言模型（LLM）的推理能力成了最热门的话题之一，大量优化推理能力的新策略开始出现，包括扩展推理时间计算、运用强化学习、开展监督...
树莓派秒变编程助手：Ollama+Continue的简易搭建教程！
以下是如何在RaspberryPi上运行大型语言模型(LLM)的方法。本文的目标是找出在RaspberryPi上运行LLM是否是ChatGPT和GitH...
2025-03-27 标签：Raspberry Pi树莓派LLM 141 0
本文讨论了LLM推理过程对计算资源需求急剧攀升的背景下，现有量化和剪枝技术、新数据格式存在的不足，提出动态块浮点数（DBFP）及其配套算法-硬件协同框架...
内部业务支撑&前瞻技术布局 One4All下一代生成式推荐系统
作者：京东零售 申磊 自LLM在自然语言处理等领域取得了瞩目成就之后，学术界积极探索生成式模型对搜广推系统的增强或改进方式[1]，现有工作大体可以分为两...
随着 DeepSeek、 GPT 和 Llama 等大语言模型（LLMs）不断推动人工智能的边界，它们在高效部署方面也带来了重大挑战。这些模型在生成类似...
推荐系统的主要任务在于根据用户的过往行为预测其潜在兴趣点，并据此推荐相应的商品。在传统的推荐系统中，当处理用户请求时，会触发多个召回模块，例如热门商品召...
作者：算力魔方创始人/英特尔创新大使刘力 之前我们分享了《从零开始训练一个大语言模型需要投资多少钱》，其中高昂的预训练费用让许多对大模型预训练技术感兴趣...
本文系统性地阐述了大型语言模型(LargeLanguageModels,LLMs)中的解码策略技术原理及其实践应用。通过深入分析各类解码算法的工作机制、...
继上一篇移植了 Mediapipe 的 LLM Inference 后，这篇文章我们将继续探索 Object Detection Demo 的移植。
在NVIDIA TensorRT-LLM中启用ReDrafter的一些变化
Recurrent Drafting (简称 ReDrafter) 是苹果公司为大语言模型 (LLM) 推理开发并开源的一种新型推测解码技术，该技术现在...
新品 | Module LLM Kit，离线大语言模型推理模块套装
●●●PART.01产品简介ModuleLLMKit是一款专注于离线AI推理与数据通信接口应用的智能模块套件，整合了ModuleLLM与Module13...
英伟达GTC2025亮点：电信行业领先企业启用代理式AI优化网络运维
Amdocs、BubbleRAN、ServiceNow、软银集团与 Tech Mahindra 基于 NVIDIA AI Enterprise 开发大型...
作者：算力魔方创始人/英特尔创新大使刘力 一，简介 AnythingLLM 是一个功能强大且灵活的工具，专为在本地环境中部署和管理知识库而设计。它支持多...
大模型基础能力越来越高，各行各业都希望运用AIGC降本增收，却面临如何结合自身业务场景优化的难题。为了帮助客户快速打造符合其业务需求的AIGC应用，足下...
你有没有想过，人类真的能做出完全随机的选择吗？答案可能出乎你的意料。事实上，人类天生就不擅长“随机”，我们总能在看似无序的事物中发现规律，甚至在本该随机...
TeleAI提出COPO对齐方法:8B模型超越Llama3-70B的表现
在自然界中，好奇心驱使着生物探索未知，是生存和进化的关键。人类，作为地球上最具智能的物种，其探索精神引领了科技、文化和社会的进步。1492 年，哥伦布怀...
实战案例 | 眺望RK3588 RKLLM部署DeepSeek-R1全流程
前言：在RK3588上部署Deepseek有两种方法,分别是使用Ollama工具部署和使用瑞芯微官方的RKLLM量化部署。Ollama是一个开源的大模型...
最近，开源中国 OSCHINA、Gitee 与 Gitee AI 全文如下： 大模型撞上 “算力墙”，超级应用的探寻之路 文 / 傅聪 近日，大模型教...
大型语言模型（LLM）（如 ChatGPT、Claude 和 Meta AI）的出现是迄今为止人工智能领域最重大的进步。这项新技术也带来了新风险。众所周...
新品| LLM630 Compute Kit，AI 大语言模型推理开发平台
LLM630LLM推理，视觉识别，可开发，灵活扩展···LLM630ComputeKit是一款AI大语言模型推理开发平台，专为边缘计算和智能交互应用而设...
换一批
编辑推荐厂商产品技术软件/工具OS/语言教程专题
| 电机控制 | DSP | 氮化镓 | 功率放大器 | ChatGPT | 自动驾驶 | TI | 瑞萨电子 |
| BLDC | PLC | 碳化硅 | 二极管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 无刷电机 | FOC | IGBT | 逆变器 | 文心一言 | 5G | 英飞凌 | 罗姆 |
| 直流电机 | PID | MOSFET | 传感器 | 人工智能 | 物联网 | NXP | 赛灵思 |
| 步进电机 | SPWM | 充电桩 | IPM | 机器视觉 | 无人机 | 三菱电机 | ST |
| 伺服电机 | SVPWM | 光伏发电 | UPS | AR | 智能电网 | 国民技术 | Microchip |
| 开关电源 | 步进电机 | 无线充电 | LabVIEW | EMC | PLC | OLED | 单片机 |
| 5G | m2m | DSP | MCU | ASIC | CPU | ROM | DRAM |
| NB-IoT | LoRa | Zigbee | NFC | 蓝牙 | RFID | Wi-Fi | SIGFOX |
| Type-C | USB | 以太网 | 仿真器 | RISC | RAM | 寄存器 | GPU |
| 语音识别 | 万用表 | CPLD | 耦合 | 电路仿真 | 电容滤波 | 保护电路 | 看门狗 |
| CAN | CSI | DSI | DVI | Ethernet | HDMI | I2C | RS-485 |
| SDI | nas | DMA | HomeKit | 阈值电压 | UART | 机器学习 | TensorFlow |
| Arduino | BeagleBone | 树莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 华秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS | harmonyos |
关注我们的微信
下载发烧友APP
电子发烧友观察
版权所有 © 湖南华秋数字科技有限公司
长沙市望城经济技术开发区航空路6号手机智能终端产业园2号厂房3层（0731-88081133）
电子发烧友 （电路图） 湘公网安备43011202000918
工商网监
湘ICP备2023018690号-1
