llm

什么是向量数据库？关系数据库和向量数据库之间的区别是什么？

向量数据库是一种以向量嵌入（高维向量）方式存储和管理非结构化数据（如文本、图像或音频）的数据库，以便于快速查找和检索类似对象。

2023-08-16 标签：存储器向量机机器学习 2136 0

GPT-4没有推理能力吗？

今年三月，OpenAI 重磅发布了 GPT-4 大模型，带来了比 ChatGPT 背后 GPT-3.5 更强的推理、计算、逻辑能力，也引发了全民使用的热...

2023-08-11 标签：机器学习GPTOpenAI 798 0

更适合机械宝宝体质的操作系统，竟然内置LLM！

工程师们一直在试图搭建更智能、可靠的机器人，比如之前火爆全网、来自波士顿动力公司的机器狗Spot。它可以轻松上下楼梯、搬运重物、巡查街道，等等。

2023-08-03 标签：人机交互机器人编解码器 462 0

BigCode背后的大规模数据去重方法有哪些？

本文面向对大规模文档去重感兴趣，且对散列 (hashing) 、图 (graph) 及文本处理有一定了解的读者。

2023-08-02 标签：存储器URLpython 895 0

LLM的长度外推浅谈

苏神最早提出的扩展LLM的context方法，基于bayes启发得到的公式

2023-07-28 标签：解码器LLM 1791 0

适用于各种NLP任务的开源LLM的finetune教程~

ChatGLM2-6b是清华开源的小尺寸LLM，只需要一块普通的显卡(32G较稳妥)即可推理和微调，是目前社区非常活跃的一个开源LLM。

2023-07-24 标签：LoRa模块nlpprompt 1625 0

基于MNN在个人设备上流畅运行大语言模型该如何实现呢？

LLM（大语言模型）因其强大的语言理解能力赢得了众多用户的青睐，但LLM庞大规模的参数导致其部署条件苛刻；

2023-07-20 标签：转换器存储器C++语言 1079 0

RISC-V 跑大模型（二）：LLaMA零基础移植教程

这是RISC-V跑大模型系列的第二篇文章，主要教大家如何将LLaMA移植到RISC-V环境里。

2023-07-17 标签：RISC-V大模型LLM 1236 0

RISC -V跑大模型（一）

去年，ChatGPT的出现震惊了全世界，在短短几个月的时间内，ChatGPT的月活跃用户达到了1亿。ChatGPT的成功让许多人第一次知道了大语言模型（...

2023-07-17 标签：RISC-VRISC-V处理器ChatGPT 578 0

最新综述！当大型语言模型（LLM）遇上知识图谱：两大技术优势互补

LLM 是黑箱模型，缺乏可解释性，因此备受批评。LLM 通过参数隐含地表示知识。因此，我们难以解释和验证 LLM 获得的知识。此外，LLM 是通过概率模...

2023-07-10 标签：编码语言模型知识图谱 1806 0

当红炸子鸡LoRA，是当代微调LLMs的正确姿势？

大多数人对于 LLM 的“亲密度”，可能最多就是拉个开源的 demo 跑下推理过程，得到个“意料之中”的结果，然后很讽刺地自 high 一把：WOW~ ...

2023-07-07 标签：模型LoRaChatGPT 2389 0

英特尔锐炫显卡运行类ChatGPT的开源大语言模型(LLM)Dolly 2.0解读

人类偏好强化学习Reinforcement learning with human preferences（RLHF）和 InstructGPT 等技术...

2023-07-07 标签：英特尔显卡开源 1415 0

使用NVIDIA NeMo定制LLM的过程

如何创建自定义语言模型

2023-07-05 标签：NVIDIAAI语言模型 834 0

我们能否扩展现有的预训练 LLM 的上下文窗口

    在大家不断升级迭代自家大模型的时候，LLM（大语言模型）对上下文窗口的处理能力，也成为一个重要评估指标。   比如 OpenAI 的 gpt-3...

2023-06-30 标签：编码窗口模型 558 0

基于一个完整的 LLM 训练流程

    在这篇文章中，我们将尽可能详细地梳理一个完整的 LLM 训练流程。包括模型预训练（Pretrain）、Tokenizer 训练、指令微调（Ins...

2023-06-29 标签：数据编码模型 1802 0

一种完全由LLM + 启发式搜索算法结合的TOT算法

今天分享一篇普林斯顿大学的一篇文章，Tree of Thoughts: Deliberate Problem Solving with Large La...

2023-06-29 标签：模块算法语言模型 1386 0

基于Transformer的大型语言模型（LLM）的内部机制

本文旨在更好地理解基于 Transformer 的大型语言模型（LLM）的内部机制，以提高它们的可靠性和可解释性。 随着大型语言模型（LLM）在使用和部...

2023-06-25 标签：存储语言模型Transformer 1285 0

突破边界：高性能计算引领LLM驶向通用人工智能AGI的创新纪元

ChatGPT的成功带动整个AIGC产业的发展，尤其是LLM（大型语言模型，大语言模型）、NLP、高性能计算和深度学习等领域。LLM的发展将为全球和中国...

2023-06-25 标签：人工智能AgiChatGPT 820 0

基准数据集(CORR2CAUSE)如何测试大语言模型(LLM)的纯因果推理能力

  因果推理是人类智力的标志之一。因果关系NLP领域近年来引起了人们的极大兴趣，但其主要依赖于从常识知识中发现因果关系。本研究提出了一个基准数据集(CO...

2023-06-20 标签：编码语言模型数据集 1615 0