电子发烧友网技术文库为您提供最新技术文章，最实用的电子技术文章，是您了解电子技术动态的最佳平台。

• AI服务器的内存接口芯片技术

  DXG 服务器配备 8 块 H100 GPU，6400亿个晶体管，在全新的 FP8 精度下 AI 性能比上一代高 6 倍，可提供 900GB/s 的带宽。...

  931次阅读 · 0评论 NVIDIADDR4内存技术DDR5AI服务器
  

• 什么是AI运算？AI是如何运算的呢？

  AI是计算机科学的分支领域，专注在创建拥有人类智能行为的系统或机器，其目标为模拟人类的各种认知功能，包含学习、推理、解决问题、感知、语言理解等等。AI涵盖了各种技术领域，如机器学习、深度学习、自然语言处理、计算机视觉、机器人等。...

  2730次阅读 · 0评论 神经网络AI计算机视觉机器学习深度学习

• 关于机器学习的17种常用算法

  在监督式学习下，输入数据被称为“训练数据”，每组训练数据有一个明确的标识或结果，如对防垃圾邮件系统中“垃圾邮件”“非垃圾邮件”，对手写数字识别中的“1“，”2“，”3“，”4“等。...

  1224次阅读 · 0评论 神经网络算法向量机人工智能机器学习
  

• 多语言的开放式问答数据集构建过程

  从评测能力上来看，由于目前的评测数据集主要是利用人类试题及其标准答案进行评测，这种评价方式更偏向对推理能力的评估，存在评估结果和模型真实能力有⼀定偏差。...

  631次阅读 · 0评论 人工智能数据集ChatGPT大模型
  

• Transformer迎来强劲竞争者 新架构Mamba引爆AI圈！

  作为通用序列模型的骨干，Mamba 在语言、音频和基因组学等多种模态中都达到了 SOTA 性能。在语言建模方面，无论是预训练还是下游评估，他们的 Mamba-3B 模型都优于同等规模的 Transformer 模型，并能与两倍于其规模的 Transformer 模型相媲美。...

  496次阅读 · 0评论 神经网络AI机器学习Transformer大模型
  

• 深度解读亚马逊AI芯片核心技术

  Trainium1 芯片于 2020 年 12 月发布，并以两个不同的实例（Trn1 和 Trn1n）发货。我们当时对 Trainium1 和2021 年 12 月的这些实例进行了尽可能多的分析，坦率地说，AWS 没有提供大量有关这些本土 AI 计算引擎的数据。...

  873次阅读 · 0评论 cpu服务器人工智能亚马逊AI芯片
  

• 探索Transformer Block精简的方式

  作者对Transformer Block移除了各种参数，减少了15%参数量，提高了15%的训练速度，各个环节都有做充分的实验，但一些经验性得到的结论也并没有直接回答一些问题（如LN为什么影响收敛速度）。...

  600次阅读 · 0评论 神经网络MLP
  

• 无监督域自适应场景：基于检索增强的情境学习实现知识迁移

  本文对比了多种基线方法，包括无监督域自适应的传统方法（如Pseudo-labeling和对抗训练）、基于检索的LM方法（如REALM和RAG）和情境学习方法（如In-context learning）。...

  634次阅读 · 0评论 解码器编码器语言模型nlp大模型
  

• 英伟达用AI设计GPU算术电路有何优势

  大量的算术电路阵列为英伟达GPU提供了动力，以实现前所未有的AI、高性能计算和计算机图形加速。因此，改进这些算术电路的设计对于提升 GPU 性能和效率而言至关重要。...

  440次阅读 · 0评论 摩尔定律gpuedaAI英伟达

• 英伟达三大AI法宝：CUDA、Nvlink、InfiniBand

  以太网是一种广泛使用的网络协议，但其传输速率和延迟无法满足大型模型训练的需求。相比之下，端到端IB（InfiniBand）网络是一种高性能计算网络，能够提供高达 400 Gbps 的传输速率和微秒级别的延迟，远高于以太网的性能。这使得IB网络成为大型模型训练的首选网络技术。...

  5428次阅读 · 0评论 cpu交换机AICUDA英伟达
  

• 大模型在智能服务领域的落地要点

  在传统“小”模型方法中，需要对训练数据进行构建，例如训练一个分类模型，以便将用户的问题分类为不同的意图。同样，回答用户问题的方式也需要模型的处理，因为售后问题的多样性，有的需要直接回答，有的需要引导用户执行一系列步骤来解决。...

  577次阅读 · 0评论 算法人工智能AIGC大模型

• 一种新大模型安全问题之隐式有害内容输出

  使用了LLaMA-13B来训练模型和奖励模型，使用BAD模型作为有害内容检测模型。...

  397次阅读 · 0评论 ChatGPT大模型
  

• 如何使用AI工具提高集成电路设计效率！

  Copilot 最初是由 GitHub/Microsoft 和 OpenAI 合作推出的开发项目，致力于辅助软件开发人员编写代码，提供诸如将代码注释转换为可运行代码、自动完成代码块、代码重复部分以及整个方法和/或函数等功能。...

  1521次阅读 · 0评论 集成电路寄存器芯片设计eda人工智能
  

• 一种新颖的大型语言模型知识更新微调范式

  我们使用LLAMA2-7B作为实验的基础模型。我们主要评估将旧知识更新为新知识的能力，因此模型将首先在旧知识上进行为期3个时期的微调。表1中F-Learning中设置的超参数λ分别取值为0.3、0.7、0.1和1.5。...

  449次阅读 · 0评论 数据集LoRa大模型
  

• PanopticNeRF-360：快速生成大量新视点全景分割图像！

  PanopticNeRF-360是PanopticNeRF的扩展版本，借助3D粗标注快速生成大量的新视点全景分割和RGB图，并引入几何-语义联合优化来解决交叉区域的类别模糊问题，对于数据标注领域有一定价值。...

  454次阅读 · 0评论 感知系统自动驾驶汽车深度学习MLP
  

• LLM真的能推理和规划吗？

  在研究人员选择的模型中，GPT-3 davinci（非指令微调）、GPT-3 textdavinci-001（指令微调）和GPT-3 textdavinci-003（InstructGPT）都是以前观察到过涌现能力的模型。这一选择主要是出于模型可用性的考虑。...

  657次阅读 · 0评论 解码器编码器GPT大模型
  

• 中国大模型市场进展与趋势

  大模型当前以生成类应用为主，多模态是未来重点发展方向 企业用户是从应用视角出发,分成生成类应用、决策类应用和多模态应用。 受限于模型能力、应用效果等因素，当前阶段以生成类应用为主。...

  620次阅读 · 0评论 编程语言机器学习深度学习自然语言处理大模型
  

• 全球及中国Al服务器市场规模情况

  未来全球服务器市场规模有望超万亿。长远来看，在国内外数据流量迅速增长以及公有云蓬勃发展的背景下，服务器作为云网体系中最重要的算力基础设施，未来存在巨大的成长空间，预计2027年市场规模将超万亿元（1891.4亿美元）。...

  2262次阅读 · 0评论 gpu服务器AI人工智能AI服务器
  

• 动态场景下的自监督单目深度估计方案

  自监督单目深度估计的训练可以在大量无标签视频序列来进行，训练集获取很方便。但问题是，实际采集的视频序列往往会有很多动态物体，而自监督训练本身就是基于静态环境假设，动态环境下会失效。...

  743次阅读 · 0评论 二进制自动驾驶
  

• 大模型算驱动AI服务器行业报告

  AI服务器按芯片类型可分为CPU+GPU、CPU+FPGA、CPU+ASIC等组合形式，CPU+GPU是目前国内的主要选择（占比91.9%）；AI服务器的成本主要来自CPU、GPU等芯片，占比25%-70%不等，对于训练型服务器其80%以上的成本来源于CPU和GPU。...

  241次阅读 · 0评论 cpu服务器AIChatGPT大模型
  
首页上一页678910下一页末页