本文介绍大模型的计算特征(国产平台介绍、系统挑战、算子实现、容错)、框架的并行性支持、未来算....
众所周知,在大型模型训练中,通常采用每台服务器配备多个GPU的集群架构。在上一篇文章《高性能GPU服....
随着云计算和虚拟化技术的发展,网卡在功能和硬件结构方面也经历了四个阶段,即网卡、智能网卡、基于FPG....
简单来说,超融合基础架构就是在业务节点上运行服务器虚拟化软件和存储虚拟化软件,将所有的计算节点通过网....
中间件(MiddleWare)是提供系统软件和应用软件之间连接的软件,以便于软件各部件之间....
从Sora技术报告来看,时空patches或借鉴谷歌ViViT操作。ViViT借鉴ViT在图片分割上....
一般服务器后面插的硬盘我们称为本地盘(安装服务器的操作系统、应用软件等)。
前面的硬盘可以....
AMD 和 Nvidia 的 GPU 都依赖 PCI 总线与 CPU 进行通信。CPU 和 GPU ....
从技术路线看,依旧遵从LLM范式“大力出奇迹”,通过patches向量化与transformer架构....
近日,美国人工智能公司OpenAI发布了首个视频生成模型Sora。不同于此前许多AI大模型文生图或视....
NightCafe Creator是一款AI艺术生成器应用程序,可以让用户使用各种技术(如神经风格转....
PCIe 1.0、2.0、3.0传输速率分别为2.5GHz、5GHz和8GHz,单lane带宽分别达....
AI 算力、低功耗等对服务器算力芯片提出新的要求,英伟达 GH200 有望加速全球 AI 服务器算力....
操作系统是负责协调、管理和控制计算机硬件与软件资源的程序,是整个计算机的核心系统软件。 按照操作系统....
对比AMD从2013年开始建设GPU生态,近10年时间后用于通用计算的ROCm开放式软件平台才逐步有....
您可能会认为,随着当今对人工智能系统的所有投资,InfiniBand 互连销售的繁荣将蚕食数据中心高....
根据IDC数据,2022年,全球交换机市场规模为3080亿元,同比增长17.0%。预计2023年可达....
软件定义存储(SDS)即利用分布式和虚拟化等软件技术,将存储硬件资源按需进行分割和重新组合,达到灵....
SSD主要由控制单元和存储单元组成,控制单元包括SSD控制器、主机接口、DRAM等,存储单元主要是N....
HBM作为基于3D堆栈工艺的高性能DRAM,打破内存带宽及功耗瓶颈。HBM(High Bandwid....
流行的GPU/TPU集群网络组网,包括:NVLink、InfiniBand、ROCE以太网Fa....
随着云计算、虚拟化技术的发展,网卡也随之发展,从功能和硬件结构上基本可划分为4个阶段。
全闪存时代背景下,传统的FC(Fibre Channel,网状通道)存储网络已经无法满足全闪存数据中....
中国液冷服务器行业市场规模将持续高速增长,其原因在于:1. 国家绿色能源和可持续发展扶持政策,推动液....
自2003年推出以来,PCIe发展至今已经从最初的1.0升级到了6.0,本文则为大家简单介绍一下PC....
现代处理器的主要指令集架构(ISA)包括:x86指令集架构、RISC指令集架构。
x86-64:又简称为x64,最初开发为1999年AMD,为了扩充IA64。当时的x86-64架构诞....
IO Pattern会对SSD的性能产生严重影响,主要表现在如下几个方面
网络协议为计算机网络中进行数据交换而建立的规则、标准或约定的集合。法律层面上,OSI 七层协议为国际....
随着IT技术的不断演进,公有云、专属云、混合云、云原生等相关技术概念层出不穷,云计算已经有了广泛应用....