0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达最新一代AI芯片Blackwell GPU,AI算力能力较上代提升30倍!

中国半导体论坛 来源:国芯网 2024-03-19 13:39 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

3月19日上午,英伟达2024 GTC AI大会,黄仁勋发布了英伟达最新一代AI芯片Blackwell GPU,AI算力能力较上代提升30倍!

黄仁勋说:"我们已经来到了一个临界点,因此需要一种新的计算方式来加速整个行业的发展效率。那么英伟达能够做什么?当然,答案就是——更大的芯片。”接着,英伟达新一代图形计算平台Blackwell正式登场,它被英伟达称为 “新工业革命的引擎”。

采用全新Blackwell架构的B200和GB200系列芯片正式到来。

Blackwell以第一位入选美国国家科学院的黑人学者、数学家David Harold Blackwell的名字命名,它将允许客户能够在万亿参数大型语言模型上构建和运行实时生成人工智能

Blackwell平台引入了六项开创性技术来支持高达10万亿参数的AI模型训练和大语言模型的实时推理。有望在数据处理、工程模拟、电子设计自动化、计算机辅助药物设计、量子计算和生成人工智能等领域实现新的突破。用黄仁勋的原话来说,它就是“当今世界上最强大的芯片”。这六项技术分别为:

更大芯片:Blackwell 架构 GPU 拥有2080亿个晶体管,尺寸是Hopper(800亿晶体管)的两倍多。Blackwell B200不是传统的单一GPU,而是由两个紧密耦合的芯片组成,这两个芯片通过10 TB/秒的芯片到芯片链路连接成了一个统一的GPU 。

第二代Transformer引擎:配备了新的微张量缩放支持和先进的动态范围管理算法,通过创新的4位浮点AI推理功能使计算和模型大小加倍。

第五代 NVLink 网络技术:最新的NVLink迭代增强了数万亿参数AI模型的性能,为每个GPU提供了高达1.8TB/s的双向吞吐量,确保当今最复杂的大语言模型能在多达576个GPU之间实现无缝高速通信

RAS引擎:Blackwell驱动的GPU集成了专用引擎和基于人工智能的预防性维护功能,可确保可靠性、可用性和可维护性,从而最大限度地延长系统运行时间并最大限度地降低运营成本。

安全人工智能:全新的机密计算功能可在不影响性能的情况下保护人工智能模型和客户数据,并支持新的本机接口加密协议,在传输过程中、静止状态和计算时都能保证安全。

解压缩引擎:通过支持最新格式加速数据库查询,增强数据分析和数据科学性能,彻底改变数据处理。

英伟达表示,此前训练一个1.8万亿参数模型需要用到8000个Hopper GPU和 15兆瓦的功率。而如今,同样的训练量2000个Blackwell GPU就可以做到,功耗仅为4兆瓦。

基于Blackwell,此次英伟达还推出了其AI超级芯片GB2000。GB2000由两个B200 Blackwell GPU和一个基于Arm的Grace CPU组成,可以为大语言模型推理工作负载提供30倍的性能,而成本能耗要比其“前辈”Hopper低25倍。在具有1750亿个参数的GPT-3 LLM基准测试中,GB200的性能是H100的7倍,训练速度是H100的4倍。

GB200还将成为英伟达全新大型机架系统GB200 NVL72的基石。该系统拥有72个Blackwell GPU和36个Grace GPU,拥有1.4 exaflops的AI性能和30TB的快速内存。英伟达表示,该系统可以部署27万亿参数的模型,而目前最大的模型GPT-4仅约有1.7万亿个参数,因此能够加快释放生成式AI的能力。




审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1821

    文章

    50486

    浏览量

    267633
  • 英伟达
    +关注

    关注

    23

    文章

    4125

    浏览量

    99752
  • AI芯片
    +关注

    关注

    17

    文章

    2179

    浏览量

    36881
  • 大模型
    +关注

    关注

    2

    文章

    3857

    浏览量

    5290

原文标题:刚刚!英伟达发布“AI核弹”!

文章出处:【微信号:CSF211ic,微信公众号:中国半导体论坛】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    豪言自家芯片英伟GPU强10,这家AI公司再获融资

    电子发烧友网报道(文 / 吴子鹏)在 AI 力需求呈指数级增长的今天,英伟凭借其 GPU 和 CUDA 生态构筑的 “护城河” 似乎坚不
    的头像 发表于 03-01 06:41 1.2w次阅读

    GPU不是AI的唯解:英伟用Groq LPU证明,推理赛道需要“另条腿”

    大会上,英伟CEO黄仁勋正式发布了Vera Rubin AI超级计算机平台。这平台的问世,不仅标志着英伟
    的头像 发表于 03-24 11:27 6185次阅读
    <b class='flag-5'>GPU</b>不是<b class='flag-5'>AI</b>的唯<b class='flag-5'>一</b>解:<b class='flag-5'>英伟</b><b class='flag-5'>达</b>用Groq LPU证明,推理赛道需要“另<b class='flag-5'>一</b>条腿”

    英伟Rubin GPU采用钻石铜散热,解决芯片散热难题

    散热难题带来了新的曙光。   随着AI大模型、云计算的迭代提速,芯片力与功耗同步飙升。英伟新一代
    的头像 发表于 02-05 13:46 5727次阅读
    <b class='flag-5'>英伟</b><b class='flag-5'>达</b>Rubin <b class='flag-5'>GPU</b>采用钻石铜散热,解决<b class='flag-5'>芯片</b>散热难题

    云巨头力战升级!微软新一代3nm AI推理芯片性能提升30%,落地数据中心

    据外媒报道,微软发布新一代人工智能芯片Maia 200,这款芯片有望成为英伟旗舰处理器以及云服务竞争对手亚马逊、谷歌同类产品的替代选择。微
    的头像 发表于 01-27 12:29 1w次阅读
    云巨头<b class='flag-5'>算</b>力战升级!微软<b class='flag-5'>新一代</b>3nm <b class='flag-5'>AI</b>推理<b class='flag-5'>芯片</b>性能<b class='flag-5'>提升</b><b class='flag-5'>30</b>%,落地数据中心

    NVIDIA RTX PRO 5000 Blackwell GPU的深度评测

    需求进行了优化设计。无论是 CUDA 核心计算性能、实时渲染能力,还是 AI 推理效率,亦或显存带宽与容量的显著提升,均使得新一代 RTX PRO 5000
    的头像 发表于 01-06 09:51 4799次阅读
    NVIDIA RTX PRO 5000 <b class='flag-5'>Blackwell</b> <b class='flag-5'>GPU</b>的深度评测

    亚马逊发布新一代AI芯片Trainium3,性能提升4

    Trainium 4的开发计划。亚马逊表示,这款芯片能够比英伟市场领先的图形处理单元(GPU)更便宜、更高效地驱动AI模型背后的密集计算。
    的头像 发表于 12-09 08:37 8999次阅读
    亚马逊发布<b class='flag-5'>新一代</b><b class='flag-5'>AI</b><b class='flag-5'>芯片</b>Trainium3,性能<b class='flag-5'>提升</b>4<b class='flag-5'>倍</b>

    英伟 Q3 狂揽 308 亿

    厂商季度合计 500 亿美元资本支出中,约 30% 流向了英伟新一代 Blackwell 芯片
    的头像 发表于 11-20 18:11 1428次阅读

    今日看点:特朗普:英伟Blackwell AI芯片不会广泛对海外开放;闪迪 NAND 闪存11 月报价涨幅高达 50%

    是否会允许向中国出口Blackwell芯片的疑问就直不断。当时,特朗普曾暗示可能会允许在中国销售英伟
    发表于 11-10 10:28 1504次阅读

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片到AGI芯片

    能力 2)内存带宽 3)边缘设备的AI力 2、架构与形态 1)AGI芯片的基本架构 设计AGI芯片需考虑哪些因素: ①具身智能的大部分功能
    发表于 09-18 15:31

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片的需求和挑战

    的我我们讲解了这几种芯片的应用场景,设计流程、结构等。 CPU: 还为我们讲解了种算法:哈希表算法 GPU: 介绍了英伟H1
    发表于 09-12 16:07

    英伟最新B30A芯片曝光:力角逐中的新变数

    目前允许在中国销售的H20型号。这消息瞬间点燃了行业内外的关注热情,为本就竞争激烈的AI芯片领域增添了新的变数。 ​ 架构升级:站在巨人肩膀上的革新 B30A
    的头像 发表于 08-22 16:41 1850次阅读

    外媒:英伟正开发新款中国特供芯片B30A 或为旗舰AI芯品B300的阉割版

    A ;或为旗舰AI芯品B300的阉割版 ;估计性能只有B300的50%--70%。 据外媒路透社报道,为了中国市场;英伟正在加速研发基于最新Blackwell架构的
    的头像 发表于 08-20 15:19 4191次阅读
    外媒:<b class='flag-5'>英伟</b><b class='flag-5'>达</b>正开发新款中国特供<b class='flag-5'>芯片</b>B<b class='flag-5'>30</b>A 或为旗舰<b class='flag-5'>AI</b>芯品B300的阉割版

    AI 芯片浪潮下,职场晋升新契机?

    、新架构不断涌现。能够在工作中提出创新性的解决方案,推动 AI 芯片性能、功耗、成本等关键指标的优化,将极大提升在职称评审中的竞争力。例如,在芯片设计中引入新的计算范式,如存
    发表于 08-19 08:58

    睿海光电800G光模块助力全球AI基建升级

    SR8模块已实现规模化量产,并完成1.6T模块的实验室验证,为下一代力网络提前布局。 二、交付能力:智能制造基地+柔性供应链,交付周期领先行业2-3天 睿海光电的快速交付能力源于三
    发表于 08-13 19:05

    今日看点丨英伟将为中国市场推出新AI芯片 售价大幅低于H20;中科曙光与海光信息宣布战略重组

    的H20芯片,预计最快于6月开始量产。报道称,这款采用最新一代Blackwell架构的AI处理器,预计售价介于6500美元至8000美元之间,明显低于H20的定价。较低的售价通常意味着
    发表于 05-26 11:06 1735次阅读