0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达最新一代AI芯片Blackwell GPU,AI算力能力较上代提升30倍!

中国半导体论坛 来源:国芯网 2024-03-19 13:39 次阅读

3月19日上午,英伟达2024 GTC AI大会,黄仁勋发布了英伟达最新一代AI芯片Blackwell GPU,AI算力能力较上代提升30倍!

黄仁勋说:"我们已经来到了一个临界点,因此需要一种新的计算方式来加速整个行业的发展效率。那么英伟达能够做什么?当然,答案就是——更大的芯片。”接着,英伟达新一代图形计算平台Blackwell正式登场,它被英伟达称为 “新工业革命的引擎”。

采用全新Blackwell架构的B200和GB200系列芯片正式到来。

Blackwell以第一位入选美国国家科学院的黑人学者、数学家David Harold Blackwell的名字命名,它将允许客户能够在万亿参数大型语言模型上构建和运行实时生成人工智能

Blackwell平台引入了六项开创性技术来支持高达10万亿参数的AI模型训练和大语言模型的实时推理。有望在数据处理、工程模拟电子设计自动化、计算机辅助药物设计、量子计算和生成人工智能等领域实现新的突破。用黄仁勋的原话来说,它就是“当今世界上最强大的芯片”。这六项技术分别为:

更大芯片:Blackwell 架构 GPU 拥有2080亿个晶体管,尺寸是Hopper(800亿晶体管)的两倍多。Blackwell B200不是传统的单一GPU,而是由两个紧密耦合的芯片组成,这两个芯片通过10 TB/秒的芯片到芯片链路连接成了一个统一的GPU 。

第二代Transformer引擎:配备了新的微张量缩放支持和先进的动态范围管理算法,通过创新的4位浮点AI推理功能使计算和模型大小加倍。

第五代 NVLink 网络技术:最新的NVLink迭代增强了数万亿参数AI模型的性能,为每个GPU提供了高达1.8TB/s的双向吞吐量,确保当今最复杂的大语言模型能在多达576个GPU之间实现无缝高速通信

RAS引擎:Blackwell驱动的GPU集成了专用引擎和基于人工智能的预防性维护功能,可确保可靠性、可用性和可维护性,从而最大限度地延长系统运行时间并最大限度地降低运营成本。

安全人工智能:全新的机密计算功能可在不影响性能的情况下保护人工智能模型和客户数据,并支持新的本机接口加密协议,在传输过程中、静止状态和计算时都能保证安全。

解压缩引擎:通过支持最新格式加速数据库查询,增强数据分析和数据科学性能,彻底改变数据处理。

英伟达表示,此前训练一个1.8万亿参数模型需要用到8000个Hopper GPU和 15兆瓦的功率。而如今,同样的训练量2000个Blackwell GPU就可以做到,功耗仅为4兆瓦。

基于Blackwell,此次英伟达还推出了其AI超级芯片GB2000。GB2000由两个B200 Blackwell GPU和一个基于Arm的Grace CPU组成,可以为大语言模型推理工作负载提供30倍的性能,而成本能耗要比其“前辈”Hopper低25倍。在具有1750亿个参数的GPT-3 LLM基准测试中,GB200的性能是H100的7倍,训练速度是H100的4倍。

GB200还将成为英伟达全新大型机架系统GB200 NVL72的基石。该系统拥有72个Blackwell GPU和36个Grace GPU,拥有1.4 exaflops的AI性能和30TB的快速内存。英伟达表示,该系统可以部署27万亿参数的模型,而目前最大的模型GPT-4仅约有1.7万亿个参数,因此能够加快释放生成式AI的能力。




审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1791

    文章

    46738

    浏览量

    237313
  • 英伟达
    +关注

    关注

    22

    文章

    3727

    浏览量

    90754
  • AI芯片
    +关注

    关注

    17

    文章

    1852

    浏览量

    34881
  • 大模型
    +关注

    关注

    2

    文章

    2298

    浏览量

    2404

原文标题:刚刚!英伟达发布“AI核弹”!

文章出处:【微信号:CSF211ic,微信公众号:中国半导体论坛】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    英伟Blackwell GPU未来年订单爆满

    据摩根士丹利(大摩)透露,人工智能(AI芯片领域的领军企业英伟(NVIDIA)的管理层在近期的系列与投资人的会议中,分享了关于其下
    的头像 发表于 10-17 16:52 479次阅读

    英伟Blackwell可支持10万亿参数模型AI训练,实时大语言模型推理

    电子发烧友网报道(文/李弯弯)在近日的Hot Chips 2024大会上,英伟公布了下一代GPU架构Blackwell的更多细节信息,以及
    的头像 发表于 09-04 09:10 2798次阅读

    英伟Blackwell芯片延迟发货,台积电量产面临技术挑战

    近期,科技界传来消息,英伟备受瞩目的新一代人工智能(AI芯片Blackwell
    的头像 发表于 08-06 15:28 1555次阅读

    英伟Blackwell芯片已投产,预告未来AI芯片发展

    英伟创始人兼CEO黄仁勋近日宣布,公司旗下的Blackwell芯片已正式投入生产。这款芯片英伟
    的头像 发表于 06-04 09:23 1916次阅读

    英伟或将推出融合Arm与Blackwell内核的AI PC芯片

    近日,业内传出英伟正在研发款全新芯片的传闻。据悉,这款芯片将结合下一代Arm Cortex
    的头像 发表于 05-31 10:31 564次阅读

    英伟酝酿新芯片AI PC市场竞争升温

    据行业最新传言,英伟(Nvidia)正计划推出款融合最新技术的芯片。这款芯片将结合下一代Ar
    的头像 发表于 05-30 10:18 429次阅读

    英伟业绩强劲,Blackwell AI芯片助推下波增长 

     在与分析师的电话会议上,英伟首席执行官黄仁勋透露,公司即将推出的Blackwell AI芯片将于本季度发货,下季度产量将有所
    的头像 发表于 05-23 15:55 453次阅读

    步解读英伟 Blackwell 架构、NVlink及GB200 超级芯片

    能,加速模型的训练和推理过程。 2. 生成式 AI 解决方案 与英伟 Grace CPU、新一代网络芯片等产品
    发表于 05-13 17:16

    英伟发布新一代AI芯片架构Blackwell GPU

    近日,英伟首席执行官黄仁勋在GTC 2024会议上发表主题演讲,重磅推出全新AI芯片架构Blackwell
    的头像 发表于 03-26 11:19 812次阅读

    英伟发布最强AI加速卡Blackwell GB200

    英伟在最近的GTC开发者大会上发布了其最新、最强大的AI加速卡——GB200。这款加速卡采用了新一代AI图形处理器架构
    的头像 发表于 03-20 11:38 1051次阅读

    英伟宣布推出新一代GPU Blackwell,SK海力士已量产HBM3E

    英伟GTC 2024大会上,英伟CEO黄仁勋宣布推出新一代GPU
    的头像 发表于 03-20 11:32 1107次阅读
    <b class='flag-5'>英伟</b><b class='flag-5'>达</b>宣布推出<b class='flag-5'>新一代</b><b class='flag-5'>GPU</b> <b class='flag-5'>Blackwell</b>,SK海力士已量产HBM3E

    英伟发布新一代AI芯片B200

    在美国加州圣何塞举办的英伟GTC生态大会上,英伟CEO黄仁勋以场震撼人心的演讲,正式推出了公司的
    的头像 发表于 03-20 10:07 908次阅读

    今日看点丨英伟发布最强 AI 加速卡--Blackwell GB200;三星面临罢工 存储市场供需引关注

    的 GTC 开发者大会上,正式发布了最强 AI 加速卡 GB200,并计划今年晚些时候发货。   GB200 采用新一代 AI 图形处理器架构 Blackwell,黄仁勋在 GTC 大
    发表于 03-19 11:08 1173次阅读

    英伟新一代AI芯片预计2025年亮相

    近日,服务器制造商戴尔在业界交流活动中透露了英伟即将发布的新一代人工智能(AIGPU信息。这款代号为
    的头像 发表于 03-05 10:26 757次阅读

    英伟:预计下一代AI芯片B100短缺,计划扩产并采用新架构

    近期热门的 H100 芯片运期短缩数天后,英伟新型 AI 旗舰芯片 B100搭载全新的 Blackwe
    的头像 发表于 02-25 09:29 853次阅读