0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

为深度学习而生,英特尔全新Gaudi2处理器正式登陆中国

科技讯息 来源:科技讯息 作者:科技讯息 2023-07-13 09:48 次阅读

英特尔AI产品战略暨Gaudi2新品发布会在京举行。会上,英特尔正式于中国市场推出第二代Gaudi深度学习加速器——Habana®Gaudi®2。作为英特尔从云到端产品组合的重要组成,Gaudi2致力于以领先的性价比优势,加速AI训练及推理,为中国用户提供更高的深度学习性能和效率,从而成为大规模部署AI的更优解。

英特尔执行副总裁兼数据中心人工智能事业部总经理Sandra Rivera指出,“英特尔致力于通过为客户提供广泛的硬件选择,并支持开放的软件环境,加速人工智能技术的发展。凭借包括至强可扩展处理器和Gaudi2深度学习加速器在内的产品组合,英特尔正在降低人工智能的准入门槛,并强化客户在云端通过网络和智能边缘部署这一关键业务技术的能力,从而帮助构建中国人工智能的未来。”

为深度学习而生的全新Gaudi2训练加速器

该Gaudi2深度学习加速器暨Gaudi2夹层卡HL-225B,以第一代Gaudi高性能架构为基础,以多方位性能与能效比提升,加速高性能大语言模型运行。该加速器具备:

·24个可编程Tensor处理器核心(TPCs)

·21个100Gbps(RoCEv2)以太网接口

·96GB HBM2E内存容量

·2.4TB/秒的总内存带宽

·48MB片上SRAM

·集成多媒体处理引擎

Gaudi2加速器的出色性能在6月公布的MLCommons® MLPerf®基准测试中得到了充分认证,其在GPT-3模型、计算机视觉模型ResNet-50(使用8个加速器)、Unet3D(使用8个加速器),以及自然语言处理模型BERT(使用8个和64个加速器)上均取得了优异的训练结果。与市场上其他面向大规模生成式AI和大语言模型的产品相比,Gaudi2拥有卓越的性能与领先的性价比优势,能够帮助用户提升运营效率的同时,降低运营成本。

此外,Gaudi2可为大规模的多模态和语言模型提供出色的推理性能。在最近的HuggingFace评估中,其在大规模推理方面的表现,包括在运行Stable Diffusion(另一个用于从文本生成图像的最先进生成式AI模型之一)、70亿以及1760亿参数BLOOMz模型时,在行业内保持领先。

满足大语言和多模态模型的需求

Gaudi2深度学习加速器的架构旨在高效扩展,以满足大规模语言模型及生成式AI模型的需求。其每张芯片集成了21个专用于内部互联的100Gbps(RoCEv2 RDMA)以太网接口,从而实现低延迟服务器内扩展。

在Stable Diffusion训练上,Gaudi2展示了从1张卡至64张卡近线性99%的扩展性。此外,MLCommons刚刚公布的MLPerf训练3.0结果,亦验证了Gaudi2处理器在1750亿参数的GPT-3模型上,从256个加速器到384个加速器可实现令人印象深刻的接近线性的95%扩展效果。

具备成熟的软件支持,Gaudi2产品在中国市场正式上市

伴随日益增长的生成式AI及大语言模型需求,英特尔亦致力于打造领先、成熟的软件支持,充分释放Gaudi2深度学习加速器性能。

为支持客户轻松构建模型,或将当前基于GPU的模型业务和系统迁移到基于全新Gaudi2服务器,并帮助保护软件开发投入,SynapseAI®软件套件针对Gaudi平台深度学习业务进行了优化,旨在与广泛的软件生态系统一起,帮助简化模型的开发和迁移。SynapseAI集成了对TensorFlow和PyTorch框架的支持,并提供众多流行的计算机视觉和自然语言参考模型,能够满足深度学习开发者的多样化需求。

目前,英特尔正与浪潮信息合作,打造并发售基于Gaudi2深度学习加速器的浪潮信息AI服务器NF5698G7。该服务器集成了8颗Gaudi2加速卡HL-225B,还包含双路第四代英特尔至强可扩展处理器。

携手中国产业生态,共启人工智能新篇

多年来,借助强大的AI软硬件基础,英特尔一直致力于为AI领域的各类工作负载提供业界领先的卓越性能,并通过开放的生态、丰富多样的产品选择不断降低AI部署的门槛,并为中国的AI发展提供坚定支持。

本次发布会上,美团、百度与浪潮信息等生态伙伴分别分享了其基于英特尔软硬件产品组合的多样化智能业务进展。百度智能云服务器高级经理何永占表示,集成英特尔®AMX加速引擎的第四代英特尔®至强®可扩展处理器为ERNIE-Tiny模型带来了多倍的性能优化,百度将持续构建领先的AI全栈能力和全面的开放生态,并期待与英特尔在未来的AI领域展开更为广泛、深入的合作。浪潮信息高级产品经理王磊强调,NF5698G7是专为面向生成式AI市场创新开发的新一代AI服务器,支持8颗OAM高速互联的Gaudi2加速器,具备高性能、高扩展、高能效和开放生态等优点,将为AI客户提供强大的大模型训练和推理能力。未来,浪潮信息将继续携手英特尔,为行业打造创新、领先的产品方案

此外,多家本土生态伙伴亦表明了与英特尔在当下及未来产品合作上的坚定立场与长远展望。新华三集团计算存储产品线副总裁刘宏程指出,新华三智慧计算秉持内生智能的技术理念,基于硬件使能、前瞻技术、绿色低碳等全方位能力,助力AI产业的高速发展。基于英特尔Gaudi2 AI加速器,新华三正与英特尔紧密合作,开发适合大模型训练和推理的高性能AI服务器,推动智能算力的普惠创新。与此同时,超聚变数字技术有限公司算力基础设施领域总裁唐启明表示,非常荣幸见证英特尔Gaudi2的发布。作为英特尔的长期战略合作伙伴,超聚变将一如既往地携手英特尔,共同推出基于Gaudi2的全新产品与解决方案,助力企业的AI场景成熟商用和规模落地。

未来,英特尔将持续引领产品技术发展,进一步加速大规模深度学习部署,助力中国本地AI市场发展。

审核编辑:汤梓红

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    452

    文章

    50150

    浏览量

    420509
  • 英特尔
    +关注

    关注

    60

    文章

    9855

    浏览量

    171232
  • 加速器
    +关注

    关注

    2

    文章

    789

    浏览量

    37655
  • 深度学习
    +关注

    关注

    73

    文章

    5459

    浏览量

    120863
  • Gaudi2
    +关注

    关注

    0

    文章

    13

    浏览量

    95
收藏 人收藏

    评论

    相关推荐

    英特尔发布至强6处理器产品

    以“绿色向新,释放新质生产力”为主题的英特尔至强6能效核处理器新品发布会在北京举行。会上,英特尔重磅推出首款配备能效核的英特尔至强6处理器
    的头像 发表于 09-23 15:48 289次阅读

    英特尔首款至强6处理器上市

    在北京这座古都的现代舞台上,英特尔®举行了一场别开生面的新品发布会,主题为“绿色向新,释放新质生产力”。此次盛会聚焦在英特尔至强® 6能效核处理器上,这一划时代的产品不仅代表着英特尔
    的头像 发表于 06-11 09:51 517次阅读

    浪潮信息元脑®服务率先支持英特尔®至强®6处理器

    支持最新英特尔®至强®6处理器,具备更出色的性能和能效表现,相比第三代至强处理器性能提升200%,每单位能耗下性能提升230%以上,在虚拟化场景实测解压缩、视频转码、pgbench的
    的头像 发表于 06-07 15:36 337次阅读
    浪潮信息元脑®服务<b class='flag-5'>器</b>率先支持<b class='flag-5'>英特尔</b>®至强®6<b class='flag-5'>处理器</b>

    英特尔重磅发布全新AI战略,携手生态共同释放企业AAI潜力

    在近期举行的Intel Vision 2024大会上,英特尔重磅发布其开放的、可扩展的全新AI战略,同时公布了英特尔®至强®6处理器的品牌焕新,满足客户对于
    的头像 发表于 04-28 11:11 498次阅读
    <b class='flag-5'>英特尔</b>重磅发布<b class='flag-5'>全新</b>AI战略,携手生态共同释放企业AAI潜力

    英特尔拟推出中国市场“特供版芯片”Gaudi 3

    英特尔计划在中国市场推出“特供版”Gaudi 3 AI芯片,这一决策主要是基于美国对于AI芯片的出口管制政策。
    的头像 发表于 04-16 14:48 502次阅读

    英特尔进军AI芯片市场:推出Gaudi 3 AI加速卡与Xeon 6处理器

    Gaudi 3作为英特尔在AI领域的最新力作,旨在与英伟达等市场领导者展开竞争。据英特尔透露,这款芯片在能效和AI模型运行速度方面均表现出色,相比英伟达的芯片具有显著优势。
    的头像 发表于 04-10 15:37 743次阅读

    英特尔发布人工智能芯片新版,对标Nvidia

    应对AI行业对高性能芯片的巨大需求,英特尔推出了全新Gaudi 3芯片,据称这一款芯片在训练大语言模型方面的速度较之NVIDIA最新H100处理器
    的头像 发表于 04-10 09:26 323次阅读

    苹果M3芯片和英特尔酷睿i9处理器哪个强

    苹果M3芯片和英特尔酷睿i9处理器各有其优势,难以简单地说哪个更强。
    的头像 发表于 03-08 15:29 6639次阅读

    千度迷你电脑Q750G5搭载英特尔J4125处理器5个2.5G网卡

    很高兴与大家分享千度发布的迷你电脑Q750G5,搭载了英特尔Gemini Lake J4125处理器和一系列强大的硬件配置,用户提供了多功能的网络解决方案。让我们一起来了解这台迷你电脑的亮点和特色
    的头像 发表于 02-18 16:53 733次阅读
    千度迷你电脑Q750G5搭载<b class='flag-5'>英特尔</b>J4125<b class='flag-5'>处理器</b>5个2.5G网卡

    英特尔和AMD处理器的区别和特点

    英特尔和AMD处理器的区别和特点 英特尔(Intel)和AMD是全球最著名的两个处理器制造商。他们都提供高性能、可靠的芯片,消费者和企业用
    的头像 发表于 01-30 14:28 2307次阅读

    英特尔酷睿14代处理器系列发布,Arrowlake/LunarLake24年问世

    处理器英特尔
    looger123
    发布于 :2024年01月10日 17:44:38

    英特尔Gaudi2C处理器或为Gaudi2的简化版,Gaudi3预计2024年面世

    对于Gaudi2C和Gaudi2之间的差别,有推测认为它可能是“部分”改动后的产品,针对中国市场专门定制。Tomshardware则猜测可能是Gaudi2的简化版。
    的头像 发表于 12-20 13:44 1065次阅读

    第五代英特尔至强可扩展处理器AI加速而生

    与生态伙伴分享了该全新产品在京东云、百度智能云、阿里云、火山引擎的成功实践及其应用价值。 第五代英特尔 至强 可扩展处理器在提高人工智能、科学计算、网络、存储、数据库、安全等关键工作负载的每瓦性能 1 ,以及降低总体拥有成本(T
    的头像 发表于 12-16 16:15 411次阅读
    第五代<b class='flag-5'>英特尔</b>至强可扩展<b class='flag-5'>处理器</b>,<b class='flag-5'>为</b>AI加速<b class='flag-5'>而生</b>

    第五代英特尔至强可扩展处理器AI加速而生

    今日,在以“AI无处不在 创芯无所不及”为主题的2023英特尔新品发布会暨AI技术创新派对上,英特尔正式推出第五代英特尔® 至强® 可扩展处理器(代号Emerald Rapids)。期
    发表于 12-16 15:53 312次阅读
    第五代<b class='flag-5'>英特尔</b>至强可扩展<b class='flag-5'>处理器</b>,<b class='flag-5'>为</b>AI加速<b class='flag-5'>而生</b>

    今日看点丨传英特尔将推Gaudi2降规版抢攻中国大陆市场;搭载自研电竞芯片,iQOO 12系列发布

    1. 美国升级AI 芯片禁令,传英特尔将推Gaudi2 降规版抢攻中国大陆市场   美国加强对华人工智能(AI)芯片管制,英特尔率先应变提出对策。
    发表于 11-08 11:35 683次阅读
    今日看点丨传<b class='flag-5'>英特尔</b>将推<b class='flag-5'>Gaudi2</b>降规版抢攻<b class='flag-5'>中国大陆</b>市场;搭载自研电竞芯片,iQOO 12系列发布