0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英特尔发布Gaudi3 AI加速器,押注低成本优势挑战市场

要长高 2024-09-26 16:16 次阅读

英特尔近期震撼发布了专为AI工作负载设计的Gaudi3加速器,这款新芯片虽在速度上不及英伟达热门型号H100与H200 GPU,但英特尔巧妙地将竞争优势聚焦于其更为亲民的价格与总拥有成本(TCO)上。

Gaudi3处理器采用双芯片设计,内置强大的计算单元,包括64个张量处理器核心(TPC,配备256x256 MAC结构并集成FP32累加器)、8个高效的矩阵乘法引擎(MME,支持256位宽矢量处理)以及高达96MB的片上SRAM缓存,提供惊人的19.2TB/s带宽。此外,它还集成了24个200GbE网络接口和14个媒体引擎,后者能够高效处理多种视频编解码格式,如H.265、H.264、JPEG和VP9,为视觉处理应用增添强大助力。内存方面,Gaudi3搭载了128GB HBM2E内存,通过八个内存堆栈实现高达3.67TB/s的带宽,确保数据处理的高效流畅。

相较于前代产品Gaudi2,Gaudi3在架构上进行了显著优化,尽管在TPC和MME数量上有所精简,但它专注于提升特定精度下的计算能力,仅支持FP8矩阵运算及BFloat16矩阵和矢量运算,这一调整旨在更好地满足当前AI工作负载的需求。

在性能表现上,Gaudi3提供了高达1856 TFLOPS的BF16/FP8矩阵运算能力,以及28.7 TFLOPS的BF16矢量运算能力,同时其热设计功耗(TDP)约为600W。尽管在某些指标上略逊于英伟达H100,但英特尔强调,Gaudi3在实际应用中的性价比优势将尤为突出。

英特尔为Gaudi3制定了明确的市场定位,旨在与AMD的Instinct MI300系列及英伟达的H100、B100/B200等高端芯片展开竞争。据英特尔透露,基于8个Gaudi3芯片的加速器套件定价为125,000美元,单芯片成本约为15,625美元,相较于英伟达H100的30,678美元售价,展现了显著的价格优势。然而,面对可能具备更强性能的英伟达Blackwell架构GPU(如B100/B200),英特尔能否持续保持其竞争优势,仍需市场进一步验证。

英特尔执行副总裁Justin Hotard表示:“AI需求的激增正驱动数据中心领域的深刻变革,行业迫切需要更多元化的硬件、软件及开发工具选择。通过推出搭载P核与Gaudi3 AI加速器的Xeon 6,英特尔正积极构建一个开放的生态系统,助力客户以更高的性能、效率和安全性应对各种工作负载。”

目前,Gaudi3 AI加速器已通过IBM Cloud及英特尔Tiber开发者云平台提供服务,并计划于今年第四季度通过戴尔、慧与(HPE)和Supermicro等合作伙伴全面上市,其中戴尔和Supermicro的部分系统将于10月开始出货,而Supermicro的设备则将于12月抵达市场。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英特尔
    +关注

    关注

    60

    文章

    9874

    浏览量

    171356
  • 加速器
    +关注

    关注

    2

    文章

    791

    浏览量

    37710
  • AI
    AI
    +关注

    关注

    87

    文章

    29925

    浏览量

    268217
收藏 人收藏

    评论

    相关推荐

    Inflection AI转向英特尔Gaudi 3,放弃英伟达GPU

    近日,人工智能技术公司Inflection AI宣布了一项重要决策,其最新的企业平台将放弃采用英伟达(Nvidia)的GPU,转而选择英特尔Gaudi 3
    的头像 发表于 10-10 17:21 428次阅读

    Inflection AI携手英特尔推出企业级AI系统

    近日,AI初创企业Inflection AI英特尔联合宣布了一项重大合作——推出基于英特尔Gaudi
    的头像 发表于 10-09 16:40 370次阅读

    RISC-V拥有巨大市场潜力的原因

    AI技术深度融合,例如Meta基于RISC-V架构推出AI推理加速器,高通与谷歌合作推出基于RISC-V架构的智能穿戴芯片等。 3、多元化应用:RISC-V正在
    发表于 09-30 14:20

    IBM Cloud将部署英特尔Gaudi 3 AI芯片

    近日,科技巨头IBM与英特尔宣布了一项重大合作计划,双方将共同在IBM Cloud平台上部署英特尔最新的Gaudi 3 AI芯片,预计该服务
    的头像 发表于 09-03 15:52 345次阅读

    从运动员到开发者: 英特尔以开放式AI系统应对多重挑战

    打造的生成式AI(GenAI)检索增强生成(RAG)解决方案。该成果深度展示了英特尔如何通过基于英特尔®至强®处理英特尔® 
    的头像 发表于 07-25 09:28 246次阅读
    从运动员到开发者: <b class='flag-5'>英特尔</b>以开放式<b class='flag-5'>AI</b>系统应对多重<b class='flag-5'>挑战</b>

    英特尔发布新一代Lunar Lake处理

    在近期举办的中国台北国际电脑展(Computex)上,英特尔CEO盖尔辛格向全球展示了其最新的技术成果。他发布了第六代至强处理,并重点强调了Gaudi
    的头像 发表于 06-05 11:23 867次阅读

    英特尔确认Ponte Vecchio GPU将以云服务形式推出

    英特尔在公告中强调,随着AI技术需求的不断增加,公司重点利用Gaudi AI加速器的性能优势及有
    的头像 发表于 05-18 17:14 1014次阅读

    英特尔拟推出中国市场“特供版芯片”Gaudi 3

    英特尔计划在中国市场推出“特供版”Gaudi 3 AI芯片,这一决策主要是基于美国对于AI芯片的
    的头像 发表于 04-16 14:48 523次阅读

    英特尔公布Gaudi 3 AI加速器中国特供版计划

    这两款专供版加速卡,分别被命名为HL-328和HL-388,它们代表了英特尔AI加速领域的最新技术成果。
    的头像 发表于 04-15 15:19 685次阅读

    Intel Vision 2024大会: 英特尔发布全新软硬件平台,全速助力企业推进AI创新

    的下一代英特尔®至强®6处理的全新品牌。 •推出英特尔®Gaudi 3 AI
    的头像 发表于 04-12 14:52 482次阅读
    Intel Vision 2024大会: <b class='flag-5'>英特尔</b><b class='flag-5'>发布</b>全新软硬件平台,全速助力企业推进<b class='flag-5'>AI</b>创新

    英特尔的最强AI芯片要来了,声称性能完胜英伟达H100

    美国东部时间4月9日凌晨,英特尔发布了其最新的人工智能芯片Gaudi3,预计将在第三季度大范围上市。 在当天举办的Intel Vision 2024大会上,英特尔CEO帕特·基辛格(P
    的头像 发表于 04-11 23:36 415次阅读

    英特尔进军AI芯片市场:推出Gaudi 3 AI加速卡与Xeon 6处理

    Gaudi 3作为英特尔AI领域的最新力作,旨在与英伟达等市场领导者展开竞争。据英特尔透露,这
    的头像 发表于 04-10 15:37 753次阅读

    英特尔专家为您揭秘第五代英特尔® 至强® 可扩展处理如何为AI加速

    近日,英特尔发布了第五代至强 可扩展处理,尤其是其“为 AI 加速”的口号引起了广泛关注。 在 AI
    的头像 发表于 12-23 12:20 699次阅读

    英特尔:让我们一起消灭CUDA

    基尔辛格认为:"由于推理的发生,一旦你训练了模型......就不会依赖CUDA。"关键在于,你能否很好地运行该模型?他表示,英特尔将利用今日首次在舞台上展示的 Gaudi3 迎接挑战,并利用至强和边缘PC实现这一目标
    的头像 发表于 12-15 17:12 963次阅读

    英特尔Gaudi 3系列AI加速器明年上市

    英特尔总裁帕特·基辛格(Pat Gelsinger)认为,鉴于英特尔Gaudi3具备的持续加强的性能优势和极具竞争性的TCO及定价机制,预测该产品有望在2024年凭借领先的
    的头像 发表于 12-15 11:07 759次阅读