据外电报道,美国ai芯片初创企业d-matrix最近宣布,将推出jayhawk ii芯片,用于其独创的数字memory computing引擎,通过chiplet结构进行生成宏观推理。
公司方面表示,该引擎的内存带宽比nvidia的h100a100等高端的gpu大40倍。此外,d-matrix还主张,jayhawk ii对30亿至400亿大型语言模型(llm)的每秒生成推理能力增加10至20倍。公司方面表示,与gpu解决方案相比,生成推理的总拥有费用从10倍减少了20倍。
在物理设计方面,该芯片由6纳米工程制成,核心之间通过bow接口实现相互连接,支持各种精度的浮点数据型。
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。
举报投诉
-
芯片
+关注
关注
454文章
50502浏览量
422334 -
NVIDIA
+关注
关注
14文章
4952浏览量
102861 -
语言模型
+关注
关注
0文章
514浏览量
10252 -
chiplet
+关注
关注
6文章
420浏览量
12563
发布评论请先 登录
相关推荐
UCIe规范引领Chiplet技术革新,新思科技发布40G UCIe IP解决方案
随着大型SoC(系统级芯片)的设计复杂度和制造难度不断攀升,芯片行业正面临前所未有的挑战。英伟达公司的Blackwell芯片B200,作为业
英伟达带领芯片股飙升 英伟达大涨4.76%
1.08%,道指涨0.32%。 AI浪潮之下,业界预期正不断加强,在AI算力需求的边际拉动下、叠加消费电子复苏,新一轮终端AI上新,相关行业正迎来具备较强持续性的上行周期;英伟达在生成
英伟达在AI芯片市场还能领先多久?
7月22日,国际媒体传来消息,英伟达在近年来兴起的生成式人工智能浪潮中脱颖而出,其高性能计算芯片如H100等广受业界青睐,推动了公司营收与利
进一步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片
新的标准。Blackwell架构和GB200 超级芯片有望推动英伟达在人工智能领域更进一步,巩固其在高性能计算和人工智能技术领域的领先地位。
发表于 05-13 17:16
英特尔的最强AI芯片要来了,声称性能完胜英伟达H100
增加了近1.5倍。 与竞争对手的正面对标也不落下风。英特尔声称Gaudi3已全面超越英伟达去年发布的H100芯片:运行
英伟达H200带宽狂飙
英伟达H200带宽的显著提升主要得益于其强大的硬件配置和先进的技术创新。H200配备了高达141GB的HBM3e显存,与前代产品H100相比
英伟达:预计下一代AI芯片B100短缺,计划扩产并采用新架构
近期热门的 H100 芯片运期短缩数天后,英伟达新型 AI 旗舰芯片 B100搭载全新的 Bla
英伟达缩短AI GPU交付周期,持续推进算力产业链发展
与此同时,随着人工智能的迅猛发展及其广泛应用,对像H100和A100这类专为数据中心设计的高性能GPU的需求也大幅增长。而包括Yotta在内的多家公司因此纷纷加大向
AI计算需求激增,英伟达H100功耗成挑战
根据预测,若H100的年利用率保持在61%,那么单台设备每年将耗电3740千瓦小时左右。如果英伟达在2023年售出150万块H100,2024年再增加至200万块,那么到2024年底,
AMD正式发布 MI300X AI 加速器,力压英伟达H100
争夺剩余的市场而战。然而,MI300X对英伟达的H100构成了有力的竞争,甚至微软的首席技术官最近都表示,他认为AMD最终在这个市场上将非常有竞争力。
评论