据外电报道,美国ai芯片初创企业d-matrix最近宣布,将推出jayhawk ii芯片,用于其独创的数字memory computing引擎,通过chiplet结构进行生成宏观推理。
公司方面表示,该引擎的内存带宽比nvidia的h100a100等高端的gpu大40倍。此外,d-matrix还主张,jayhawk ii对30亿至400亿大型语言模型(llm)的每秒生成推理能力增加10至20倍。公司方面表示,与gpu解决方案相比,生成推理的总拥有费用从10倍减少了20倍。
在物理设计方面,该芯片由6纳米工程制成,核心之间通过bow接口实现相互连接,支持各种精度的浮点数据型。
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。
举报投诉
-
芯片
+关注
关注
463文章
54422浏览量
469241 -
NVIDIA
+关注
关注
14文章
5687浏览量
110113 -
语言模型
+关注
关注
0文章
575浏览量
11343 -
chiplet
+关注
关注
6文章
499浏览量
13646
发布评论请先 登录
相关推荐
热点推荐
AI爆款应用驱动需求增长,英伟达H100租赁费用飙升40%
电子发烧友网综合报道 近期,半导体研究机构SemiAnalysis发布的“H100一年期租赁合约价格指数”显示,英伟达四年前发布的H100芯片
2025年曙光数创全栈液冷技术重塑算力边界
2025年,全球算力需求的高速增长与绿色低碳的双重挑战,将液冷技术推至舞台中央。曙光数创紧抓战略机遇,不仅在国内市场份额保持领先地位,更以全
英伟达 Q3 狂揽 308 亿
厂商季度合计 500 亿美元资本支出中,约 30% 流向了英伟达。 新一代 Blackwell 芯片已全面投产,Q3 交付 1.3 万个 GPU 样品,H200 GPU 理论
英伟达 H100 GPU 掉卡?做好这五点,让算力稳如泰山!
H100服务器停工一天损失的算力成本可能比维修费还高。今天,我们给大家总结一套“防掉卡秘籍”,从日常管理到环境把控,手把手教你把掉卡风险压到最低。一、供电是“生命线”,这3点必须盯紧H100
英伟达最新B30A芯片曝光:算力角逐中的新变数
在全球AI芯片市场风云变幻之际,英伟达再次成为焦点。据路透社8月19日报道,两位知情人士透露,英伟达正在为中国市场开发一款基于其最新Blac
英伟达被传暂停生产H20芯片 外交部回应
韩国三星电子、美国安靠科技、富士康等关键零部件供应商。 据悉,美国安靠科技(Amkor)负责H20芯片的封装,而三星电子负责提供高带宽的内存芯片。 业界人士分析称,一方面
【「算力芯片 | 高性能 CPU/GPU/NPU 微架构分析」阅读体验】+NVlink技术从应用到原理
前言
【「算力芯片 | 高性能 CPU/GPU/NPU 微架构分析」书中的芯片知识是比较接近当前的顶尖芯
发表于 06-18 19:31
今日看点丨英伟达将为中国市场推出新AI芯片 售价大幅低于H20;中科曙光与海光信息宣布战略重组
1. 英伟达将为中国市场推出新AI 芯片 售价大幅低于H20 近日,外媒报道称,美国
发表于 05-26 11:06
•1699次阅读
创企推Chiplet结构大算力芯片,称性能大幅领先英伟达H100
评论