0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

创企推Chiplet结构大算力芯片,称性能大幅领先英伟达H100

微云疏影 来源:综合整理 作者:综合整理 2023-09-05 14:24 次阅读

据外电报道,美国ai芯片初创企业d-matrix最近宣布,将推出jayhawk ii芯片,用于其独创的数字memory computing引擎,通过chiplet结构进行生成宏观推理。

公司方面表示,该引擎的内存带宽比nvidia的h100a100等高端的gpu大40倍。此外,d-matrix还主张,jayhawk ii对30亿至400亿大型语言模型(llm)的每秒生成推理能力增加10至20倍。公司方面表示,与gpu解决方案相比,生成推理的总拥有费用从10倍减少了20倍。

在物理设计方面,该芯片由6纳米工程制成,核心之间通过bow接口实现相互连接,支持各种精度的浮点数据型。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    452

    文章

    50117

    浏览量

    420315
  • NVIDIA
    +关注

    关注

    14

    文章

    4838

    浏览量

    102683
  • 语言模型
    +关注

    关注

    0

    文章

    496

    浏览量

    10232
  • chiplet
    +关注

    关注

    6

    文章

    414

    浏览量

    12540
收藏 人收藏

    评论

    相关推荐

    英伟发布新一代H200,搭载HBM3e,推理速度是H100两倍!

    电子发烧友网报道(文/李弯弯)日前,英伟正式宣布,在目前最强AI芯片H100的基础上进行一次大升级,发布新一代H200
    的头像 发表于 11-15 01:15 3350次阅读
    <b class='flag-5'>英伟</b><b class='flag-5'>达</b>发布新一代<b class='flag-5'>H</b>200,搭载HBM3e,推理速度是<b class='flag-5'>H100</b>两倍!

    英伟H100芯片市场降温

    随着英伟新一代AI芯片GB200需求的不断攀升,其上一代明星产品H100芯片却遭遇了市场的冷落。据业内人士透露,搭载
    的头像 发表于 10-28 15:42 186次阅读

    英伟在AI芯片市场还能领先多久?

    7月22日,国际媒体传来消息,英伟在近年来兴起的生成式人工智能浪潮中脱颖而出,其高性能计算芯片H100等广受业界青睐,推动了公司营收与利
    的头像 发表于 07-22 16:18 511次阅读

    英伟H200怎么样

    英伟H200的非常强大。作为新一代AI芯片H
    的头像 发表于 03-07 16:15 1883次阅读

    英伟H200显卡价格

    英伟H200显卡的具体价格尚未公布。根据上一代H100显卡的价格范围,预计H200的单片价格将超过40000美元。由于新
    的头像 发表于 03-07 16:09 3609次阅读

    英伟H200和H100的比较

    英伟H200和H100是两款不同的AI芯片,它们各自具有独特的特点和优势。以下是关于这两款芯片
    的头像 发表于 03-07 15:53 3931次阅读

    英伟缩短AI GPU交付周期,持续推进产业链发展

    与此同时,随着人工智能的迅猛发展及其广泛应用,对像H100和A100这类专为数据中心设计的高性能GPU的需求也大幅增长。而包括Yotta在内的多家公司因此纷纷加大向
    的头像 发表于 02-18 09:36 462次阅读

    AI计算需求激增,英伟H100功耗成挑战

    根据预测,若H100的年利用率保持在61%,那么单台设备每年将耗电3740千瓦小时左右。如果英伟在2023年售出150万块H100,2024年再增加至200万块,那么到2024年底,
    的头像 发表于 12-28 09:29 2094次阅读

    AMD正式发布 MI300X AI 加速器,英伟H100

    争夺剩余的市场而战。然而,MI300X对英伟H100构成了有力的竞争,甚至微软的首席技术官最近都表示,他认为AMD最终在这个市场上将非常有竞争
    的头像 发表于 12-10 11:30 892次阅读
    AMD正式发布 MI300X AI 加速器,<b class='flag-5'>力</b>压<b class='flag-5'>英伟</b><b class='flag-5'>达</b><b class='flag-5'>H100</b>

    英伟推出用于人工智能工作的顶级芯片HGX H200

    备受瞩目的人工智能领域,英伟提到,H200将带来进一步的性能飞跃。在Llama 2(700亿参数的LLM)上的推理速度比H100快了一倍。
    的头像 发表于 11-15 14:34 1403次阅读

    英伟特供版芯片性能降80%!

    报道中提到,英伟的这三款AI芯片并非“改良版”,而是“缩水版”,其分别是HGX H20、L20 PCle和L2 PCle。用于AI模型训练的HGX
    的头像 发表于 11-14 17:09 870次阅读

    英伟推出新款AI芯片H200 性能飙升90%但是估计依然被出口管制

    生成式AI火爆全球之后,英伟的AI芯片一张难求,就在英伟重量级选手H100 AI
    的头像 发表于 11-14 16:45 1441次阅读
    <b class='flag-5'>英伟</b><b class='flag-5'>达</b>推出新款AI<b class='flag-5'>芯片</b><b class='flag-5'>H</b>200 <b class='flag-5'>性能</b>飙升90%但是估计依然被出口管制

    英伟升级版AI芯片H200 亚马逊、Google、甲骨文明年采用

    报告,虽然对被称为“ai加速器芯片”的英伟h100的最新版本的需求很大,但amd表示,将在第四季度推出本公司的竞争产品mi300,而英特
    的头像 发表于 11-14 11:18 810次阅读

    英伟特供版芯片将上市:性能最高不到H100的20%

    本周四,一些媒体首次报道了英伟特供芯片的消息。报道,这三款新产品是在 H100 GPU 的基础版本基础上进行修改的,采用的是最新架构,但
    的头像 发表于 11-13 16:44 889次阅读
    <b class='flag-5'>英伟</b><b class='flag-5'>达</b>特供版<b class='flag-5'>芯片</b>将上市:<b class='flag-5'>性能</b>最高不到<b class='flag-5'>H100</b>的20%

    英伟新AI芯片H20综合算H100降80%

    但据悉,三种新型AI芯片不是“改良型”,而是“缩小型”。用于ai模型教育的hgx h20的带宽和计算速度是有限的。整体计算能力理论上比nvidia的h100 gpu芯片低80%左右。
    的头像 发表于 11-13 09:41 1613次阅读