0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

走进芯时代:AI算力GPU行业深度报告

智能计算芯世界 来源:智能计算芯世界 2023-04-06 09:56 次阅读

虽然Al芯片目前看有SPU、ASICCPU、FPSA等几大类,但是基于几点原因我们判断GPU仍将是训练模型的主流硬件:

1、Transformer架构是最近几年的主流,该架构最大的特点之一就是能够利用分布式BPU进行并行训练,提升模型训练效率;

2、ASIC的算力与功耗虽然看似有优势,但考虑到AI算法还是处于一个不断发展演进的过程,用专用芯片部署会面临着未来算法更迭导致芯片不适配的巨大风险;

3、英伟达强大的芯片支撑、生态、算法开源支持。

模型小型化技术逐步成熟,从训练走向推理。云、边、端全维度发展。

1、GPU方面, 在英
伟达的推动下,其从最初的显卡发展到如今的高性能并行计算,海外大厂已经具备了超过20年的技术、资本、生态、人才等储备,形成了大量的核心技术专利,而且也能充分享有全球半导体产业链的支撑,这都或是目前国内厂商所缺失的。近几年在资本的推动下,国内涌现出数十家GPU厂商,各自或都具备一定的发展基础,但整体经营时间较短,无论从技术积淀、产品料号布局、高端料号件能夹说,与国外大厂仍具备较大差距。但国产化势在必行,国内相关产业链重点环节也积极对上游芯片原厂进行扶持,国产算力芯片需要不断迭代以实现性能的向上提升,后续持续关注相关厂商料号升级、生态建设和客户突破:

2、 Al在端侧设备应用普及是大势所趋,目前,知识蒸馏、剪枝、量化等模型小型化技术在逐步成熟,Al在云、边、端全方位发展的时代已至。除了更加广泛的应用带来需求量的提升外,更复杂算法带来更大算力的需求也将从另一个维度推动市场扩容;

3、数据的高吞吐量需要大带宽的传输支持,光通信技术作为算力产业发展的支撑底座,具备长期投资价值;

4、 Chiplet技术可以突破单一芯片的性能和良率等瓶颈,降低芯片设计的复杂度和成本。

60367e68-d40f-11ed-bfe3-dac502259ad0.png

6059f474-d40f-11ed-bfe3-dac502259ad0.png

608497d8-d40f-11ed-bfe3-dac502259ad0.png

60ac5020-d40f-11ed-bfe3-dac502259ad0.png

60d0deb8-d40f-11ed-bfe3-dac502259ad0.png

60ff8b64-d40f-11ed-bfe3-dac502259ad0.png

6112fa1e-d40f-11ed-bfe3-dac502259ad0.png

6174e4e0-d40f-11ed-bfe3-dac502259ad0.png

61a83bce-d40f-11ed-bfe3-dac502259ad0.png

61d44250-d40f-11ed-bfe3-dac502259ad0.png

62297310-d40f-11ed-bfe3-dac502259ad0.png

6251b6c2-d40f-11ed-bfe3-dac502259ad0.png

629234e0-d40f-11ed-bfe3-dac502259ad0.png

62e0ea36-d40f-11ed-bfe3-dac502259ad0.png

631b6a94-d40f-11ed-bfe3-dac502259ad0.png

6351eace-d40f-11ed-bfe3-dac502259ad0.png

63812398-d40f-11ed-bfe3-dac502259ad0.png

63ba9182-d40f-11ed-bfe3-dac502259ad0.png

63f23fce-d40f-11ed-bfe3-dac502259ad0.png

64312c48-d40f-11ed-bfe3-dac502259ad0.png

6460cdea-d40f-11ed-bfe3-dac502259ad0.png

64868990-d40f-11ed-bfe3-dac502259ad0.png

64c3f0b4-d40f-11ed-bfe3-dac502259ad0.png

6543a9ee-d40f-11ed-bfe3-dac502259ad0.png

658e697a-d40f-11ed-bfe3-dac502259ad0.png

65affaa4-d40f-11ed-bfe3-dac502259ad0.png

65d45bba-d40f-11ed-bfe3-dac502259ad0.png

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4740

    浏览量

    128948
  • AI
    AI
    +关注

    关注

    87

    文章

    30896

    浏览量

    269087
  • 算力
    +关注

    关注

    1

    文章

    977

    浏览量

    14810

原文标题:走进芯时代:AI算力GPU行业深度报告

文章出处:【微信号:AI_Architect,微信公众号:智能计算芯世界】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    AIGPU开始腾飞,背后是电源管理的持续支持

    AI PC元年。   不仅是AI PC,还包括AI服务器、AI手机、AI汽车等,众多AI实际应
    的头像 发表于 03-30 00:12 4551次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>GPU</b>开始腾飞,背后是电源管理的持续支持

    芯片 高性能 CPUGPUNPU 微架构分析》第3篇阅读心得:GPU革命:从图形引擎到AI加速器的蜕变

    在数据挖掘工作中,我经常需要处理海量数据的深度学习任务,这让我对GPU架构和张量运算充满好奇。阅读《芯片》第7-9章,让我对这些关键技术有了全新认识。
    发表于 11-24 17:12

    企业AI租赁是什么

    企业AI租赁是指企业通过互联网向专业的提供商租用所需的计算资源,以满足其AI应用的需求。
    的头像 发表于 11-14 09:30 593次阅读

    GPU开发平台是什么

    随着AI技术的广泛应用,需求呈现出爆发式增长。AI租赁作为一种新兴的服务模式,正逐渐成为
    的头像 发表于 10-31 10:31 184次阅读

    【一文看懂】大白话解释“GPUGPU

    随着大模型的兴起,“GPU”这个词正频繁出现在人工智能、游戏、图形设计等工作场景中,什么是GPU,它与CPU的区别是什么?以及到底什么是GPU
    的头像 发表于 10-29 08:05 626次阅读
    【一文看懂】大白话解释“<b class='flag-5'>GPU</b>与<b class='flag-5'>GPU</b><b class='flag-5'>算</b><b class='flag-5'>力</b>”

    GPU租用平台怎么样

    GPU租用平台以其成本效益、灵活性与可扩展性、简化运维以及即时访问等优势,在深度学习、科学计算、图形渲染等多个领域发挥着重要作用。
    的头像 发表于 10-17 10:03 211次阅读

    GPU租用平台是什么

    GPU租用平台是一种基于云计算的服务模式,它允许用户通过互联网按需租用高性能GPU资源,而无需自行购买、部署和维护这些硬件。
    的头像 发表于 10-16 10:15 231次阅读

    【「芯片 | 高性能 CPU/GPU/NPU 微架构分析」阅读体验】--全书概览

    GPU、NPU,给我们剖析了芯片的微架构。书中有对芯片方案商处理器的讲解,理论联系实际,使读者能更好理解芯片。 全书共11章,
    发表于 10-15 22:08

    【「大模型时代的基础架构」阅读体验】+ 未知领域的感受

    国庆前就收到《大模型时代的基础架构》一书,感谢电子发烧友论坛。欢度国庆之余,今天才静下心来体验此书,书不厚,200余页,彩色图例,印刷精美! 当初申请此书,主要是看到副标题“大模型中心建设指南
    发表于 10-08 10:40

    名单公布!【书籍评测活动NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架构分析

    试用评测资格! 前言 不知不觉中,我们来到一个计算机科学飞速发展的时代,手机和计算机中各类便捷的软件已经融入日常生活,在此背景下,硬件特别是强劲的芯片,对于软件服务起到不可替代的支撑作用。芯片的
    发表于 09-02 10:09

    大模型时代需求

    现在AI已进入大模型时代,各企业都争相部署大模型,但如何保证大模型的,以及相关的稳定性和性能,是一个极为重要的问题,带着这个极为重要的问题,我需要在此书中找到答案。
    发表于 08-20 09:04

    名单公布!【书籍评测活动NO.41】大模型时代的基础架构:大模型中心建设指南

    基于TOGAF方法论,剖析业界知名案例的设计方案。 全书总计13章。第1章讲解AI与大模型时代对基础架构的需求;第2章讲解软件程序与专用硬件的结合,涉及GPU并行运算库、机器学习程序的开发框架和分布式
    发表于 08-16 18:33

    安谋科技异构组合,破局生成式AI挑战

    ,“此P1”不仅异构集成了Armv9 CPU核心与Arm Immortalis GPU,还搭载了安谋科技(中国)有限公司(以下简称“安谋科技”)“周易”NPU等自研业务产品。凭借高能效的异构
    的头像 发表于 08-13 09:12 570次阅读

    一图看懂星河AI数据中心网络,全面释放AI时代

    华为中国合作伙伴大会 | 一图看懂星河AI数据中心网络,以网强,全面释放AI时代
    的头像 发表于 03-22 10:28 759次阅读
    一图看懂星河<b class='flag-5'>AI</b>数据中心网络,全面释放<b class='flag-5'>AI</b><b class='flag-5'>时代</b><b class='flag-5'>算</b><b class='flag-5'>力</b>

    立足,聚焦AI!顺网科技全面走进AI时代

    “立足,聚焦AI”,顺网科技进军AI时代的号角已被吹响。 1月18日,顺网科技(3001
    的头像 发表于 01-19 10:57 461次阅读
    立足<b class='flag-5'>算</b><b class='flag-5'>力</b>,聚焦<b class='flag-5'>AI</b>!顺网科技全面<b class='flag-5'>走进</b><b class='flag-5'>AI</b>智<b class='flag-5'>算</b><b class='flag-5'>时代</b>