0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

走进芯时代:AI算力GPU行业深度报告

智能计算芯世界 来源:智能计算芯世界 2023-04-06 09:56 次阅读

虽然Al芯片目前看有SPU、ASICCPU、FPSA等几大类,但是基于几点原因我们判断GPU仍将是训练模型的主流硬件

1、Transformer架构是最近几年的主流,该架构最大的特点之一就是能够利用分布式BPU进行并行训练,提升模型训练效率;

2、ASIC的算力与功耗虽然看似有优势,但考虑到AI算法还是处于一个不断发展演进的过程,用专用芯片部署会面临着未来算法更迭导致芯片不适配的巨大风险;

3、英伟达强大的芯片支撑、生态、算法开源支持。

模型小型化技术逐步成熟,从训练走向推理。云、边、端全维度发展。

1、GPU方面, 在英
伟达的推动下,其从最初的显卡发展到如今的高性能并行计算,海外大厂已经具备了超过20年的技术、资本、生态、人才等储备,形成了大量的核心技术专利,而且也能充分享有全球半导体产业链的支撑,这都或是目前国内厂商所缺失的。近几年在资本的推动下,国内涌现出数十家GPU厂商,各自或都具备一定的发展基础,但整体经营时间较短,无论从技术积淀、产品料号布局、高端料号件能夹说,与国外大厂仍具备较大差距。但国产化势在必行,国内相关产业链重点环节也积极对上游芯片原厂进行扶持,国产算力芯片需要不断迭代以实现性能的向上提升,后续持续关注相关厂商料号升级、生态建设和客户突破:

2、 Al在端侧设备应用普及是大势所趋,目前,知识蒸馏、剪枝、量化等模型小型化技术在逐步成熟,Al在云、边、端全方位发展的时代已至。除了更加广泛的应用带来需求量的提升外,更复杂算法带来更大算力的需求也将从另一个维度推动市场扩容;

3、数据的高吞吐量需要大带宽的传输支持,光通信技术作为算力产业发展的支撑底座,具备长期投资价值;

4、 Chiplet技术可以突破单一芯片的性能和良率等瓶颈,降低芯片设计的复杂度和成本。

60367e68-d40f-11ed-bfe3-dac502259ad0.png

6059f474-d40f-11ed-bfe3-dac502259ad0.png

608497d8-d40f-11ed-bfe3-dac502259ad0.png

60ac5020-d40f-11ed-bfe3-dac502259ad0.png

60d0deb8-d40f-11ed-bfe3-dac502259ad0.png

60ff8b64-d40f-11ed-bfe3-dac502259ad0.png

6112fa1e-d40f-11ed-bfe3-dac502259ad0.png

6174e4e0-d40f-11ed-bfe3-dac502259ad0.png

61a83bce-d40f-11ed-bfe3-dac502259ad0.png

61d44250-d40f-11ed-bfe3-dac502259ad0.png

62297310-d40f-11ed-bfe3-dac502259ad0.png

6251b6c2-d40f-11ed-bfe3-dac502259ad0.png

629234e0-d40f-11ed-bfe3-dac502259ad0.png

62e0ea36-d40f-11ed-bfe3-dac502259ad0.png

631b6a94-d40f-11ed-bfe3-dac502259ad0.png

6351eace-d40f-11ed-bfe3-dac502259ad0.png

63812398-d40f-11ed-bfe3-dac502259ad0.png

63ba9182-d40f-11ed-bfe3-dac502259ad0.png

63f23fce-d40f-11ed-bfe3-dac502259ad0.png

64312c48-d40f-11ed-bfe3-dac502259ad0.png

6460cdea-d40f-11ed-bfe3-dac502259ad0.png

64868990-d40f-11ed-bfe3-dac502259ad0.png

64c3f0b4-d40f-11ed-bfe3-dac502259ad0.png

6543a9ee-d40f-11ed-bfe3-dac502259ad0.png

658e697a-d40f-11ed-bfe3-dac502259ad0.png

65affaa4-d40f-11ed-bfe3-dac502259ad0.png

65d45bba-d40f-11ed-bfe3-dac502259ad0.png

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    27

    文章

    4508

    浏览量

    127531
  • AI
    AI
    +关注

    关注

    87

    文章

    27470

    浏览量

    265134
  • 算力
    +关注

    关注

    1

    文章

    729

    浏览量

    14453

原文标题:走进芯时代:AI算力GPU行业深度报告

文章出处:【微信号:AI_Architect,微信公众号:智能计算芯世界】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    新手小白怎么学GPU云服务器跑深度学习?

    新手小白想用GPU云服务器跑深度学习应该怎么做? 用个人主机通常pytorch可以跑但是LexNet,AlexNet可能就直接就跑不动,如何实现更经济便捷的实现GPU云服务器深度学习?
    发表于 06-11 17:09

    为什么跑AI往往用GPU而不是CPU?

    今天,人工智能(AI)已经在各个领域遍地开花,无论身处哪个行业,使用AI来帮助获取业务洞察,并建立竞争优势,已经非常常见。不过一个有趣的现象是,在用户采购AI基础设施时,几乎所有厂商都
    的头像 发表于 04-24 08:27 922次阅读
    为什么跑<b class='flag-5'>AI</b>往往用<b class='flag-5'>GPU</b>而不是CPU?

    宁畅发布“全局智”,大模型百花齐放时代,为AI计算开启新篇

    AI行业
    脑极体
    发布于 :2024年04月02日 21:22:36

    FPGA在深度学习应用中或将取代GPU

    现场可编程门阵列 (FPGA) 解决了 GPU 在运行深度学习模型时面临的许多问题 在过去的十年里,人工智能的再一次兴起使显卡行业受益匪浅。英伟达 (Nvidia) 和 AMD 等公司的股价也大幅
    发表于 03-21 15:19

    计算机行业深度报告

    电子发烧友网站提供《计算机行业深度报告.pdf》资料免费下载
    发表于 03-04 10:07 0次下载

    大茉莉X16-P,5800M大称王称霸

    Rykj365
    发布于 :2024年01月25日 14:54:52

    立足算力,聚焦AI!顺网科技全面走进AI智算时代

    “立足算力,聚焦AI”,顺网科技进军AI智算时代的号角已被吹响。 1月18日,顺网科技(300113.SZ)以“跃迁·向未来”为主题的战略升级暨产品升级发布会在杭州圆满召开。发布会上,顺网科技公布
    的头像 发表于 01-19 10:57 267次阅读
    立足算力,聚焦<b class='flag-5'>AI</b>!顺网科技全面<b class='flag-5'>走进</b><b class='flag-5'>AI</b>智算<b class='flag-5'>时代</b>

    GPU深度学习中的应用与优势

    人工智能的飞速发展,深度学习作为其重要分支,正在推动着诸多领域的创新。在这个过程中,GPU扮演着不可或缺的角色。就像超级英雄电影中的主角一样,GPU深度学习中拥有举足轻重的地位。那么
    的头像 发表于 12-06 08:27 923次阅读
    <b class='flag-5'>GPU</b>在<b class='flag-5'>深度</b>学习中的应用与优势

    【爱派 Pro 开发板试用体验】开箱测试

    感谢电子爱好者和爱元智公司提供的测试机会。 爱派 Pro (AXera-Pi Pro)搭载爱元智第三代高、高能效比智能视觉芯片 A
    发表于 11-20 22:09

    【爱派 Pro 开发板试用体验】篇一:开箱篇

    派 Pro (AXera-Pi Pro)M4N Dock 是一款集成了高、高能效 AI SOC 的开发板。它采用了爱 AX650N
    发表于 11-15 11:32

    【爱派 Pro 开发板试用体验】+开箱初次体验

    AX650N,内置 AI 43.2TOPS@INT4 或 10.8TOPS@INT8,可运行当前热门大模型。    内置ISP支持 8K@30fps,另有爱独家
    发表于 11-12 10:58

    FPGA和CPU、GPU有什么区别?为什么越来越重要?

    某些场景的专用性。 图2:2010年兴起以来,AI模型对的要求呈现爆发式增长,速度远超摩尔定律 通用计算时代终结,数据中心走向加速器
    发表于 11-09 14:09

    英码科技精彩亮相火爆的IOTE 2023,多面赋能AIoT产业发展!

    产品,包括覆盖多层次的智能工作站(边缘计算盒子)、AI加速卡等;同时向大家展示自研的AI技术服务——“深元”0代码移植工具链和创新性的行业
    发表于 09-25 10:03

    阿里平头哥发布首个 RISC-V AI 软硬全栈平台

    平台通过软硬件深度协同,较经典方案提升超 8 成性能,支持运行 170 余个主流 AI 模型,推动 RISC-V 进入高性能 AI 应用时代。 平头哥表示,他们通过更新自研一站式
    发表于 08-26 14:14

    Ai 部署的临界考虑电子指南

    虽然GPU解决方案对训练,AI部署需要更多。 预计到2020年代中期,人工智能行业将增长到200亿美元,其中大部分增长是人工智能推理。英特尔Xeon可扩展处理器约占运行AI推理的处理器
    发表于 08-04 07:25