0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

ChatGPT对GPU算力的需求测算与分析

智能计算芯世界 来源:智能计算芯世界 2023-02-21 09:43 次阅读

GPGPU的核心壁垒是高精度浮点计算及CUDA生态。从高精度浮点计算能力来看,国内GPU产品与国外产品的计算性能仍或有一代以上差距;在软件和生态层面与英伟达CUDA生态的差距则更为明显。

AI计算GPU领域,国内壁仞科技发布的BR100产品在FP32单精度计算性能上实现超越NVIDIA A100芯片,但是不支持FP64双精度计算;天数智芯推出的天垓100的FP32单精度计算性能实现超越A100芯片,但是在INT8整数计算性能方面却低于A100;海光推出的DCU实现了FP64双精度浮点计算,但是其性能为A100的60%左右,大概相当于其4年前水平。因此,从高精度浮点计算能力来看,国内GPU产品与国外产品的计算性能仍或有一代以上差距。

虽然目前国内产品的计算性能和软件生态实力与国际厂商还有差距,但是,国内厂商依然在奋起直追,努力实现GPGPU的国产化突破。长久来看,美国对中国高端GPU的禁售令反而给国产GPGPU和AI芯片厂商带来快速发展的机会。

短期来看,我们认为对高端通用计算GPU的禁令可能会影响英伟达和AMD的GPU产品在中国的销售,中国AI计算、超级计算和云计算产业进步受到一定的阻碍。可使用英伟达和AMD还没有被禁止的及国产厂商的中高计算性能CPU、GPU、ASIC芯片等替代。

长期来看,国产CPU、GPU、AI芯片厂商受益于庞大的国内市场,叠加国内信创市场带来国产化需求增量,我们预期国内AI芯片的国产化比例将显著提升,借此机会进行产品升级,逐渐达到国际先进水平,突破封锁。

252d9224-b179-11ed-bfe3-dac502259ad0.png

25601a32-b179-11ed-bfe3-dac502259ad0.png

25c4ce14-b179-11ed-bfe3-dac502259ad0.png

26200658-b179-11ed-bfe3-dac502259ad0.png

26702eee-b179-11ed-bfe3-dac502259ad0.png

269a6c2c-b179-11ed-bfe3-dac502259ad0.png

26e77c10-b179-11ed-bfe3-dac502259ad0.png

2734b1e2-b179-11ed-bfe3-dac502259ad0.png

27a7ff58-b179-11ed-bfe3-dac502259ad0.png

2818d76e-b179-11ed-bfe3-dac502259ad0.png

2871b690-b179-11ed-bfe3-dac502259ad0.png

28bdec54-b179-11ed-bfe3-dac502259ad0.png

2904abf8-b179-11ed-bfe3-dac502259ad0.png

292f6e1a-b179-11ed-bfe3-dac502259ad0.png

29829590-b179-11ed-bfe3-dac502259ad0.png

29baab24-b179-11ed-bfe3-dac502259ad0.png

29f2e7b4-b179-11ed-bfe3-dac502259ad0.png

2a2451f0-b179-11ed-bfe3-dac502259ad0.png

2a734e4a-b179-11ed-bfe3-dac502259ad0.png

2aaf76d6-b179-11ed-bfe3-dac502259ad0.png

2af9dece-b179-11ed-bfe3-dac502259ad0.png

2b16e636-b179-11ed-bfe3-dac502259ad0.png

2b695d94-b179-11ed-bfe3-dac502259ad0.png

2ba82718-b179-11ed-bfe3-dac502259ad0.png

2bdfcee8-b179-11ed-bfe3-dac502259ad0.png

2c1b7f56-b179-11ed-bfe3-dac502259ad0.png

2c82d1ba-b179-11ed-bfe3-dac502259ad0.png

2cc716fe-b179-11ed-bfe3-dac502259ad0.png

2d2c8066-b179-11ed-bfe3-dac502259ad0.png

2d710cb8-b179-11ed-bfe3-dac502259ad0.png

2db79ebc-b179-11ed-bfe3-dac502259ad0.png

2df3a6e6-b179-11ed-bfe3-dac502259ad0.png

本文选自“ChatGPT对GPU算力的需求测算与相关分析”,以上为部分内容,完整报告请参看原文。

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    455

    文章

    50771

    浏览量

    423412
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4735

    浏览量

    128919
  • ChatGPT
    +关注

    关注

    29

    文章

    1560

    浏览量

    7625

原文标题:ChatGPT对GPU算力的需求测算与分析

文章出处:【微信号:AI_Architect,微信公众号:智能计算芯世界】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    未来边缘GPU在车联网中的创新应用(下)

    本文来源:壹灵海科技随着5G通信技术的普及和人工智能技术的飞速发展,边缘GPU将在车联网领域发挥更加重要的作用。5G网络的高带宽和低延迟特性为车联网提供了强大的支持,使得车辆能够实时地交换大量
    的头像 发表于 12-19 11:16 144次阅读
    未来边缘<b class='flag-5'>GPU</b><b class='flag-5'>算</b><b class='flag-5'>力</b>在车联网中的创新应用(下)

    一文梳理:如何构建并优化GPU中心?

    目前最常见的AI中心部署的GPU集群大小为 2048、1024、512 和 256,且部署成本随 GPU 数量线性增长。本文将以相对折中的1024
    的头像 发表于 11-15 11:59 331次阅读
    一文梳理:如何构建并优化<b class='flag-5'>GPU</b>云<b class='flag-5'>算</b><b class='flag-5'>力</b>中心?

    【「芯片 | 高性能 CPU/GPU/NPU 微架构分析」阅读体验】--了解芯片GPU

    着色器(Pixel shader)是图形流水线中相当强大的功能单元,因为它可以为每个片段执行复杂的计算,从而为最终渲染的图像添加细节和视觉效果。 DirectX API推动 GPU 演进
    发表于 11-03 12:55

    GPU开发平台是什么

    随着AI技术的广泛应用,需求呈现出爆发式增长。AI租赁作为一种新兴的服务模式,正逐渐成为企业获取
    的头像 发表于 10-31 10:31 175次阅读

    【一文看懂】大白话解释“GPUGPU

    随着大模型的兴起,“GPU”这个词正频繁出现在人工智能、游戏、图形设计等工作场景中,什么是GPU,它与CPU的区别是什么?以及到底什么是GPU
    的头像 发表于 10-29 08:05 604次阅读
    【一文看懂】大白话解释“<b class='flag-5'>GPU</b>与<b class='flag-5'>GPU</b><b class='flag-5'>算</b><b class='flag-5'>力</b>”

    GPU租用平台怎么样

    GPU租用平台以其成本效益、灵活性与可扩展性、简化运维以及即时访问等优势,在深度学习、科学计算、图形渲染等多个领域发挥着重要作用。
    的头像 发表于 10-17 10:03 205次阅读

    GPU租用平台是什么

    GPU租用平台是一种基于云计算的服务模式,它允许用户通过互联网按需租用高性能GPU资源,而无需自行购买、部署和维护这些硬件。
    的头像 发表于 10-16 10:15 218次阅读

    【「芯片 | 高性能 CPU/GPU/NPU 微架构分析」阅读体验】--全书概览

    GPU、NPU,给我们剖析了芯片的微架构。书中有对芯片方案商处理器的讲解,理论联系实际,使读者能更好理解芯片。 全书共11章,
    发表于 10-15 22:08

    名单公布!【书籍评测活动NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架构分析

    更高、更密集的应用需求。 12年前,我与本书作者相识时,他向我提出一个想法:建立中关村在线高性能计算频道。该频道隶属于核心硬件事业部,聚焦芯片相关的产品技术分析、评测,并为企业客户
    发表于 09-02 10:09

    大模型时代的需求

    现在AI已进入大模型时代,各企业都争相部署大模型,但如何保证大模型的,以及相关的稳定性和性能,是一个极为重要的问题,带着这个极为重要的问题,我需要在此书中找到答案。
    发表于 08-20 09:04

    服务器为什么选择GPU

    随着人工智能技术的快速普及,需求日益增长。智中心的服务器作为支撑大规模数据处理和计算的核心设备,其性能优化显得尤为关键。而GPU服务器
    的头像 发表于 07-25 08:28 620次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>服务器为什么选择<b class='flag-5'>GPU</b>

    液冷是大模型对需求的必然选择?|英伟达 GTC 2024六大亮点

    在这个以高性能计算和大模型推动未来通用人工智能时代,已成为科技发展的隐形支柱。本文将重点探讨的演进,深入分析在不同领域中
    的头像 发表于 04-10 12:57 591次阅读
    液冷是大模型对<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>需求</b>的必然选择?|英伟达 GTC 2024六大亮点

    Sora需求引发业界对集结国内AI企业的探讨

    据周鸿祎观察,Sora视频分析所需恐远超千亿规模模型。因而,考虑到如今国内芯片供应受限,问题至关重要。事实上,Meta已有约50万台
    的头像 发表于 02-25 10:03 583次阅读

    深入分析评估GPU需求

    长期来看,国产CPU、GPU、AI芯片厂商受益于庞大的国内市场,叠加国内信创市场带来国产化需求增量,我们预期国内AI芯片的国产化比例将显著提升,借此机会进行产品升级,逐渐达到国际先进水平,突破封锁。
    发表于 01-17 11:45 847次阅读
    深入<b class='flag-5'>分析</b>评估<b class='flag-5'>GPU</b><b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>需求</b>

    芯科技,解密ChatGPT畅聊之芯片

    GPU服务器,尤其是英伟达的A100 GPU,提供了强大而精确的计算能力。ChatGPT的功能远超日常对话,它能够学习、理解并生成人类般的文本,是人工智能领域的一个重要突破。但其真正力量的源泉,是背后那些不断工作的
    的头像 发表于 12-27 07:45 1024次阅读
    芯科技,解密<b class='flag-5'>ChatGPT</b>畅聊之<b class='flag-5'>算</b><b class='flag-5'>力</b>芯片