0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

ChatGPT算力:研究框架(2023)

架构师技术联盟 来源:半导体风向标 2023-02-13 16:20 次阅读

ChatGPT热潮席卷全球。在问答模式的基础上ChatGPT可以进行推理、编写代码、文本创作等等,这样的特殊优势和用户体验使得应用场景流量大幅增加,其2023年1月月活跃用户达到1亿,是史上月活用户增长最快的消费者应用。

ChatGPT的“背后英雄”:芯片,国内GPUCPUFPGAAI芯片及光模块产业链蓄势待发。

1)GPU:支撑强大算力需求。由于具备并行计算能力,可兼容训练和推理,目前GPU被广泛应用于加速芯片;

2)CPU:可用于推理/预测。AI服务器利用CPU与加速芯片的组合可以满足高吞吐量互联的需求;

3)FPGA:可通过深度学习+分布集群数据传输赋能大模型。FPGA具备灵活性高、开发周期短、低延时、并行计算等优势;

4)ASIC:极致性能和功耗表现。AI ASIC芯片通常针对AI应用专门设计了特定架构,在功耗、可靠性和集成度上具有优势;

5)光模块:容易被忽略的算力瓶颈。伴随数据传输量的增长,光模块作为数据中心内设备互联的载体,需求量随之增长。

7061a750-aac9-11ed-bfe3-dac502259ad0.png

707b08c6-aac9-11ed-bfe3-dac502259ad0.png

70b411a2-aac9-11ed-bfe3-dac502259ad0.png

70eab7ca-aac9-11ed-bfe3-dac502259ad0.png

70eab7ca-aac9-11ed-bfe3-dac502259ad0.png

70b411a2-aac9-11ed-bfe3-dac502259ad0.png

01

算力需求爆发拉动芯片量价齐升

71942fa8-aac9-11ed-bfe3-dac502259ad0.png

71ab79c4-aac9-11ed-bfe3-dac502259ad0.png

71d8096c-aac9-11ed-bfe3-dac502259ad0.png

71fe7f34-aac9-11ed-bfe3-dac502259ad0.png

725587e8-aac9-11ed-bfe3-dac502259ad0.png

7284c79c-aac9-11ed-bfe3-dac502259ad0.png

72c456a0-aac9-11ed-bfe3-dac502259ad0.png

72ee34f2-aac9-11ed-bfe3-dac502259ad0.png

731e7220-aac9-11ed-bfe3-dac502259ad0.png

7380b03e-aac9-11ed-bfe3-dac502259ad0.png

73c52a7a-aac9-11ed-bfe3-dac502259ad0.png

73f2f25c-aac9-11ed-bfe3-dac502259ad0.png

74d5d158-aac9-11ed-bfe3-dac502259ad0.png

02

技术创新引领本土产业链弯道突围

750996c8-aac9-11ed-bfe3-dac502259ad0.png

752b4fca-aac9-11ed-bfe3-dac502259ad0.png

754880cc-aac9-11ed-bfe3-dac502259ad0.png

75787e62-aac9-11ed-bfe3-dac502259ad0.png

75c63170-aac9-11ed-bfe3-dac502259ad0.png

75ef1414-aac9-11ed-bfe3-dac502259ad0.png

7613659e-aac9-11ed-bfe3-dac502259ad0.png

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 深度学习
    +关注

    关注

    73

    文章

    5512

    浏览量

    121455
  • 算力
    +关注

    关注

    1

    文章

    1012

    浏览量

    14930
  • ChatGPT
    +关注

    关注

    29

    文章

    1566

    浏览量

    7999

原文标题:ChatGPT算力:研究框架(2023)

文章出处:【微信号:架构师技术联盟,微信公众号:架构师技术联盟】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    AI:智能时代的核心驱动力

    引言在当今数字化时代,的重要性不言而喻。12月28日,央视和国务院国资委联合制作的纪录片《大国基石》第三期《引擎》中所强调的“
    的头像 发表于 01-22 12:58 131次阅读
    AI<b class='flag-5'>算</b><b class='flag-5'>力</b>:智能时代的核心驱动力

    中心的如何衡量?

    作为当下科技发展的重要基础设施,其的衡量关乎其能否高效支撑人工智能、大数据分析等智能应用的运行。以下是对智中心算衡量的详细阐述:一、
    的头像 发表于 01-16 14:03 390次阅读
    <b class='flag-5'>算</b>智<b class='flag-5'>算</b>中心的<b class='flag-5'>算</b><b class='flag-5'>力</b>如何衡量?

    科技云报到:要更要“利”,“精装”触发大模型产业新变局?

    科技云报到:要更要“利”,“精装”触发大模型产业新变局?
    的头像 发表于 01-16 10:24 101次阅读

    浪潮信息与智源研究院携手共建大模型多元生态

    近日,浪潮信息与北京智源人工智能研究院正式签署战略合作协议,双方将紧密合作,共同构建大模型多元开源创新生态。 此次合作旨在提升大模型创新研发的
    的头像 发表于 12-31 11:49 281次阅读

    基础篇:从零开始了解

    即计算能力(Computing Power),狭义上指对数字问题的运算能力,而广义上指对输入信息处理后实现结果输出的一种能力。虽然处理的内容不同,但处理过程的能力都可抽象为。比
    的头像 发表于 11-15 14:22 1002次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>基础篇:从零开始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    浅析三大之异同

    随着一年多前ChatGPT的出现引爆人工智能(AI)浪潮,支撑大模型背后的“”概念突然闯进我们的视野,成为科技圈炙手可热的新词,引领着最新潮流。作为数字经济时代新生产,也许不少人
    的头像 发表于 08-30 12:56 1144次阅读
    浅析三大<b class='flag-5'>算</b><b class='flag-5'>力</b>之异同

    大模型时代的需求

    现在AI已进入大模型时代,各企业都争相部署大模型,但如何保证大模型的,以及相关的稳定性和性能,是一个极为重要的问题,带着这个极为重要的问题,我需要在此书中找到答案。
    发表于 08-20 09:04

    中国中心市场持续增长,智能规模快速崛起

    7月24日,中国信息通信研究院(简称“中国信通院”)权威发布了《中国中心服务商分析报告(2024年)》,该报告深入剖析了中国中心市场
    的头像 发表于 07-24 15:25 534次阅读

    曙光携手“互联公共服务平台”提高全国匹配效率

    近日,由中国信息通信研究院开发的“互联公共服务平台”在重庆上线。作为该平台合作方之一,曙光智参与了平台发布仪式。     曙光将依托在
    的头像 发表于 07-16 15:45 734次阅读

    中科驭数成为首批互联互通研究组成员单位

       5月25日,在由中国信通院牵头召开的互联互通研究组成立大会上,中科驭数作为首批成员单位受邀出席启动仪式,共话产业发展实践。 ▲
    的头像 发表于 05-30 19:08 781次阅读
    中科驭数成为首批<b class='flag-5'>算</b><b class='flag-5'>力</b>互联互通<b class='flag-5'>研究</b>组成员单位

    力系列基础篇——101:从零开始了解

    相信大家已经感受到,我们正处在一个人工智能时代。如果要问在人工智能时代最重要的是什么?那必须是:
    的头像 发表于 04-24 08:05 1002次阅读
    <b class='flag-5'>算</b>力系列基础篇——<b class='flag-5'>算</b><b class='flag-5'>力</b>101:从零开始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    迈信林与苏州科技签订战略框架协议,加码开展领域业务

    近日,迈信林发布公告称与苏州科技有限公司签订《战略合作框架协议》,双方将围绕领域开展一系列深入合作。
    的头像 发表于 04-11 11:21 888次阅读

    数据语料库、算法框架芯片在AI大模型中的作用和影响

    数据语料库、算法框架芯片的确是影响AI大模型发展的三大重要因素。
    的头像 发表于 03-01 09:42 1275次阅读

    智能规模超通用,大模型对智能提出高要求

    电子发烧友网报道(文/李弯弯)是设备通过处理数据,实现特定结果输出的计算能力,常用FLOPS作为计量单位。FLOPS是Floating-point Operations Per Second
    的头像 发表于 02-06 00:08 6513次阅读