0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI芯片,就是GPU吗?

晶扬电子 来源:晶扬电子 2023-06-27 17:08 次阅读

最近,随着人工智能的大肆宣传,我们注意到大多数人都默认所有人工智能工作负载将始终在 GPU 上运行。对于这一思路,我们认为,随着更广泛的芯片发挥作用,现实情况可能会有所不同。

需要明确的是,GPU 非常适合人工智能工作,并且不会对 Nvidia 的股价构成威胁。我们所说的人工智能实际上是应用统计学,更具体地说是非常先进的统计回归模型。

这些问题的核心是矩阵代数,涉及相当简单的数学问题,例如一个数字乘以另一个数字,但需要大规模完成。GPU 的设计采用较小的内核(更简单的数学),且数量较多(大规模)。因此,使用这些处理器代替具有较少数量较大内核的 CPU 是有意义的。

现在,这种情况变得有点模糊了。其一,GPU 变得更加昂贵。他们更擅长人工智能数学,但在某些时候转向 CPU 开始在经济上变得有意义。

人工智能半导体市场实际上分为三个部分:训练、云推理和边缘推理。目前的训练基本上与 Nvidia 相当,但这只是市场的一小部分。云推理将是一个更大的市场——随着越来越多的人使用这些人工智能模型,对推理的需求将会增长,目前大部分工作将在云中完成。对于许多公司来说,扩大产能的成本似乎非常昂贵。半导体分析师迪伦·帕特尔(Dylan Patel)像往常一样,对这个数学进行了最好的阐述,但足以说明推理费用可能会成为未来一年左右消费者采用人工智能的主要障碍。

“考虑到 GPU 的成本和相对稀缺性,我们认为许多公司将开始探索 GPU 的替代品来运行推理工作负载,特别是对于将这些 AI 结果与其他功能(如搜索或社交媒体)相结合的公司,这些工作负载在很大程度上仍然运行得最好无论如何,在CPU上。”Dylan Patel说。

展望未来,我们怀疑人工智能的经济学将需要更多的推理工作来进行边缘计算,这意味着消费者需要付费购买设备。这意味着手机和 PC 将需要人工智能功能,这可能意味着它们在 CPU 和移动 SoC 上运行。

AMD 最近推出了内置于其客户端 CPU 中的人工智能功能,而苹果公司的 A 系列移动处理器和 M 系列 CPU 中都配备了神经引擎。我们预计这很快就会在边缘设备中普及。

当然,许多公司正在寻求构建人工智能加速器——专门用于进行人工智能数学计算的专用芯片。但事实证明,这仅适用于像谷歌这样控制其所有软件的公司。这些专用芯片的一个重要问题是,它们往往针对一组特定的工作负载或人工智能模型进行过度设计,当这些模型发生变化时,这些芯片就会失去性能优势。

所有这些都导致了半导体领域最不为人知的领域之一——FPGA。这些是“可编程”芯片(“P”代表可编程),这意味着它们在生产后可以重新用于不同的任务。这些与专门构建的 ASIC 处于相反的一端,专为 AI 加速器等特定任务而设计。

FPGA 已经存在多年了。半导体的经济学通常意味着,超过一定的容量阈值,ASIC 更有意义,但对于工业和航空航天系统等小容量应用,它们的工作效果非常好。因此,FPGA 无处不在,涉及数十个终端市场,但我们对它们不太熟悉,因为它们通常不会出现在普通消费者每天使用的大批量电子产品中。

人工智能的出现稍微改变了这种计算方式。对于这些工作负载,FPGA 可能对底层模型频繁变化的人工智能推理需求有意义。在这里,FPGA 的可编程性超过了 FPGA 使用的典型经济性。需要明确的是,我们认为 FPGA 不会成为使用数千个 GPU 的大规模人工智能系统的有力竞争对手,但我们确实认为,随着人工智能进一步渗透到电子领域,FPGA 的应用范围将会扩大。

简而言之,GPU 可能仍然是大部分人工智能领域的主导芯片,尤其是对于高调、大容量的模型。但除此之外,我们认为替代芯片的使用将成为生态系统的重要组成部分,这是一个比今天看起来更大的机会。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4710

    浏览量

    128781
  • 人工智能
    +关注

    关注

    1791

    文章

    46956

    浏览量

    237813
  • AI芯片
    +关注

    关注

    17

    文章

    1862

    浏览量

    34939

原文标题:AI芯片,就是GPU吗?

文章出处:【微信号:晶扬电子,微信公众号:晶扬电子】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    《算力芯片 高性能 CPUGPUNPU 微架构分析》第3篇阅读心得:GPU革命:从图形引擎到AI加速器的蜕变

    CPU、GPU的演进历程,AI专用芯片或将引领未来计算平台的新方向。正如爱因斯坦所说:\"想象力比知识更重要\" —— 在芯片设计领域,创新思维带来的突破往往令人惊叹。
    发表于 11-24 17:12

    GPU服务器AI网络架构设计

    众所周知,在大型模型训练中,通常采用每台服务器配备多个GPU的集群架构。在上一篇文章《高性能GPU服务器AI网络架构(上篇)》中,我们对GPU网络中的核心术语与概念进行了详尽介绍。本文
    的头像 发表于 11-05 16:20 223次阅读
    <b class='flag-5'>GPU</b>服务器<b class='flag-5'>AI</b>网络架构设计

    为什么ai模型训练要用gpu

    GPU凭借其强大的并行处理能力和高效的内存系统,已成为AI模型训练不可或缺的重要工具。
    的头像 发表于 10-24 09:39 209次阅读

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架构分析」阅读体验】--全书概览

    GPU、NPU,给我们剖析了算力芯片的微架构。书中有对芯片方案商处理器的讲解,理论联系实际,使读者能更好理解算力芯片。 全书共11章,由浅入深,较系统全面进行讲解。下面目录对全书
    发表于 10-15 22:08

    名单公布!【书籍评测活动NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架构分析

    和像素统一的G80到现在重金难求的H100;AMD的Zen系列CPU和RDNA系列GPU两线作战;中国的高性能计算芯片逐步获得更多TOP500排名;华为Ascend 910 NPU芯片也成为A
    发表于 09-02 10:09

    AI初出企业Cerebras已申请IPO!称发布的AI芯片GPU更适合大模型训练

    美国加州,专注于研发比GPU更适用于训练AI模型的晶圆级芯片,为复杂的AI应用构建计算机系统,并与阿布扎比科技集团G42等机构合作构建超级计算机。基于其最新旗舰
    的头像 发表于 06-26 00:09 2890次阅读
    <b class='flag-5'>AI</b>初出企业Cerebras已申请IPO!称发布的<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>比<b class='flag-5'>GPU</b>更适合大模型训练

    AI芯片哪里买?

    AI芯片
    芯广场
    发布于 :2024年05月31日 16:58:19

    为什么GPUAI如此重要?

    来渲染图形和图像的计算机芯片专业和个人计算。最初,GPU负责渲染2D和3D图像、动画和视频,但现在它们的应用范围更广,尤其在人工智能领域。GPU应用具有嵌入式或离
    的头像 发表于 05-17 08:27 656次阅读
    为什么<b class='flag-5'>GPU</b>对<b class='flag-5'>AI</b>如此重要?

    为什么跑AI往往用GPU而不是CPU?

    GPU的能力,并且支持的GPU数量越多,就代表其AI性能越强大。那么问题来了,为什么是GPU而不是CPU?GPU难道不是我们日常使用的电脑里
    的头像 发表于 04-24 08:27 1808次阅读
    为什么跑<b class='flag-5'>AI</b>往往用<b class='flag-5'>GPU</b>而不是CPU?

    AI训练,为什么需要GPU

    随着由ChatGPT引发的人工智能热潮,GPU成为了AI大模型训练平台的基石,甚至是决定性的算力底座。为什么GPU能力压CPU,成为炙手可热的主角呢?要回答这个问题,首先需要了解当前人工智能(
    的头像 发表于 04-24 08:05 1075次阅读
    <b class='flag-5'>AI</b>训练,为什么需要<b class='flag-5'>GPU</b>?

    英伟达发布新一代AI芯片架构Blackwell GPU

    近日,英伟达首席执行官黄仁勋在GTC 2024会议上发表主题演讲,重磅推出全新AI芯片架构Blackwell GPU。这一创新技术的首款芯片产品命名为GB200,标志着英伟达在人工智能
    的头像 发表于 03-26 11:19 842次阅读

    FPGA在深度学习应用中或将取代GPU

    基础设施,人们仍然没有定论。如果 Mipsology 成功完成了研究实验,许多正受 GPU 折磨的 AI 开发者将从中受益。 GPU 深度学习面临的挑战 三维图形是 GPU 拥有如此
    发表于 03-21 15:19

    GPU供不应求,出货是否需延后?

    目前,英伟达占据80%的AI服务器GPU芯片市场份额,AI系统和互联网大厂都需要该公司的GPU,因此,英伟达在该市场拥有很大话语权。
    发表于 03-14 11:05 231次阅读

    英伟达将用AI设计AI芯片

    AI芯片行业资讯
    深圳市浮思特科技有限公司
    发布于 :2024年02月19日 17:54:43

    2024年,GPU能降价吗?

    首当其冲的就是A100GPU。OpenAI使用的是3,617台HGXA100服务器,包含近3万块英伟达GPU。国内云计算相关专家认为,做好AI大模型的算力最低门槛是1万枚英伟达A100
    的头像 发表于 01-03 15:57 819次阅读
    2024年,<b class='flag-5'>GPU</b>能降价吗?