0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

协同芯片:典型的云端AI解决方案

ml8z_IV_Technol 来源:未知 作者:胡薇 2018-10-18 09:26 次阅读

多年来,半导体行业一直致力于将越来越多的组件紧密的集成到单个片上系统中(SoC)。毕竟这对于庞大的应用而言是非常实用的解决方案。通过优化处理器的定位,存储器和外部设备芯片厂商能够将数据路径调整到最短,从而提高功率效率并取得更高的性能,此外还能够显著的降低成本。通过这些方法,该行业已经取得了巨大的成功,SoC几乎是我们所有消费电子产品的标准组件。

AI作为一种标准

随着更多的公司意识到利用神经网络处理各种任务(比如自然语言处理、图片识别分类)的巨大潜力,引入人工智能要素的产品数量也在稳步增加。与此同时,这些任务的处理过程正在从基于云的架构迁移到本地终端设备来实现,现在专用硬件神经网络加速器也已经嵌入到SoC器件中。

AI正集成到更多的SoC器件中

从语音激活的消费电子产品(比如虚拟助理)到高级的驾驶辅助系统(ADAS),集成的神经网络人工智能(AI)所面临的机会正在多个细分的市场中展开,不可否认,人工智能(AI)被认为是许多解决方案必不可少的要素。

一种方法不能适用所有

然而,尽管AI应用程序的数量正在不断增加,但这并不意味着集成有AI加速功能的SoCs能够适用所有的场景。实际上,如果我们考虑AI能够覆盖大多数的细分市场,那么由于使用该技术的产品可能有很多不同的处理要求,自然就会产生碎片化的差异。细分的市场对于专用的SoC器件是一种挑战,因此“一刀切”通用的方案不再适用。虽然一些市场(比如智能手机、ADAS)为SoC供应商提供了大量的机会,但是很多针对AI使用的市场目前仍然比较低迷。例如某些产品可能需要AI进行语音处理或图像识别,但不一定两者都需要。同样的智能家居供应商认为将传统的智能手机SoC嵌入AI功能就集成到他们的产品中并不是很好的解决方案,因为这不符合成本效益。

认识AI协同芯片

现在台式机CPU和移动SoC大多都采用多核芯片,因为它们灵活的可扩展架构使其能够按需提供不同的性能,AI“协同芯片”采用类似的方法,它们不仅仅只被设计成一个,而是多个计算GPU和神经网络加速器(NNA)来为特定的应用提供足够的性能,同时确保对硅片尺寸进行优化,将芯片的成本降至最低。这些处理器会紧挨着主应用处理器(SoC)作为“协同芯片”,承载主应用处理器上的NNA内核需要处理的AI推理任务。

现在SoC供应商有机会创建一个传统的通用应用处理器,能够经济高效的适用于多个市场,同时可以配套AI协同芯片来满足一些特定应用或小众应用对于AI功能的需求。

从OEM厂商的角度来看,他们现在可以选择适当地扩展自己的产品解决方案,这取决于他们期望在整个应用方案中对于AI处理操作的开销。

一个AI处理器的例子:根据不同应用NNA的数量可以灵活的增减

典型的协同AI SoC芯片包括负责内部事务的通用控制CPU、用于高性能计算的GPU内核(而不是专门用于处理图形和3D变换操作)以及多个NNA(神经网络加速器),根据不同的神经网络和推理引擎可灵活组合,此外还可以根据不同的任务采用不同的精度。举个例子,在双NNA系统中,其中一个NNA可以用来执行图像识别任务,将结果传递给另一个NNA之前能够识别出场景中的人脸部分,另一个NNA会将人脸部分划分为单独的特征从而识别出面部表情。

另一个例子就是汽车,对六核心的AI协同芯片进行分区,其中三个NNA(每个NNA负责不同的方面)用来识别道路上的标志,与此同时另外三个将专门负责行人检测。NNA的数量和任务的分配是根据应用的需求而确定的。这个概念可以扩展到一系列专用的AI处理器,每个处理器都会集成不同数量的NNA来满足不同任务的性能需求。

从云端到本地

我们已经看到了部署在云端的专用AI芯片,比如谷歌公司推出的TPU、微软公司和英特尔合作的Brainwave项目采用Stratix FPGA作为解决方案,现在这些主要用于AI的机器学习算法的训练。

典型的云端AI解决方案——太庞大了!

然而并不是所有的设备都会连接到云服务,面对众多不用的市场应用,业界认为至少可以把一些AI任务用本地设备自身来完成,这么多市场需求非常的复杂,正如我们之前讨论过的,没有完全通用的解决方案。业界的所有供应商都已经开始利用神经网络来实现某些特殊的需求,而且向协同AI芯片的转变有望成为AI处理解决方案又一令人兴奋的一步。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    452

    文章

    50117

    浏览量

    420339
  • 人工智能
    +关注

    关注

    1789

    文章

    46545

    浏览量

    236830

原文标题:协同芯片:AI的明智选择?

文章出处:【微信号:IV_Technology,微信公众号:智车科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    云端ai开发环境怎么样

    随着云计算技术的成熟与普及,云端AI开发环境应运而生,为AI开发者提供了一个高效、灵活、可扩展的开发与部署平台。下面,一起探讨云端ai开发环
    的头像 发表于 10-24 09:37 111次阅读

    ai烟火检测解决方案

    在当今社会,火灾已成为威胁公共安全的重要隐患之一,其突发性与破坏性给人们的生命财产安全带来了巨大挑战。为有效应对这一难题,远景达ai烟火检测解决方案应运而生,以其前沿的边缘计算与人工智能技术,为火灾
    的头像 发表于 08-19 16:07 191次阅读
    <b class='flag-5'>ai</b>烟火检测<b class='flag-5'>解决方案</b>

    瑞萨电子推出Reality AI Explorer Tier,用于开发AI与TinyML解决方案

    全球半导体解决方案供应商瑞萨电子(TSE:6723)宣布推出Reality AI Explorer Tier——作为Reality AI Tools软件的免费版本,可用于开发工业、汽车和商业应用中的
    的头像 发表于 07-19 10:03 362次阅读

    SAP Business ByDesign:云端ERP解决方案,提升企业竞争力与服务水平

    SAP Business ByDesign 是什么? 在云计算和移动技术的推动下,ERP正迅速向云端迁移。SAP Business ByDesign,作为SAP旗下的一款云端ERP解决方案,专为
    的头像 发表于 07-18 10:19 225次阅读
    SAP Business ByDesign:<b class='flag-5'>云端</b>ERP<b class='flag-5'>解决方案</b>,提升企业竞争力与服务水平

    新思科技携手英特尔推出可量产Multi-Die芯片设计解决方案

    提供了一个统一的协同设计与分析解决方案,通过新思科技3DIC Compiler加速从芯片到系统的各个阶段的多裸晶芯片设计的探索和开发。此外,新思科技3DSO.
    的头像 发表于 07-16 09:42 517次阅读

    AI芯片哪里买?

    AI芯片
    芯广场
    发布于 :2024年05月31日 16:58:19

    苹果将通过自研芯片云端推出AI功能

    近日,科技界传来一则令人振奋的消息。据可靠报道,苹果公司即将在云端推出强大的人工智能(AI)功能,而这一切将依托于自研的高端芯片
    的头像 发表于 05-11 10:59 509次阅读

    芯驰科技发布新一代区域控制器(ZCU)全系列协同解决方案

    在4月25日开幕的2024北京国际汽车展上,芯驰科技发布新一代区域控制器(ZCU)全系列协同解决方案,并重磅推出领军芯片产品E3650。
    的头像 发表于 04-28 16:16 2238次阅读
    芯驰科技发布新一代区域控制器(ZCU)全系列<b class='flag-5'>协同</b><b class='flag-5'>解决方案</b>

    risc-v多核芯片AI方面的应用

    应用中的成本。 最后,RISC-V多核芯片不仅可以应用于AI边缘计算领域,还可以扩展到其他领域,如数据中心、云计算、自动驾驶、机器人等,为这些领域提供高效、灵活和安全的解决方案。 总的来说,RISC-V
    发表于 04-28 09:20

    谷歌发布Axion新款数据中心AI芯片,性能超越x86及云端

    谷歌预计将通过Google Cloud提供Axion AI芯片给客户。谷歌强调这款基于ARM的CPU产品具有优越的性能表现,甚至超越了传统的x86芯片云端通用ARM
    的头像 发表于 04-10 16:32 808次阅读

    Supermicro推出适用于AI存储的机柜级全方位解决方案 加速高性能AI训练和推理的数据存取

    【2024年2月1日,美国圣何塞讯】Supermicro, Inc.(纳斯达克股票代码:SMCI)作为AI云端、存储和5G/边缘领域的全方位IT解决方案制造商,推出适用于人工智能(AI
    的头像 发表于 02-01 17:56 592次阅读

    什么是SNP SAP云端数据集成解决方案

    SNPSAP云端数据集成解决方案利用云计算的灵活性、可伸缩性和低成本,实现更快速的数据驱动决策制定。通过AI和机器学习进行高级分析,消除SAP数据孤岛,加速数据实现价值的时间,无需新硬件投资。该
    的头像 发表于 12-28 14:18 435次阅读

    Art.Galaxy酷芯AI工具链解决方案

    AI Run-time 软件以及 PC 端 Art. Studio 集成开发环境,是具备模型量化、模型编译、协同仿真和模型部署四大功能的一站式解决方案
    的头像 发表于 12-05 11:23 727次阅读
    Art.Galaxy酷芯<b class='flag-5'>AI</b>工具链<b class='flag-5'>解决方案</b>

    国产FPAI芯片AI系统方案

    今天,小弟和大家谈一谈某国产FPAI芯片AI系统方案以及参考设计实例。
    的头像 发表于 11-28 11:32 987次阅读
    国产FPAI<b class='flag-5'>芯片</b>的<b class='flag-5'>AI</b>系统<b class='flag-5'>方案</b>

    什么是混合AI?混合AI优势在哪?

    生成式 AI 模型对计算基础设施需求极高,模型的推理随着用户数量和使用频率的增加而不断上升,云端推理成本剧增,这导致规模化扩展难以持续。混合AI为此提供了解决方案,不仅结合了
    发表于 11-20 16:26 923次阅读
    什么是混合<b class='flag-5'>AI</b>?混合<b class='flag-5'>AI</b>优势在哪?