0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

移动GPU经典的Rogue架构浅析 人工智能的新战场

SSDFans 2018-09-22 22:43 次阅读

随着人工智能的飞速发展,和业界对人工智能项目落地的巨大需求,移动端GPU的竞争也日益激烈,除了来自各GPU厂商之间的竞争之外,也要与专用芯片展开竞争(例如寒武纪的NPU等),可谓群雄逐鹿。

在之前的一篇浅析移动端GPU的文章中介绍过移动端GPU领域主要的三家厂商。随着苹果弃用PowerVR,在手机领域Mali和Adreno有着绝对的优势,而在物联网自动驾驶领域,三家都并未建立起完整的生态。这两个领域除了GPU,也有一些专用芯片厂商入局,随着物联网和自动驾驶的发展,竞争将更加激烈。相对于其他移动厂商,PowerVR在GPU的技术方面披露的比较多,其中比较经典当属Rogue架构。Rogue架构采用的是延后式分块渲染架构(TBDR),凭借该技术,Rogue架构曾一直是移动端GPU的标杆。作为苹果移动端GPU的独家供应商,也曾风光无限。本文就对Rogue架构进行一些分析,欢迎高手点评斧正。

架构概述

Rogue架构是一种可编程的架构,能够支持通用计算和图形渲染。Rogue架构针对顶点和像素的传输、计算数据在内存之间的传输以及数据和计算核心之间的交互等提供了不同的硬件。本文将侧重于通用计算方面的特性。

如上图所示,Rogue架构中通用计算相关的部件有计算数据控制器(Compute Data Master,CDM),粗粒度调度器(Coarse Grain Scheduler,CGS),统一渲染集群(Unified Shading Clusters),L1混合缓存(L1 Mixed Cache)。

GPU的整个计算流程是,CDM负责将CPU分配的单个任务拆分为多个子任务,然后传递给CGS,由CGS将多个独立的子任务部署到USC上去执行。只有计算任务是由CDM处理的,所以CDM是计算任务专用的通道。

每个USC pair包含两个USCs和一个纹理处理单元(Texture Processing Unit,TPU),这样可以有效的平衡纹理访问和计算。USC是Rogue架构中的主要计算单元。TPU是一种专门加速内核代码中访问图像和纹理的硬件,它拥有独立的缓存,能够加速处理器对图像数据的访问。对于一些需要对图像进行专门访问的算法和一些大尺寸的图像,TPU可以提供很好的加速效果。

L1混合缓存是Rogue架构的主要缓存,所有对内存的访问都会首先在这里缓存。当数据读取不能使用该缓存的时候,则会使用系统级缓存。系统级的高速缓存直接与系统RAM交互,也是数据命中缓存的最后机会。

统一渲染集群(USC)

Rogue架构中负责计算的核心部件是USC,是一个可编程的标量SIMD处理器,通常包含16个ALU Pilelines,用来执行计算内核中代码。下图为Rogue架构中的USC示意图。

图中包含多种部件,我们只关心两种,一种是内存,一种是ALU。USC内部的内存空间主要包括两个寄存器组,一个是Common Store,由整个USC共享;一个是Unified Store,每4个ALU 管线(Pipelines)共享一块。

Unified Store是USC中4个小的由寄存器组成的存储体,每个存储体被4个ALU Pipes所共享,对应于OpenCL中的私有存储。每个Unified store包含1280个128-bit的寄存器,也就是说,每个ALU管线平均拥有320个寄存器。例如,如果每个线程申请10个寄存器,那么,每个USC上只能执行512个线程(每个ALU管线执行32个线程,需要320个寄存器),这也是达到推荐占有率所需最小的线程数。由于每个线程拥有独立的寄存器等资源,所以可以实现0开销的warp切换,切换的时候不需要进行中间数据转存。当然在具体计算中,每个线程即OpenCL的WorkItem所能拥有的寄存器,与多种因素有关。

这128位的寄存器可以像4个32位寄存器一样,被内核有效的访问,所以内核最多可以使用40个32位寄存器,达到推荐的利用率。如果一个给定的内核需要的寄存器不止这些,此时驻留的任务就会减少,减少执行每个任务的线程数量,这样每个线程就会获得更多的寄存器空间。Imagination的编译器只会降低利用率,因为占有率对于隐藏线程中的延迟是至关重要的。

USC利用率(USC/Multiprocessor utilization),是指USC执行活动的warp所用的时间与被阻断的时间之比。如下图所示,其利用率为75%。

USC的占有率是指驻留的warps与可用的驻留槽的比率。如下图所示,展示了驻留的warps和可用warps的示意图。驻留槽的数量与具体产品有关,大多是16个。图中的占有率为6/16。

所以,当寄存器不够用的时候,编译器会牺牲利用率,保证占有率,有利于隐藏延迟。如果寄存器溢出严重,利用率不会无限制降低,会达到一个限度后,将溢出的寄存器分配到主存储器中,也就是全局存储(global memory),这样会造成很高的带宽和延迟成本,大幅度降低程序的性能。当然,这种调度是有软件控制的,所以不同的设备之间会有区别。

Common Store就是通常意义上的共享内存,它是对一个USC中的所有ALU Pipelines可见的,主要用于线程之间的数据交换,任何共享的内存都存储在这个位置,例如OpenCL的local memory,OpenGL的share memory。它也用于存储对象句柄,例如图像,纹理和采样器状态等。

Common Store被分配在4个存储体中,每个存储体可看作是一个128位宽的数列,如下图所示。

在Common Store中,可以同时从4个存储体中获取数据,整个数据行可以在单周期内读取,例如一个任务中的16个线程从同一行获取连续数据(绿色部分),那么每个线程可以在一个周期内获取32位值。但是,如果多于一个线程试图从同一列访问数据(红色部分),则会导致存储体冲突,因为每个周期,存储体只能提供一次访问请求,因此请求将被序列化,大大降低访问性能。为了避免存储体冲突,Common Store中的数据应该跨行访问,每周期访问不同存储体中的4个128位寄存器。

ALU Pipelines是USC中的计算单元,结构图如下图所示。这是Series7XT ALUs示意图。Rogue架构中每个USC包含16个ALU Pipelines,每个ALU中包含有FP16,FP32等核心用于计算。不同型号的GPU包含的ALU core类型不同,数量也不同。例如在Series7XT Plus GPU中增加了Integer Pipelines,能够支持Int8和Int16等整数类型,可以大幅度提升GPU性能,在Series7XT GPU中增加了FP64。FP16核心也不是Rogue架构的标配,早期型号也是没有的。

根据ALU core的数量和时钟频率,可以很方便的计算出GPU的理论峰值。可采用如下公式:

例如Series7XT系列中的GT7600包含6个USC,一共有192个FP32 core or 384个FP16 core。时钟频率有三种可定制,分别为650MHz, 800MHz和1GHz。以650MHz为例,其峰值性能为:

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4701

    浏览量

    128705
  • 人工智能
    +关注

    关注

    1791

    文章

    46859

    浏览量

    237567
  • 架构
    +关注

    关注

    1

    文章

    509

    浏览量

    25447
  • 寒武纪
    +关注

    关注

    11

    文章

    185

    浏览量

    73858

原文标题:移动GPU的经典:浅析Rogue架构

文章出处:【微信号:SSDFans,微信公众号:SSDFans】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    人工智能是什么?

    ` 人工智能是什么?什么是人工智能人工智能是未来发展的必然趋势吗?以后人工智能技术真的能达到电影里机器人的智能水平吗?如果技术成熟的那一天
    发表于 09-16 15:40

    百度人工智能大神离职,人工智能的出路在哪?

    发展规划,加快新材料、人工智能、集成电路、生物制药、第五代移动通信等技术研发和转化”,这是“人工智能”首次出现在***工作报告中。两会上,百度CEO李彦宏、小米董事长雷军、吉利控股集团董事长李书福等来自
    发表于 03-23 17:00

    人工智能到底用 GPU?还是用 FPGA?

    GPU 和 FPGA。有人说 GPU 好用;有人说 FPGA 灵活可编程;有人说 GPU 运算能力强,适合对人工智能进行“训练”;有人说做“推断”还得靠 FPGA … 作为程序员,您
    发表于 08-23 15:42

    人工智能就业前景

    据相关招聘机构数据显示,2018年AI领域仍然是大部分资深技术人才转岗的首选目标,在人才最紧缺的前十大职位中,时下最火的大数据、人工智能、算法类岗位占据半壁江山。据调查指出,2017年技术研发类岗位
    发表于 03-29 15:46

    人工智能AI经典入门书

    人工智能AI经典入门书,很难找的噢,给喜欢的朋友
    发表于 09-12 17:13

    解读人工智能的未来

    `已历经60多年的人工智能在物联网以及大数据的推动下,实现飞跃式的发展,并且迎来了第三个黄金周期。必优传感今天和大家解读一下关于人工智能的未来。自从有了人工智能,引发了人类的各种“未来论”。有人说
    发表于 11-14 10:43

    人工智能医生未来或上线,人工智能医疗市场规模持续增长

      导读:机构预测,中国医疗人工智能的市场需求已达数百亿元。专家认为,“人工智能医生”的应用,有利于缓解社会老龄化带来的医疗资源供需失衡以及地域分配不均等问题。那么,“人工智能医生”何时能真正
    发表于 02-24 09:29

    人工智能:超越炒作

    。对于人工智能用例在当前物联网环境中变为现实,必须满足三个条件:非常大的真实数据集具有重要处理能力的硬件架构和环境开发新的强大算法和人工神经网络(ANN)以充分利用上述内容很明显,后两种要求相互依赖,并且
    发表于 05-29 10:46

    什么是基于云计算的人工智能服务?

    如今,采用人工智能的企业遇到了一个主要障碍,那就是在内部开发人工智能产品成本高昂,因此有了外包人工智能产品的需求。而对于从中小企业到预算受限的大型企业来说,通过云计算来采用人工智能的成
    发表于 09-11 11:51

    人工智能芯片是人工智能发展的

    人工智能芯片是人工智能发展的 | 特伦斯谢诺夫斯基责编 | 屠敏本文内容经授权摘自《深度学习 智能时代的核心驱动力量》从AlphaGo的人机对战,到无人驾驶汽车的上路,再到AI合成主播上岗
    发表于 07-27 07:02

    物联网人工智能是什么?

    一、人工智能介绍工作以后想要拿高薪的话,人工智能是你的不二之选,那么问题来了,究竟什么是人工智能呢?又需要了解哪些才能去开发人工智能产品呢?接下来小编带领大家进入
    发表于 09-09 14:12

    移动终端人工智能技术与应用开发》人工智能的发展与AI技术的进步

    人工智能的发展是随着人类生活需要,产业需求不断提升的,其中人工智能的发展很大程度上受到了计算机算力的影响,随着数据处理量的增大,人工智能算法对算力的要求逐年增加,而且没过两年算力上升一倍,因此往往
    发表于 02-17 11:00

    移动终端人工智能技术与应用开发》+快速入门AI的捷径+书中案例实操

    操作系统的终端应用程序开发经验的读者阅读。该书从移动终端人工智能技术应用的现状和发展态势讲起,对深度学习与软件框架等相关基础知识进行了介绍。第2章从总体上介绍移动终端AI技术架构,包括
    发表于 02-19 20:24

    移动终端人工智能技术与应用开发》+理论学习

    收到《移动终端人工智能技术与应用开发》有一段时间了,由于时间有限,加上工作原因,目前只看到第3章,前几章主要介绍人工智能和机器学习的基础知识,发展历程,分类等,重点说明了,在移动终端上
    发表于 02-27 23:28

    《通用人工智能:初心与未来》-试读报告

    作者给出的结论。整体读下来,可以给我们关于通用人工智能全面的了解。作者也反复强调了通用人工智能与专用智能的区别。尤其是人们错误的认为一堆专用智能堆砌起来就是通用
    发表于 09-18 10:02