0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

GPGPU市场增长强劲 创新性架构大幅提升AI计算效率!

Carol Li 来源:电子发烧友网 作者:李弯弯 2022-01-19 11:02 次阅读

电子发烧友网报道(文/李弯弯)GPU中文叫图形处理单元,是一种并行处理的硬件,早起只用来渲染复杂的计算机图形环境。随着技术进步,GPU不再局限于图形领域,扩展应用到其他计算密集的领域,被称为GPGPU,成为AI 芯片领域的代表。

GPU具有很好的通用性,同时传统的架构也存在一定局限,比如计算密度低、效率低,如何在保证通用性的情况下,又提高它的计算效率成为业界关注的重点。

创新架构提高AI计算效率

那么应该如何做呢?为了提高GPU的计算效率,GPU知名企业英伟达也进行的相应的尝试,即对原来的GPU架构进行修改,比如增加专门的张量计算单元、增加片上内存器等,这一定程度可以提高AI的计算效率,不过受限于GPU整体架构,问题并没有得到很好的解决。

图:传统GPU对AI加速的局限体现在哪些方面(图片来自登临科技分享)


成立于2017年的登临科技,从2018年自主研发创新性的GPU+架构,一款由软件定义的、片内异构的支持并行化计算的架构。GPU+架构针对AI应用,具备和GPU一样的可编程能力和通用性。同时通过架构创新,提供更高的计算密度,更快的计算速度,同时大幅降低对外部带宽的需求。而这些是传统GPU芯片无法兼顾的。


由于GPU良好的通用性,在服务器及云端等使用场景中,会大规模应用 GPU。运行各类神经网络。大量开源生态的应用、大量客户定制化的软件,都是在主流的GPU软件生态上完成。如何保持客户已有的投入,即如何减少客户的使用成本,也是AI技术产业化的重要课题。

怎么做呢?登临科技在接受电子发烧友采访的时候表示,登临自主创新的GPU+架构,通过对高效的Tensor引擎和可编程的GPGPU引擎的有机配合,硬件直接兼容CUDA/OpenCL,可无缝接入现有软件生态,大大降低了客户的迁移成本。

通过片内异构,GPU+解决了传统的系统级异构计算调度,数据交换的开销大,以及数据的连贯相干性的难题。在整个系统的计算密度极高的基础上,通过软件定义,使针对不同神经网络的应用场景,都能达到硬件性能和能效最大化。

登临科技表示,通过大规模客户实测,在同等功耗下,GPU+的性能可以达到国际主流产品3倍以上的能效。

打造真正符合市场需求的产品

登临科技成立以后,一直思考如何制定真正符合市场需求的技术路线,即上文所谈的如何保持客户已有的投入,减少客户的使用成本,这是登临科技制定产品的价值导向。

2018年登临确定了产品的方向:基于GPGPU的高能效计算,并自主研发创新的GPU+架构。经过团队一年多的工作,于2019年6月,公司完成了首款基于GPU+架构的Goldwasser设计,并mpw流片成功。

2020年6月Goldwasser成功回片通过测试,开始客户送样,Goldwasser目前已在成熟的12nm/14nm工艺上实现量产。登临Goldwasser已于2021年在智慧城市、互联网等领域顺利实现了商业化落地,并同时与数十家客户在边缘至云端的不同应用场景中进行产品开发、测试。


登临科技的Goldwasser 系列产品包括:边缘计算产品 Goldwasser UL,功率 25-35W,INT8 算力 32-64TOPS;半高半长的服务器计算卡 Goldwasser L,功耗 40-70W,提供 128-256TOPS 算力;另有一种全高全长的 Goldwasser XL,输出 512TOPS 算力。多种规格的产品,使得客户可以根据自身需求分别部署在边缘侧、云端的各种计算设备中。

登临科技方案架构总监郑韬此前在某论坛上也介绍过,Goldwasser覆盖主流系统生态,登临Hamming软件开发包支持主流GPU编程语言,包括CUDA、OpenCL等;适配国内外主流服务器厂家;支持主流国内外AI计算框架,包括PyTorch、百度飞浆、TensorFlow等;适配国内外主流CPU厂家,包括飞腾、龙芯、英特尔AMD等。

在不同的应用场景下,Goldwasser可以支持多种不同的算法实现和落地,如智慧城市、智能交通、语音识别、虚拟客服、智慧工地、智慧车站、机器翻译、工业视觉等,场景覆盖CV、NLP、知识图谱、信号处理和计算等多个领域。Goldwasser可以同时支持训练和推理。

登临科技表示,目前Goldwasser正与30多家不同行业的头部企业进行量产导入。同时,登临科技打通供应链上下游相关企业和合作伙伴,确保产品正常交付。

小结

当前AI技术正快速发展,GPGPU呈现出强劲的增长势头,根据有关数据预测,到2025年,我国GPGPU芯片板卡的市场规模将达458亿元,年复合增长率高达32%,未来市场可观。

目前国际巨头占据大部分市场,与之相比国内厂商还存在差距,不过近几年不少国内GPU厂商通过自主创新,在技术上逐渐取得进展,产品也逐步走向落地商用,比如登临科技。

另外,对于政府目前重点关注的降碳增效,登临科技表示,对计算芯片而言关键指标是能效比,而这也是公司产品的最重要的优势之一,登临将继续通过对传统GPU的架构创新,不断提升异构硬件的算力,达到非常显著的能效比优势,为降碳和增效做贡献。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
收藏 人收藏

    评论

    相关推荐

    IDC报告:2023年中国CAD市场增长率达12.8%,展现强劲增长动力

    引人注目的是,本土CAD厂商在这一年中实现了显著飞跃,其市场占有率攀升至25%,较去年大幅提升了5个百分点,彰显了本土企业在技术创新市场
    的头像 发表于 09-02 17:24 234次阅读
    IDC报告:2023年中国CAD<b class='flag-5'>市场</b>年<b class='flag-5'>增长</b>率达12.8%,展现<b class='flag-5'>强劲</b><b class='flag-5'>增长</b>动力

    中芯国际Q2财报亮点纷呈,业绩增长强劲

    近日,中芯国际在资本市场再次传来喜讯,其发布的2024年第二季度财务报告展现了公司强劲增长势头和稳健的财务表现。据财报显示,中芯国际在报告期内实现了销售收入19.013亿美元,不仅环比增长
    的头像 发表于 08-09 14:45 471次阅读

    2024年大尺寸OLED面板市场迎来强劲复苏,出货量预计大幅增长

    根据行业权威研究机构Omdia最新发布的《2024年第一季度大尺寸显示面板市场跟踪报告》,大尺寸(9英寸及以上)OLED面板市场在经历2023年的低迷后,预计将在2024年迎来显著复苏,出货量将同比增长高达124.6%。这一预测
    的头像 发表于 07-23 17:24 1805次阅读

    TCL电子上半年出货量强劲增长,大尺寸及高端电视市场引领潮流

    TCL电子控股有限公司近日发布了令人瞩目的2024年上半年全球出货量数据,彰显了公司在全球电视市场强劲竞争力和持续增长态势。数据显示,TCL电视在2024年第二季度实现了668万台的出货量,同比
    的头像 发表于 07-22 16:08 547次阅读

    如何采用分区架构提升车辆的简易

      各种车辆功能推陈出新,传统的域架构 (Domain Architecture)也面临挑战。本文将介绍交通运输行业如何采用分区架构 (Zonal Architecture)来提升车辆的简易
    的头像 发表于 07-11 15:59 535次阅读

    全球AI芯片市场收入预计持续增长

    根据市场调查机构Gartner的最新报告,全球AI芯片市场展现出强劲增长势头。预计2024年,全球AI
    的头像 发表于 05-31 10:26 457次阅读

    存内计算WTM2101编译工具链 资料

    领先的存内计算芯片企业。公司针对AI应用场景,在全球率先商业化量产基于存内计算技术的神经网络芯片。凭借颠覆的技术创新,知存科技突破传统
    发表于 05-16 16:33

    进一步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片

    人工智能模型在规模和复杂上呈指数级增长,对先进计算能力和内存容量的需求变得至关重要。Blackwell图形处理器架构通过在性能和效率方面实
    发表于 05-13 17:16

    SEEBURGER BIS嵌入人工智能AI提升效率,解锁无限可能!

    Designer(了解更多)现已整合了人工智能AI,为用户提供统一、友好的用户体验,大幅提升工作效率。此次定制需求的升级将为不同职场角色带来核心优势。 对于管理层来说,这项
    发表于 04-28 13:48 199次阅读
    SEEBURGER BIS嵌入人工智能<b class='flag-5'>AI</b>,<b class='flag-5'>提升</b><b class='flag-5'>效率</b>,解锁无限可能!

    工业机器人应用中的AI边缘控制器:技术创新效率提升的双重驱动

    工业机器人应用中的AI边缘控制器:技术创新效率提升的双重驱动 随着科技的不断进步,AI边缘控制器在工业机器人领域的应用越来越广泛。这种
    的头像 发表于 03-08 10:45 576次阅读

    潞晨科技Colossal-AI + 浪潮信息AIStation,大模型开发效率提升10倍

    北京2024年2月29日 /美通社/ -- 近日,潞晨科技Colossal-AI大模型开发工具与浪潮信息AIStation智能业务创新生产平台完成兼容互认证。基于AIStation平台部署与调度
    的头像 发表于 03-01 09:43 401次阅读
    潞晨科技Colossal-<b class='flag-5'>AI</b> + 浪潮信息AIStation,大模型开发<b class='flag-5'>效率</b><b class='flag-5'>提升</b>10倍

    台积电大幅上调SoIC产能规划,以满足未来AI、HPC的强劲需求

    近日,据消息人士透露,台积电已大幅上调其SoIC(系统整合单芯片)产能规划。到2024年底,月产能将从2023年底的约2000片跳增至5000~6000片,而原先预计今年将扩充至3000~4000片。到了2025年,产能目标再倍增,以满足未来AI和HPC(高性能
    的头像 发表于 01-22 15:57 573次阅读

    《数据处理器:DPU编程入门》读书笔记

    关注计算能力的提升,通信基础设施的提升跟不上,那么数据中心的整体系统性能依然受限,无法发挥出真正的潜力。DPU的提出背景就是应对这些数据量和复杂的指数级
    发表于 12-21 10:47

    2023年中国智能设备市场增长强劲,“双11”购物季引领增长趋势

    据IDC数据显示,自2023年10月23日至上月底,中国计算机总体市场(涵盖电商平台、厂商官网及实体店销售的笔记本电脑与台式机)销售额同比上涨了1.4个百分点;平板电脑增长率为13.5%;手机
    的头像 发表于 12-14 14:25 430次阅读

    算力强劲AI边缘计算盒子# 边缘计算

    AI边缘计算
    成都华江信息
    发布于 :2023年11月24日 16:31:06