0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

天数智芯通用GPU加速AI算力发展

lPCU_elecfans 来源:电子发烧友网 作者:电子发烧友网 2022-10-08 09:23 次阅读

电子发烧友网报道(文/李弯弯)在人工智能三轮驱动因素中,数据方面,中国具有先天优势;在算法方面,虽然与国外有差距,但是却存在明显的赶超之势;而在算力(包括软件生态)方面,却存在明显的差距。

中国是全球最大的AI算力市场,IDC数据显示,中国人工智能基础设施市场规模在2021年达到60亿美元,然而90%以上的市场被海外主流厂商瓜分。在高性能算力芯片上,中国明显落后世界先进水平,89%的市场份额被国际大厂占据。

近几年在AI算力赶超方面,不少厂商致力于云端AI训练和推理芯片的架构创新和生态建设,比如燧原科技、天数智芯等。

燧原科技开发云端AI算力产品和生态,包括AI训练和推理。燧原科技创始人、董事长、CEO赵立东此前在某论坛上谈到,技术路线上,公司致力于原始创新而不是简单仿制跟进,以建立长期核心竞争力;产品定位于高技术门槛;市场策略兼顾行业应用场景聚焦和市场规模。

目前燧原已经推出两款AI训练芯片邃思1.0和邃思2.0。去年与浪潮合作,联合发布了“钱塘江”智算中心解决方案,160台服务器的集群,集成第一代训练卡1280张,在之江实验室已经部署,并上线运行。

同时该公司去年还发布了AI推理芯片,应用于在内容理解(图片分类、OCR文字识别)、智能交互(人脸核身、语音文字转写)、智能会议(语音降噪、会议记录)。

在赵立东看来,AI算力发展,需要从这几个方面着手:1、硬件架构必须创新,要拥抱开放生态;2、需要合作共赢,优势互补,多元化产品形态和合作模式,要进一步拓宽;3、需要政府与行业协会的牵引,建设相关标准和测试平台,如此才能共用,才是生态。

天数智芯在通用GPU方面取得突出成绩,该公司基于通用GPU的天垓100于去年实现量产,到如今一年时间,已经累计触达客户300多家,业务覆盖20多个行业,累计订单额度超过2亿。另外天数智芯不久前表示,公司即将推出首款AI推理通用GPU智铠100。

天数智芯CTO吕坚平博士此前在某论坛上谈到,万物皆可由GPU来算。从新兴应用的计算需求来看,AI训练推理,图形渲染以及科学通用计算皆以大量可并行处理的乘加计算为主。而GPU的特点是,采用以单指令多线程为基础的众核架构,特别适合大规模并行乘加处理。

通用GPU是目前AI计算架构赢家。2018年图灵奖得主John Hennessy及David Patterson教授此前指出,判别计算架构赢家的三个准则:一是软件的进步启发架构创新,二是提升软硬件界面缔造架构创新机会,三是市场最终摆平架构论争。

吕坚平表示,AI算法创新等同于软件进步;没有适当配置的通用算力将穷于应付层出不穷的崭新算法;通用GPU是唯一被广泛采用开发新AI算法的软硬件平台。

AI训练芯片必定要通用。原因是,目前非通用GPU的AI训练芯片,一是无法满足研发前沿AI算法所需,二是无法顺利跑通AI学术大会最新出炉的NN模型,甚至基准测试。

AI推理芯片也需要通用。后摩尔时代,制作芯片耗时,耗资金,风险高,为特定AI算法优化的专用推理芯片:1、无法服务各行各业细分领域;2、不适用于算法多元的复杂场景,如安防、自动驾驶等;3、无法支持非AI算法,在很多应用场景中,支援非AI算法也很重要。

什么是真的通用,比如某个应用,需要数十个工程师,花一年半载才能适配到某颗芯片,这就不能算是通用,经济效益不高。真通用体现在四个方面:一是开发易迁移;二是性能可预期;三是应用广覆盖;四是全栈可定制。

天数智芯通用GPU应用行业广、覆盖场景多,包括安防领域的车辆识别应用、智能视频监控、安防机器人;自动驾驶的环境感知处理、车云协同系统、线路管理;医疗的医药研发、辅助诊疗、医学影像;智能家居的智能家电、家庭安保、健康管理等。

审核编辑:彭静
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4702

    浏览量

    128710
  • AI算力
    +关注

    关注

    0

    文章

    73

    浏览量

    8569
  • 天数智芯
    +关注

    关注

    0

    文章

    94

    浏览量

    5530

原文标题:加速AI算力发展,架构创新和生态建设是关键

文章出处:【微信号:elecfans,微信公众号:电子发烧友网】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    AIGPU开始腾飞,背后是电源管理的持续支持

    AI PC元年。   不仅是AI PC,还包括AI服务器、AI手机、AI汽车等,众多AI实际应
    的头像 发表于 03-30 00:12 4323次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>GPU</b>开始腾飞,背后是电源管理的持续支持

    芯片 高性能 CPUGPUNPU 微架构分析》第3篇阅读心得:GPU革命:从图形引擎到AI加速器的蜕变

    在数据挖掘工作中,我经常需要处理海量数据的深度学习任务,这让我对GPU架构和张量运算充满好奇。阅读《芯片》第7-9章,让我对这些关键技术有了全新认识。 GPU架构从早期的固定功能流
    发表于 11-24 17:12

    企业AI租赁是什么

    企业AI租赁是指企业通过互联网向专业的提供商租用所需的计算资源,以满足其AI应用的需求。
    的头像 发表于 11-14 09:30 178次阅读

    GPU开发平台是什么

    随着AI技术的广泛应用,需求呈现出爆发式增长。AI租赁作为一种新兴的服务模式,正逐渐成为
    的头像 发表于 10-31 10:31 125次阅读

    【一文看懂】大白话解释“GPUGPU

    随着大模型的兴起,“GPU”这个词正频繁出现在人工智能、游戏、图形设计等工作场景中,什么是GPU,它与CPU的区别是什么?以及到底什么是GPU
    的头像 发表于 10-29 08:05 279次阅读
    【一文看懂】大白话解释“<b class='flag-5'>GPU</b>与<b class='flag-5'>GPU</b><b class='flag-5'>算</b><b class='flag-5'>力</b>”

    GPU租用平台是什么

    GPU租用平台是一种基于云计算的服务模式,它允许用户通过互联网按需租用高性能GPU资源,而无需自行购买、部署和维护这些硬件。
    的头像 发表于 10-16 10:15 166次阅读

    【「芯片 | 高性能 CPU/GPU/NPU 微架构分析」阅读体验】--全书概览

    GPU、NPU,给我们剖析了芯片的微架构。书中有对芯片方案商处理器的讲解,理论联系实际,使读者能更好理解芯片。 全书共11章,
    发表于 10-15 22:08

    名单公布!【书籍评测活动NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架构分析

    ,在全球范围内,对于推动科技进步、经济发展及社会整体的运作具有至关重要的作用。随着信息技术的高速发展,高性能计算(HPC)和人工智能(AI)等技术在多个领域的应用变得日益广泛,芯片
    发表于 09-02 10:09

    安谋科技异构组合,破局生成式AI挑战

    ,“此P1”不仅异构集成了Armv9 CPU核心与Arm Immortalis GPU,还搭载了安谋科技(中国)有限公司(以下简称“安谋科技”)“周易”NPU等自研业务产品。凭借高能效的异构
    的头像 发表于 08-13 09:12 521次阅读

    服务器为什么选择GPU

    随着人工智能技术的快速普及,需求日益增长。智中心的服务器作为支撑大规模数据处理和计算的核心设备,其性能优化显得尤为关键。而GPU服务器也进入了大众的视野,成为高性能计算的首选。那
    的头像 发表于 07-25 08:28 513次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>服务器为什么选择<b class='flag-5'>GPU</b>

    天数亮相2024世界人工智能大会

    )正式拉开帷幕。天数作为国内通用GPU行业领军企业之一,连续4年参加大会,今年在H2馆C1409展位展示了自主研发的通用
    的头像 发表于 07-05 14:26 1256次阅读

    天数参与建设的中国移动智中心(呼和浩特)项目圆满完成

    近日,天数参与建设的中国移动智中心(呼和浩特)项目已圆满完成,全集群系统正式上线运营。
    的头像 发表于 07-05 09:58 1102次阅读

    大模型快速发展GPU IP有何作用

      电子发烧友网报道(文/李弯弯)随着人工智能技术的快速发展GPU作为重要的支撑时常被提及。国内外重要的GPU芯片公司也为人熟知,包括
    的头像 发表于 05-29 00:05 2258次阅读

    智能规模超通用,大模型对智能提出高要求

    的缩写,即每秒所能够进行的浮点运算数目(每秒浮点运算量)。   可以分为通用、智能
    的头像 发表于 02-06 00:08 6121次阅读

    天数支持智源研究院首次完成大模型异构混合训练,突破异构束缚

    基于英伟达混合资源及天数混合资源完成训练的大模型, 也是智源研究院与天数合作取得的最新成果,再次证明了天数
    的头像 发表于 11-30 13:10 3411次阅读
    <b class='flag-5'>天数</b>智<b class='flag-5'>芯</b>支持智源研究院首次完成大模型异构<b class='flag-5'>算</b><b class='flag-5'>力</b>混合训练,突破异构<b class='flag-5'>算</b><b class='flag-5'>力</b>束缚