0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

昇腾910和含光800性能对比

工程师 2023-10-16 17:29 次阅读

有网友问昇腾910和含光800性能对比;华为推出的昇腾910性能强大,而含光800则是阿里巴巴发布的含光800AI芯片

2019年9月25日,阿里巴巴发布含光800AI芯片;含光800是高性能的AI推理芯片。该芯片推理性能达到78563 IPS,能效比500 IPS/W。

含光800AI芯片基于RISC-V和阿里自有算法,含光800芯片性能的突破得益于软硬件的协同创新:硬件层面采用自研芯片架构,通过推理加速等技术有效解决芯片性能瓶颈问题;软件层面集成了达摩院先进算法,针对CNN及视觉类算法深度优化计算、存储密度,可实现大网络模型在一颗NPU上完成计算。

含光800AI芯片相比传统GPU算力,性价比提升100%。根据云栖大会的现场演示结果显示,比如拍立淘商品库每天新增10亿商品图片,使用传统GPU算力识别需要1小时,使用含光800后可缩减至5分钟。

据阿里介绍含光NPU采用TSMC 12nm工艺制程,可提供全球最高单芯片AI推理性能。 在HGAI模型的推理应用中,含光NPU每秒钟可处理高达78000 IPS的图片,是同类处理器的数十倍性能。

目前含光800目前已被应用到阿里巴巴旗下的的多个业务场景,比如图像视频分析、城市大脑、搜索优化等等。

2019年8月23日,华为发布AI芯片Ascend 910(昇腾910)。

据华为官方介绍,昇腾910AI处理器,基于自研华为达芬奇架构3D Cube技术,实现业界最佳AI性能与能效,架构灵活伸缩,支持云边端全栈全场景应用。

除了基于达芬奇架构的AI核外,昇腾910还集成了多个CPU、DVPP和任务调度器(Task Scheduler),因而具有自我管理能力,可以充分发挥其高算力的优势。

昇腾910集成了HCCS、PCIe 4.0和RoCE v2接口,为构建横向扩展(Scale Out)和纵向扩展(Scale Up)系统提供了灵活高效的方法。HCCS是华为自研的高速互联接口,片内RoCE可用于节点间直接互联。最新的PCIe 4.0的吞吐量比上一代提升一倍。

昇腾910算力是国际顶尖AI芯片的2倍,相当50个当前最新最强的CPU;其训练速度,也比当前最新最强的芯片提升了50%-100%。同时华为还发布了配套的新一代AI开源计算框架MindSpore。两者搭配性能最大化利用芯片算力。

新一代的AI开源计算框架MindSpore创新编程范式,使得工程师更容易使用;该计算框架可满足终端、边缘计算、云全场景需求,能更好保护数据隐私;可开源,形成广阔应用生态。

昇腾910半精度(FP16)算力达256 TFLOPS。(还有一个说法是昇腾910的半精度(FP16)算力达到320 TFLOPS);而整数精度(INT8)算力达到 640 TOPS,(还有一个说法是整数精度(INT8)算力达到512 Tera-OPS;小编认为一个数值可能是设计参数值,一个可能是极值)功耗 310W,采用 7nm 先进工艺。此外,昇腾 910 集成了 HCCS、PCIe 4.0 和 RoCE v2 接口,为构建横向扩展 (Scale Out)和纵向扩展(Scale Up)系统提供了灵活高效的方法。

比如华为的Atlas 900 AI训练集群,算力达到了256 PFLOPS。要实现这样的算力,如果采用通用CPU需要6195个机柜,用GPU需要208个机柜,而NPU如昇腾只要128个机柜,这归功于昇腾架构对深度学习业务的优化。而且最终,华为只用了16个机柜来实现。

此外,昇腾910为国产AI芯片助力,华为盘古大模型从算力(昇腾算力,昇腾的底层架构也是华为自创的)、芯片使能、AI框架(MindSpore AI计算框架)到AI平台(AI开发生产线ModelArts)实现了全栈自主创新。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4673

    浏览量

    128558
  • NPU
    NPU
    +关注

    关注

    2

    文章

    256

    浏览量

    18508
  • AI芯片
    +关注

    关注

    17

    文章

    1850

    浏览量

    34838
  • 昇腾910
    +关注

    关注

    0

    文章

    14

    浏览量

    6773
  • 含光800
    +关注

    关注

    0

    文章

    3

    浏览量

    1697
收藏 人收藏

    评论

    相关推荐

    谷东科技民航维修智能决策大模型荣获华为技术认证

    经过华为专业评测,谷东科技民航维修智能决策大模型1.0成功与华为Atlas 800T A2训练服务器完成并通过了相互兼容性测试认证,正式荣获华为技术认证,被授予Ascend Compatible认证证书及认证徽标的使用权,成
    的头像 发表于 09-30 15:22 370次阅读

    研华发布高性能工业边缘 AI 算力方案 携手引领边缘 AI 革新

    上海2024年9月25日 /美通社/ -- 全球工业物联网厂商研华公司(股票代号:2395.TW)今日在中国工业博览会现场隆重举办 "研华×边缘 AI 战略合作暨新品发布会",携手
    的头像 发表于 09-26 10:54 237次阅读
    研华发布高<b class='flag-5'>性能</b>工业边缘 AI 算力方案 携手<b class='flag-5'>昇</b><b class='flag-5'>腾</b>引领边缘 AI 革新

    中软国际荣膺华为万里伙伴计划认证级应用软件伙伴证书

    近期,中软国际荣膺华为万里伙伴计划认证级应用软件伙伴证书,华为万里伙伴计划认证级辅助运营伙伴、认证级应用软件伙伴两项证书。基于问数一体机解决方案、AI大模型智能问服兼容性测试的
    的头像 发表于 08-27 17:09 772次阅读

    思原生,助力智谱打造自主创新大模型体系!

    自从全面启动原生开发,越来越多的生态伙伴选择,大模型生态从“应用迁移”走向“原生开发”,充分依托
    的头像 发表于 08-20 18:29 382次阅读
    <b class='flag-5'>昇</b><b class='flag-5'>腾</b>与<b class='flag-5'>昇</b>思原生,助力智谱打造自主创新大模型体系!

    香橙派亮相AI开发者创享日,打造“AI+鸿蒙”高算力开发板

    6月29日,AI开发者创享日·广东站在广州成功举办。本次活动汇聚人工智能领域顶尖人才,为开发者带来AI生态最新进展、案例实践应用及原生开发技术等分享,旨在凝聚开发者力量,共建全
    的头像 发表于 07-05 15:31 549次阅读
    香橙派亮相<b class='flag-5'>昇</b><b class='flag-5'>腾</b>AI开发者创享日,打造“AI+鸿蒙”高算力开发板

    基于AI Yolov7模型迁移到平台EA500I边缘计算盒子的实操指南

    近年来,国产化替代的进程正在加快。在众多国产平台中,平台具有高性能、低功耗、易扩展、软件栈全面成熟等优势,其产品和技术在国内众多领域实现了广泛应用;作为
    的头像 发表于 06-26 17:51 533次阅读
    基于<b class='flag-5'>昇</b><b class='flag-5'>腾</b>AI  Yolov7模型迁移到<b class='flag-5'>昇</b><b class='flag-5'>腾</b>平台EA500I边缘计算盒子的实操指南

    ICL5101与ICL5102性能对比

    ICL5101与ICL5102性能对比-中文
    发表于 06-17 14:26 1次下载

    英码科技受邀参加鲲鹏南北双峰会, 共同打造数智化新质生产力!

    5月9日-5月11日,鲲鹏腾开发者大会2024和华为数字中国行2024·广东新质生产力创新峰会分别在北京和广东佛山隆重举行。作为华为重要的APN合作伙伴,英码科技受邀参加这两大峰会,现场展示
    的头像 发表于 05-17 16:23 1230次阅读

    华为发布会大模型翻车?社区回应!

    针对网传华为发布会大模型生成图片疑人工操控的消息,社区回应:5月10日,在鲲鹏腾开发者大会的一场技术讨论上,演示了mxRAG SDK功能。
    的头像 发表于 05-16 14:14 563次阅读
    华为发布会大模型翻车?<b class='flag-5'>昇</b><b class='flag-5'>腾</b>社区回应!

    官宣!英码科技荣获APN分销金牌认证,携手共建算力底座

    4月15日,华为技术有限公司正式为广州英码信息科技有限公司颁发“APN分销金牌认证证书”,授牌仪式在英码科技广州总部完成。本次具有历史意义的授牌仪式不仅是对英码科技销售团队、技术实力、服务质量
    的头像 发表于 04-16 10:37 451次阅读
    官宣!英码科技荣获<b class='flag-5'>昇</b><b class='flag-5'>腾</b>APN分销金牌认证,携手共建算力底座

    软通天璇MaaS平台2.0与华为AI完成兼容性测试认证

    近日,软通动力天璇MaaS平台2.0与华为Atlas 800训练服务器(型号:9000)、Atlas 800推理服务器(型号:3000)完成并通过相互兼容性测试认证。测试期间整体运
    的头像 发表于 01-05 11:41 851次阅读

    迅龙软件加入华为APN,共同推动人工智能行稳致远

    2023年12月22日,华为APN伙伴大会在海南三亚举行,大会邀请到专家学者、商业领袖及产业界代表,聚焦人工智能前沿技术和人工智能创新应用,共谋人工智能行稳致远之道。作为国内领先的开源硬件和开源
    的头像 发表于 12-29 15:36 797次阅读
    迅龙软件加入华为<b class='flag-5'>昇</b><b class='flag-5'>腾</b>APN,共同推动人工智能行稳致远

    以太网通讯与485通讯性能对比

    以太网通讯与485通讯性能对比  以太网通讯和485通讯是两种常用的工业通讯方式,它们在性能方面有着不同的特点和优势。本文将对以太网通讯和485通讯的性能进行详尽、详实、细致的对比,以
    的头像 发表于 12-11 17:07 2154次阅读

    香橙派联合华为发布基于的Orange Pi AIpro开发板 业界首款基于AI开发板

    香橙派联合华为发布基于的Orange Pi AIpro 开发板 业界首款基于AI开发板 日前香橙派联合华为发布了基于
    的头像 发表于 12-04 19:04 1429次阅读
    香橙派联合华为发布基于<b class='flag-5'>昇</b><b class='flag-5'>腾</b>的Orange Pi AIpro开发板 业界首款基于<b class='flag-5'>昇</b><b class='flag-5'>腾</b>AI开发板

    R128平台SPI与DBI接口的性能对比

    R128平台SPI与DBI接口的性能对比
    的头像 发表于 11-15 09:08 951次阅读
    R128平台SPI与DBI接口的<b class='flag-5'>性能对比</b>