0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

昇腾910和含光800性能对比

工程师 2023-10-16 17:29 次阅读

有网友问昇腾910和含光800性能对比;华为推出的昇腾910性能强大,而含光800则是阿里巴巴发布的含光800AI芯片

2019年9月25日,阿里巴巴发布含光800AI芯片;含光800是高性能的AI推理芯片。该芯片推理性能达到78563 IPS,能效比500 IPS/W。

含光800AI芯片基于RISC-V和阿里自有算法,含光800芯片性能的突破得益于软硬件的协同创新:硬件层面采用自研芯片架构,通过推理加速等技术有效解决芯片性能瓶颈问题;软件层面集成了达摩院先进算法,针对CNN及视觉类算法深度优化计算、存储密度,可实现大网络模型在一颗NPU上完成计算。

含光800AI芯片相比传统GPU算力,性价比提升100%。根据云栖大会的现场演示结果显示,比如拍立淘商品库每天新增10亿商品图片,使用传统GPU算力识别需要1小时,使用含光800后可缩减至5分钟。

据阿里介绍含光NPU采用TSMC 12nm工艺制程,可提供全球最高单芯片AI推理性能。 在HGAI模型的推理应用中,含光NPU每秒钟可处理高达78000 IPS的图片,是同类处理器的数十倍性能。

目前含光800目前已被应用到阿里巴巴旗下的的多个业务场景,比如图像视频分析、城市大脑、搜索优化等等。

2019年8月23日,华为发布AI芯片Ascend 910(昇腾910)。

据华为官方介绍,昇腾910AI处理器,基于自研华为达芬奇架构3D Cube技术,实现业界最佳AI性能与能效,架构灵活伸缩,支持云边端全栈全场景应用。

除了基于达芬奇架构的AI核外,昇腾910还集成了多个CPU、DVPP和任务调度器(Task Scheduler),因而具有自我管理能力,可以充分发挥其高算力的优势。

昇腾910集成了HCCS、PCIe 4.0和RoCE v2接口,为构建横向扩展(Scale Out)和纵向扩展(Scale Up)系统提供了灵活高效的方法。HCCS是华为自研的高速互联接口,片内RoCE可用于节点间直接互联。最新的PCIe 4.0的吞吐量比上一代提升一倍。

昇腾910算力是国际顶尖AI芯片的2倍,相当50个当前最新最强的CPU;其训练速度,也比当前最新最强的芯片提升了50%-100%。同时华为还发布了配套的新一代AI开源计算框架MindSpore。两者搭配性能最大化利用芯片算力。

新一代的AI开源计算框架MindSpore创新编程范式,使得工程师更容易使用;该计算框架可满足终端、边缘计算、云全场景需求,能更好保护数据隐私;可开源,形成广阔应用生态。

昇腾910半精度(FP16)算力达256 TFLOPS。(还有一个说法是昇腾910的半精度(FP16)算力达到320 TFLOPS);而整数精度(INT8)算力达到 640 TOPS,(还有一个说法是整数精度(INT8)算力达到512 Tera-OPS;小编认为一个数值可能是设计参数值,一个可能是极值)功耗 310W,采用 7nm 先进工艺。此外,昇腾 910 集成了 HCCS、PCIe 4.0 和 RoCE v2 接口,为构建横向扩展 (Scale Out)和纵向扩展(Scale Up)系统提供了灵活高效的方法。

比如华为的Atlas 900 AI训练集群,算力达到了256 PFLOPS。要实现这样的算力,如果采用通用CPU需要6195个机柜,用GPU需要208个机柜,而NPU如昇腾只要128个机柜,这归功于昇腾架构对深度学习业务的优化。而且最终,华为只用了16个机柜来实现。

此外,昇腾910为国产AI芯片助力,华为盘古大模型从算力(昇腾算力,昇腾的底层架构也是华为自创的)、芯片使能、AI框架(MindSpore AI计算框架)到AI平台(AI开发生产线ModelArts)实现了全栈自主创新。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4795

    浏览量

    129498
  • NPU
    NPU
    +关注

    关注

    2

    文章

    295

    浏览量

    18833
  • AI芯片
    +关注

    关注

    17

    文章

    1914

    浏览量

    35271
  • 昇腾910
    +关注

    关注

    0

    文章

    14

    浏览量

    6857
  • 含光800
    +关注

    关注

    0

    文章

    3

    浏览量

    1723
收藏 人收藏

    评论

    相关推荐

    AI创新大赛2024总决赛圆满落幕

    12月19日,AI创新大赛2024全国总决赛在福建厦门成功举办。本届赛事历时8个月,吸引了全国25个赛区的开发者踊跃报名参赛。经过层层遴选,来自企业赛道和高校赛道的83支赛队在总决赛现场经过
    的头像 发表于 12-24 17:08 652次阅读
    <b class='flag-5'>昇</b><b class='flag-5'>腾</b>AI创新大赛2024总决赛圆满落幕

    云天励飞携手华为打造智算中心解决方案

    当前,人工智能技术正在加速向各行业深度渗透,成为驱动产业转型和社会进步的重要引擎。构建开放协作的AI生态体系、推动技术和应用深度融合,已成为行业发展的重要趋势。 云天励飞基于AI基础软硬件平台
    的头像 发表于 12-12 16:05 1105次阅读

    谷东科技民航维修智能决策大模型荣获华为技术认证

    经过华为专业评测,谷东科技民航维修智能决策大模型1.0成功与华为Atlas 800T A2训练服务器完成并通过了相互兼容性测试认证,正式荣获华为技术认证,被授予Ascend Compatible认证证书及认证徽标的使用权,成
    的头像 发表于 09-30 15:22 515次阅读

    研华发布高性能工业边缘 AI 算力方案 携手引领边缘 AI 革新

    上海2024年9月25日 /美通社/ -- 全球工业物联网厂商研华公司(股票代号:2395.TW)今日在中国工业博览会现场隆重举办 "研华×边缘 AI 战略合作暨新品发布会",携手
    的头像 发表于 09-26 10:54 382次阅读
    研华发布高<b class='flag-5'>性能</b>工业边缘 AI 算力方案 携手<b class='flag-5'>昇</b><b class='flag-5'>腾</b>引领边缘 AI 革新

    中软国际荣膺华为万里伙伴计划认证级应用软件伙伴证书

    近期,中软国际荣膺华为万里伙伴计划认证级应用软件伙伴证书,华为万里伙伴计划认证级辅助运营伙伴、认证级应用软件伙伴两项证书。基于问数一体机解决方案、AI大模型智能问服兼容性测试的
    的头像 发表于 08-27 17:09 1069次阅读

    思原生,助力智谱打造自主创新大模型体系!

    自从全面启动原生开发,越来越多的生态伙伴选择,大模型生态从“应用迁移”走向“原生开发”,充分依托
    的头像 发表于 08-20 18:29 505次阅读
    <b class='flag-5'>昇</b><b class='flag-5'>腾</b>与<b class='flag-5'>昇</b>思原生,助力智谱打造自主创新大模型体系!

    香橙派亮相AI开发者创享日,打造“AI+鸿蒙”高算力开发板

    6月29日,AI开发者创享日·广东站在广州成功举办。本次活动汇聚人工智能领域顶尖人才,为开发者带来AI生态最新进展、案例实践应用及原生开发技术等分享,旨在凝聚开发者力量,共建全
    的头像 发表于 07-05 15:31 709次阅读
    香橙派亮相<b class='flag-5'>昇</b><b class='flag-5'>腾</b>AI开发者创享日,打造“AI+鸿蒙”高算力开发板

    基于AI Yolov7模型迁移到平台EA500I边缘计算盒子的实操指南

    近年来,国产化替代的进程正在加快。在众多国产平台中,平台具有高性能、低功耗、易扩展、软件栈全面成熟等优势,其产品和技术在国内众多领域实现了广泛应用;作为
    的头像 发表于 06-26 17:51 757次阅读
    基于<b class='flag-5'>昇</b><b class='flag-5'>腾</b>AI  Yolov7模型迁移到<b class='flag-5'>昇</b><b class='flag-5'>腾</b>平台EA500I边缘计算盒子的实操指南

    浙江大学 鲲鹏科教创新卓越中心正式成立,推动高校原生创新加速

    2024年6月21日上午,浙江大学与华为技术有限公司在浙江大学紫金港校区签署合作协议,正式成立“浙江大学 鲲鹏科教创新卓越中心”(以下简称“卓越中心”)。双方将依托卓越中心,在科研创新与人
    的头像 发表于 06-23 13:18 715次阅读
    浙江大学 鲲鹏<b class='flag-5'>昇</b><b class='flag-5'>腾</b>科教创新卓越中心正式成立,推动高校原生创新加速

    ICL5101与ICL5102性能对比

    ICL5101与ICL5102性能对比-中文
    发表于 06-17 14:26 1次下载

    英码科技受邀参加鲲鹏南北双峰会, 共同打造数智化新质生产力!

    5月9日-5月11日,鲲鹏腾开发者大会2024和华为数字中国行2024·广东新质生产力创新峰会分别在北京和广东佛山隆重举行。作为华为重要的APN合作伙伴,英码科技受邀参加这两大峰会,现场展示
    的头像 发表于 05-17 16:23 1323次阅读

    华为发布会大模型翻车?社区回应!

    针对网传华为发布会大模型生成图片疑人工操控的消息,社区回应:5月10日,在鲲鹏腾开发者大会的一场技术讨论上,演示了mxRAG SDK功能。
    的头像 发表于 05-16 14:14 696次阅读
    华为发布会大模型翻车?<b class='flag-5'>昇</b><b class='flag-5'>腾</b>社区回应!

    基于AI | 英码科技EA500I使用AscendCL实现垃圾分类和视频物体分类应用

    现如今,人工智能迅猛发展,AI赋能产业发展的速度正在加快,“AI+”的需求蜂拥而来,但AI应用快速落地的过程中仍存在很大的挑战:向下需要适配的硬件,向上需要完善的技术支持,两者缺一不可。基于此,
    的头像 发表于 05-01 08:26 742次阅读
    基于<b class='flag-5'>昇</b><b class='flag-5'>腾</b>AI | 英码科技EA500I使用AscendCL实现垃圾分类和视频物体分类应用

    基于AI | 英码科技EA500I使用AscendCL实现垃圾分类和视频物体分类应用

    。   基于此,推出了系列化行业SDK和参考设计,通过把千行百业细分场景的开发经验和行业知识沉淀下来、水平复制,从而大幅度降低门槛、简化开发、提升效率。而英码科技是重要的APN
    的头像 发表于 04-26 08:38 476次阅读
    基于<b class='flag-5'>昇</b><b class='flag-5'>腾</b>AI | 英码科技EA500I使用AscendCL实现垃圾分类和视频物体分类应用

    官宣!英码科技荣获APN分销金牌认证,携手共建算力底座

    4月15日,华为技术有限公司正式为广州英码信息科技有限公司颁发“APN分销金牌认证证书”,授牌仪式在英码科技广州总部完成。本次具有历史意义的授牌仪式不仅是对英码科技销售团队、技术实力、服务质量
    的头像 发表于 04-16 10:37 592次阅读
    官宣!英码科技荣获<b class='flag-5'>昇</b><b class='flag-5'>腾</b>APN分销金牌认证,携手共建算力底座