0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

MLPerf AI性能测试:榜单的份量究竟有多重?

脑极体 来源:脑极体 作者:脑极体 2022-07-05 18:08 次阅读

数字化时代,数据是新的生产资料,算力是新的生产力。很多朋友好奇,算力究竟从哪里来?一个重要的答案就是服务器。

不难发现,GDP(国内生产总值)与服务器数量呈现明显的正线性相关,服务器出货量已经可以作为衡量计算力发展水平的重要指标项。而在服务器市场,我们注意到一个相对低调的名字:宁畅。

不久前,在国际权威AI性能基准测试MLPerf Training V2.0中,宁畅的人工智能服务器多项测试成绩斩获全球第一,打破2项世界纪录。而这并不是偶然,事实上,宁畅已经连续五次问鼎世界冠军。

AI对数字经济的重要性不言而喻,而AI算法对算力的需求也呈指数级增长。人工智能服务器领域的进步,为AI技术的发展和落地应用提供了更为坚实的算力支撑。在此基础上,或许应该去解答一个问题:宁畅在人工智能服务器上捧回的奖杯,在算力时代份量几何?

奖杯的份量 :国际AI评测背后的逻辑

算力评测,大家都不陌生,但人工智能服务器的性能高低,却不是“一言不合跑个分”那么简单。一方面,AI计算是多种任务、架构的集合,考较的是整个系统的处理能力,而非单一硬件;另外,不同任务、不同场景,AI服务器的表现可能相差悬殊,所以单一任务出色未必能代表整体水平, AI性能评测要分任务、分赛道,方才公允,有参考意义。

所以,MLPerf固定任务(closed)赛道中,基于同一套参数,在DLRM、MASK R-CNN、ResNet、U-NET3D等8个AI场景下,对各计算系统进行评测。针对不同场景分门别类地评测,意味着面向多场景的AI硬件更具优势,经受住不同AI任务的考验。比如MASK R-CNN(重量级图像目标检测)测试和U-Net3D(图像分割模型)测试,主要应用在自动驾驶、医疗图像分析、监控、工业检测等场景中,这些模型的训练任务是数据中心的典型应用,成为各个厂商PK的主战场。今年,宁畅人工智能服务器X640 G40打破了自己创下的世界纪录,分别搭载16颗、20颗NVIDIA A100 Tensor Core 80GB GPU,再夺MASK R-CNN、U-Net3D两项冠军。

7b071d6f2d094442b505060c81e0aeb3~tplv-tt-shrink:640:0.image

另外,AI模型应用到产业中,不可能无限制地增加资源,同一配置下表现最优,对于行业用户来说是很有参考意义的,而这也是AI独角兽或初创企业在一众巨头中脱颖而出的蹊径。可以看到,在搭载NVIDIA A30 Tensor Core GPU同一配置下,宁畅服务器X640 G40也表现出了优越的性能,分别在Bert(自然语言处理)、RNN-T(语音识别)、U-Net3D(图像分割模型)、DLRM(推荐系统)、RetinaNet(目标检测)以及ResNet(图像分类)6项测试中获得第一。

绿色化、低碳化成为大势所趋,能耗也应该纳入到AI硬件的重点考虑范畴。液冷技术在散热方面比传统数据中心的空调系统更具优势,也成为服务器产品的创新焦点,此次宁畅X660 G45 LP液冷服务器也首次参与了MLPerf Training测试,展现出了部件级精确制冷水准,在降低数据中心PUE、节能减排方面让人期待。

智在八方:从国际赛场走向千行百业

对于服务器厂商来说,比赛只是训练场,最终还是要到广阔的市场中去,将AI的技术红利播撒到四面八方。千行百业,才是成绩背后真正的重量。

凭借优秀的产品与服务,宁畅人工智能服务器也得到了企业客户的普遍认可。IDC发布的《2021下半年度(H2)中国加速计算服务器市场分析报告》显示,宁畅以8.5%的市场销售额占比,位列中国区GPU以及加速服务器市场第二名。

52235eb087b34604826b37485191b7a6~tplv-tt-shrink:640:0.image

从赛场到市场,接下来围绕算力将发生哪些连锁反应?

首先,是智能算力的供给更加充沛,单位成本降低,直接惠及智能化转型的企业。以宁畅为例,其人工智能服务器产品及服务已覆盖互联网、汽车、电信、金融、云计算等众多行业超千家TOP级用户。

其次,推动AI相关应用创新,元宇宙、数字孪生、科学计算等新应用有了算力底座支撑,或许将在不久的将来能成为现实。

更进一步,智能算力与数字经济相辅相成,助推数字中国的高速可持续发展。而中国产业数字化、智能化升级,构成了一个确定性的增量空间,宁畅的人工智能服务器为数字经济提供算力支撑的同时,自身也将收获更多价值。

数字经济需要聚合多种产业力量和技术力量,才是MLPerf背后的核心价值,相信中国厂商们将继续在赛场与市场中书写传奇。

审核编辑 黄昊宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    30763

    浏览量

    268917
  • 人工智能
    +关注

    关注

    1791

    文章

    47208

    浏览量

    238305
  • 宁畅
    +关注

    关注

    0

    文章

    42

    浏览量

    5367
收藏 人收藏

    评论

    相关推荐

    MLCommons推出AI基准测试0.5版

    开放式机器学习工程联盟 MLCommons 在美国加州当地时间公布推出适用于消费类 PC 的 AI 性能MLPerf Client 基准测试的 0.5 版,这是该
    的头像 发表于 12-12 16:47 297次阅读

    浪潮信息AI存储性能测试的领先之道

    AI技术的无限可能。近日,在MLCommons的子项目MLPerf Storage v1.0性能基准评测中,浪潮信息再度展现了在AI存储领域的卓越实力。
    的头像 发表于 10-29 16:30 240次阅读
    浪潮信息<b class='flag-5'>AI</b>存储<b class='flag-5'>性能</b><b class='flag-5'>测试</b>的领先之道

    《算力芯片 高性能 CPU/GPU/NPU 微架构分析》第1-4章阅读心得——算力之巅:从基准测试到CPU微架构的深度探索

    ,还优化了能效比,使天河二号在Green500榜单上也表现出色。另一方面,MLPerf的出现标志着AI时代对算力需求的变化。它涵盖了图像分类、目标检测、自然语言理解、智能推荐算法、强化学习等多个
    发表于 10-19 01:21

    浪潮信息AS13000G7荣获MLPerfAI存储基准测试五项性能全球第一

    众,在3D-UNet和CosmoFlow两个模型共计八项测试中,斩获五项冠军。 MLPerf™ Storage v1.0 AI存储基准测试成绩 ML
    的头像 发表于 09-28 16:46 205次阅读
    浪潮信息AS13000G7荣获<b class='flag-5'>MLPerf</b>™ <b class='flag-5'>AI</b>存储基准<b class='flag-5'>测试</b>五项<b class='flag-5'>性能</b>全球第一

    TDA4 Edge AI处理器的性能和效率基准测试

    电子发烧友网站提供《TDA4 Edge AI处理器的性能和效率基准测试.pdf》资料免费下载
    发表于 09-11 09:21 0次下载
    TDA4 Edge <b class='flag-5'>AI</b>处理器的<b class='flag-5'>性能</b>和效率基准<b class='flag-5'>测试</b>

    请问STM32F407 USB的FIFO究竟有多少空间?

    在STM32F4xx参考手册时,介绍USB系统性能部分,有说**OTG_FS 模块能够高效填充1.25 KB RAM缓冲区,并且在USB框图里,也有写 RAM总线与 1.25KB USB数据
    发表于 07-04 07:46

    摩尔线程与智谱AI完成大模型性能测试与适配

    近日,摩尔线程与智谱AI在人工智能领域开展了一轮深入的合作,共同对GPU大模型进行了适配及性能测试。此次测试不仅涵盖了大模型的推理能力,还涉及了基于摩尔线程夸娥(KUAE)千卡智算集群
    的头像 发表于 06-14 16:40 1066次阅读

    STM32的DAC输出有个BUFFER功能,BUFFer的驱动能力究竟有多大,普通的运放输出可以吗?驱动LED可以吗?

    DAC是输出模拟电压给外界参考,STM32的DAC输出有个BUFFER功能,但不知这个BUFFer的驱动能力究竟有多大,普通的运放输出可以吗?驱动LED可以吗?有没有人做过这块,给个建议,因为最近要设计个DAC输出调节运放输出,希望能有个参考。 如果外接跟随的话,用LM358可以吗?请一起讨论下!!!
    发表于 05-15 07:42

    共模电感选型依据究竟有哪些

    电子发烧友网站提供《共模电感选型依据究竟有哪些.docx》资料免费下载
    发表于 05-06 10:26 1次下载

    SMT贴片加工中元器件移位的原因究竟有哪些?

    ,元器件移位的问题仍然时有发生。那么,造成SMT贴片加工中元器件移位的原因究竟有哪些呢?接下来深圳佳金源锡膏厂家来讲一下:首先,贴片机吸嘴的气压是影响元器件位置的重要
    的头像 发表于 04-26 16:00 564次阅读
    SMT贴片加工中元器件移位的原因<b class='flag-5'>究竟有</b>哪些?

    信创测试究竟是什么?与性能测试的差别是什么?

    信创测试性能测试在多个方面存在显著的区别。 首先,信创测试是一个更为全面和系统的测试过程,它主要针对信创工程项目中的产品、系统等进行
    的头像 发表于 04-24 15:34 852次阅读

    贴片功率电感究竟有没有正负极之分

    电子发烧友网站提供《贴片功率电感究竟有没有正负极之分.docx》资料免费下载
    发表于 02-28 10:15 0次下载

    pcb应变测试多重要?一文了解!

    pcb应变测试多重要?一文了解!
    的头像 发表于 02-24 16:26 1081次阅读

    什么是DMA?DMA究竟有多快!

    助于提高数据传输速度和系统效率。 那么,DMA究竟有多快呢? 实践出真知 恰好,最近有个多通道数据采集的项目,受限于通道数多、分辨率高,而系统带宽有限,为了尽可能充分利用有限带宽,就得想办法优化时序,把时间都留给数据采集和传输。 优化方向就是DMA。 硬件链路是A
    的头像 发表于 02-22 10:43 2012次阅读
    什么是DMA?DMA<b class='flag-5'>究竟有</b>多快!

    AI视频年大爆发!2023年AI视频生成领域的现状全盘点

    2023年,也是AI视频元年。过去一年究竟有哪些爆款应用诞生,未来视频生成领域面临的难题还有哪些?
    的头像 发表于 02-20 10:40 1212次阅读
    <b class='flag-5'>AI</b>视频年大爆发!2023年<b class='flag-5'>AI</b>视频生成领域的现状全盘点