0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

戴尔PowerEdge R740xd服务器与英特尔傲腾900P的使用区别

lhl545545 来源:DOIT 作者:朱 朋博 2020-09-01 17:15 次阅读

常听人说AI对存储性能提出了新需求,那么AI对存储有怎样的需求呢?

人工智能全流程中,涉及数据的采集、数据的预处理、模型训练、模型部署等环节,跟以往操作差异最大的在于训练环节,为此,有外媒动手做了一个评测。结果显示,在训练环节,高性能存储设备对于性能的提升完全没有帮助。

测试架构是这样的,一台戴尔PowerEdge R740xd服务器,有两块至强黄金6130 CPU,256GB DRAM内存,用它来运行byteLAKE的AI测试,测试的变量是三款SSD,一个是铠侠SAS 口的PX04S,一个是三星的983ZET,还有一个是英特尔傲腾900P。

铠侠SAS口 PX04S SSD

三星PCIe卡983ZET

英特尔傲腾900P

测试中分析了机器学习在训练阶段的性能表现,测试程序用的是byteLAKE的EWA Gurad,它是一个实时监测模型,该模型包括一个输入层,22个卷积层,5个池化层,2个路由层,还有一个探测层。

测试优劣的评判标准是时间,就是做5000个Epoch所耗费的时间,每换一次SSD就进行一次测试,测试结果如下。

铠侠 98小时 24分

三星 98小时 44分

英特尔 98小时 42分

明显可见,本地的SSD对性能几乎没有影响,换了不同性能的SSD,既有SAS口的,也有PCIe口的,既有NAND SSD也有机遇3D Xpoint的SSD,最终性能表现都差不多。

在数据的获取时,SSD会有优势,但在计算环节,对SSD的要求并不高,那是不是说明CPU的训练能力不够,导致瓶颈呢?

为了进一步测试,在服务器里加入来了一块英伟达T4显卡,然后再跑一下测试。

铠侠 4h 30分钟

三星 4小时 28分钟

Intel 4小时 27分钟

GPU的加速效果还是非常明显的,提升了22倍,计算性能提升来的话,SSD的性能差异是否明显呢?从数据来看,显然还是没什么影响。

测试结果发现,高性能的存储并没有提升AI训练阶段的性能,由于AI模型的复杂结构限制,机器学习训练的时间要远远高于数据载入的时间。虽然英伟达T4显卡加速了机器学习的速度,但并没有让SSD发挥优势,

当然,想要看具体某个零部件对于系统性能影响的话还需要许多细致的工作,比如,换一个AI框架,换别的零部件什么的。这一测试其实是有意义的,可以让我们找出有利于性能提升的部分,把钱花在刀刃上。
责任编辑:pj

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 服务器
    +关注

    关注

    12

    文章

    9015

    浏览量

    85169
  • AI
    AI
    +关注

    关注

    87

    文章

    30095

    浏览量

    268361
  • 人工智能
    +关注

    关注

    1791

    文章

    46838

    浏览量

    237496
收藏 人收藏

    评论

    相关推荐

    英特尔宣布扩容成都封装测试基地

    英特尔宣布扩容英特尔成都封装测试基地。在现有的客户端产品封装测试的基础上,增加为服务器芯片提供封装测试服务,并设立一个客户解决方案中心,以提高本土供应链的效率,加大对中国客户支持的力度
    的头像 发表于 10-29 13:58 204次阅读

    英特尔扩容在成都的封装测试基地

    2024年10月28日,英特尔公司正式宣布对位于成都高新区的英特尔成都封装测试基地进行扩容升级。此次扩容不仅将在现有客户端产品封装测试服务的基础上,新增服务器芯片的封装测试
    的头像 发表于 10-28 14:43 380次阅读

    英特尔调降明年AI服务器芯片出货目标

    近日,有消息称英特尔为应对内部策略调整及终端需求变化,已对其旗下AI服务器芯片Gaudi 3的明年出货目标进行了大幅调整。
    的头像 发表于 10-08 15:38 231次阅读

    英特尔21152和PCI2250的区别

    电子发烧友网站提供《英特尔21152和PCI2250的区别.pdf》资料免费下载
    发表于 09-30 11:28 0次下载
    <b class='flag-5'>英特尔</b>21152和PCI2250的<b class='flag-5'>区别</b>

    浪潮信息元脑®服务器率先支持英特尔®至强®6处理

    北京2024年6月7日 /美通社/ -- 6月6日,英特尔在全球范围内发布了英特尔®至强®6处理,浪潮信息服务器产品线总经理赵帅受邀参会并发表演讲。会上,浪潮信息多款元脑
    的头像 发表于 06-07 15:36 365次阅读
    浪潮信息元脑®<b class='flag-5'>服务器</b>率先支持<b class='flag-5'>英特尔</b>®至强®6处理<b class='flag-5'>器</b>

    英特尔CEO:AI时代英特尔动力不减

    英特尔CEO帕特·基辛格坚信,在AI技术的飞速发展之下,英特尔的处理仍能保持其核心地位。基辛格公开表示,摩尔定律仍然有效,而英特尔在处理
    的头像 发表于 06-06 10:04 375次阅读

    宁畅B5000 G5多节点服务器采用第五代英特尔至强可扩展处理

    “基于第五代英特尔 至强 可扩展处理的宁畅B5000 G5多节点服务器,可以在满足大量AI推理场景在吞吐量、时延、容量、并发能力等方面的需求,而且与专用的GPU服务器相比,在灵活性方
    的头像 发表于 05-27 11:46 777次阅读
    宁畅B5000 G5多节点<b class='flag-5'>服务器</b>采用第五代<b class='flag-5'>英特尔</b>至强可扩展处理<b class='flag-5'>器</b>

    全新 µATX 服务器载板为英特尔 Ice Lake D 处理系列产品提供更多可扩展性

    康佳特扩展边缘服务器生态系统, 推出 µATX  服务器载板和基于最新英特尔至强处理的 COM‑HPC Server模块     2024/3/21 中国上海 * * * 领先的嵌入
    发表于 03-21 14:54 359次阅读
    全新 µATX <b class='flag-5'>服务器</b>载板为<b class='flag-5'>英特尔</b> Ice Lake D 处理<b class='flag-5'>器</b>系列产品提供更多可扩展性

    第五代英特尔至强处理,AI特化的通用服务器CPU

      电子发烧友网报道(文/周凯扬)随着AI已经成了数据中心与服务器市场的主流应用,就连通用服务器CPU,也开始着重加强AI计算能力。为此,英特尔于去年年底发布了第五代至强处理,进一步
    的头像 发表于 03-18 08:14 4195次阅读
    第五代<b class='flag-5'>英特尔</b>至强处理<b class='flag-5'>器</b>,AI特化的通用<b class='flag-5'>服务器</b>CPU

    Sarcina Technology加入英特尔联盟

    )加速设计服务联盟。 Sarcina Technology已加入英特尔代工服务,并将其先进的封装专业知识引入英特尔代工
    的头像 发表于 02-05 12:05 378次阅读

    英特尔和AMD处理区别和特点

    英特尔和AMD处理区别和特点 英特尔(Intel)和AMD是全球最著名的两个处理制造商。他们都提供高性能、可靠的芯片,为消费者和企业用
    的头像 发表于 01-30 14:28 2365次阅读

    独立服务器和云服务器区别

    独立服务器和云服务器区别是很多用户在选择服务器时要做的课程,那么独立服务器和云服务器
    的头像 发表于 01-17 10:58 803次阅读

    英特尔酷睿14代处理系列发布,Arrowlake/LunarLake24年问世

    处理英特尔
    looger123
    发布于 :2024年01月10日 17:44:38

    宝德服务器全面升级到第五代英特尔®至强®平台

    发布全新一代基于第五代英特尔®至强®可扩展处理的宝德服务器。   卓越性能,新一代宝德服务器为计算用户提供更优选 第五代英特尔®至强®处理
    的头像 发表于 12-21 16:12 680次阅读
    宝德<b class='flag-5'>服务器</b>全面升级到第五代<b class='flag-5'>英特尔</b>®至强®平台

    64核+高内存带宽!英特尔发布第五代至强服务器,加速AI原生应用落地

    使用第五代至强开发新品服务器和大模型训练的案例。 这款产品是英特尔最强AI性能的CPU,采用了Intel7工艺,该处理拥有多达64 核,具备8 条 DDR5 通道,支持高达5,600 MT/s的传输速率,三级缓存是上一代产品的
    的头像 发表于 12-20 00:26 2046次阅读