0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

浪潮信息NF5468系列AI服务器率先支持英伟达最新推出的L40S GPU

浪潮AIHPC 来源:浪潮AIHPC 2023-09-22 11:20 次阅读

浪潮信息宣布旗下NF5468系列AI服务器率先支持英伟达最新推出的L40S GPU,可为人工智能大模型训练和推理、元宇宙及图形视频处理等应用提供强大算力。实际测试表明,搭载8颗NVIDIA L40S的浪潮信息NF5468服务器大幅提升了LLaMA大模型的微调训练性能。目前该产品已具备交付能力,客户可以进行下单采购。

本次浪潮信息推出的算力系统是兼具训练和推理能力的NF5468系列AI服务器,包括NF5468M6、NF5468A5、NF5468M7、NF5468A7等型号,产品可以在4U空间内搭载2颗高性能通用处理器、8张L40S GPU加速器及多颗高速互联网络,从而满足大模型计算对高算力、高互联的极致性能需求。在软件上,产品支持浪潮信息最新推出的OGAI大模型智算软件栈,为客户提供高效的大模型生产力支撑。

针对业界广泛使用的LLaMA开源大型语言模型,浪潮信息NF5468服务器搭载8颗L40S GPU进行了大模型训练性能测试,得益于浪潮信息在NF5468服务器的优秀设计和大模型算法上的专业经验,L40S GPU的强大性能得以充分发挥,实际测试数据表明LLaMA大模型微调训练性能优异。

浪潮信息NF5468系列AI服务器搭载L40S GPU可以很好地完成LLaMA大模型训练任务,并具备良好的性能扩展,将帮助客户迅速部署高性能的AI算力系统、采纳强大的GPU加速器和领先的软件生态,加速生成式AI的产业创新和发展。

审核编辑:彭菁

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4804

    浏览量

    129575
  • 浪潮
    +关注

    关注

    1

    文章

    471

    浏览量

    23978
  • 人工智能
    +关注

    关注

    1798

    文章

    47956

    浏览量

    241120
  • 英伟达
    +关注

    关注

    22

    文章

    3862

    浏览量

    92222
  • AI服务器
    +关注

    关注

    2

    文章

    115

    浏览量

    4998

原文标题:浪潮信息AI服务器率先支持L40S, 首发LLaMA训练优异性能

文章出处:【微信号:浪潮AIHPC,微信公众号:浪潮AIHPC】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    相关推荐

    浪潮信息发布元脑R1推理服务器

    近日,浪潮信息正式推出了其创新的元脑R1推理服务器。这款服务器通过系统的创新与软硬件的协同优化,实现了对DeepSeek R1 671B模型的单机部署与运行,为客户在智能应用部署方面带
    的头像 发表于 02-17 10:32 261次阅读

    浪潮信息升级数据中心服务器故障智能诊断AIOps技术

    近日,浪潮信息对其数据中心服务器故障智能诊断AIOps技术进行了全面升级。该技术旨在解决数据中心服务器日常巡检中故障人工识别效率低、难以精准定位的问题。 基于数百万台服务器的运维管理经
    的头像 发表于 12-31 13:38 294次阅读

    英伟GB300 AI服务器订单配置初定

    海在内的多家供应商展开了紧密合作。目前,这些供应商已进入GB300的研发设计阶段,为产品的顺利推出奠定了坚实基础。 在订单配置上,鸿海继续担当着英伟GB300的最大供应商角色。预计明年上半年,鸿海将
    的头像 发表于 12-25 10:52 512次阅读

    中国边缘服务器市场持续两位数增长,浪潮信息蝉联第一

    近日,IDC正式发布《中国半年度边缘服务器市场(2024上半年)跟踪报告》(以下简称:报告)。数据显示,2024上半年中国边缘计算服务器市场保持高速增长,出货量同比增长40.6%。其中浪潮信息边缘
    的头像 发表于 11-17 10:30 341次阅读
    中国边缘<b class='flag-5'>服务器</b>市场持续两位数增长,<b class='flag-5'>浪潮信息</b>蝉联第一

    浪潮信息发布KOS AI定制版,大幅提升大模型训练效率

    浪潮信息近期推出了“元脑服务器操作系统KOS AI定制版”,为人工智能领域带来了革命性的变化。这款定制版操作系统通过简单的两步操作,即可实现大模型训练环境的快速部署。
    的头像 发表于 10-30 17:23 615次阅读

    英伟AI服务器将革新采用插槽式设计

    英伟AI服务器领域即将迎来重大变革。据里昂证券最新发布的报告预测,从明年下半年起,英伟的旗舰
    的头像 发表于 09-27 11:47 456次阅读

    浪潮信息推出AIGC存储解决方案

    近日,在科技创新的浪潮中,浪潮信息成功举办了“元脑中国行”全国巡展的杭州站活动,此次盛会不仅汇聚了业界的精英与目光,更见证了浪潮信息在AIGC(人工智能生成内容)领域的一次重大突破。会上,浪潮
    的头像 发表于 07-03 11:16 833次阅读

    英伟新业务动向:AI服务器市场的新变局

    在全球AI技术迅猛发展的浪潮中,英伟正积极布局,寻求新的业务增长点。据最新报道,英伟计划为其
    的头像 发表于 06-21 14:11 1110次阅读

    浪潮信息元脑®服务器率先支持英特尔®至强®6处理

    北京2024年6月7日 /美通社/ -- 6月6日,英特尔在全球范围内发布了英特尔®至强®6处理浪潮信息服务器产品线总经理赵帅受邀参会并发表演讲。会上,浪潮信息多款元脑
    的头像 发表于 06-07 15:36 451次阅读
    <b class='flag-5'>浪潮信息</b>元脑®<b class='flag-5'>服务器</b><b class='flag-5'>率先</b><b class='flag-5'>支持</b>英特尔®至强®6处理<b class='flag-5'>器</b>

    浪潮信息发布AS13000G7-N系列分布式全闪存储

    浪潮信息近日推出了专为大型AI模型优化的AS13000G7-N系列分布式全闪存储。该系列基于浪潮信息
    的头像 发表于 05-14 10:03 651次阅读

    进一步解读英伟 Blackwell 架构、NVlink及GB200 超级芯片

    GPU。在NVL72系统中,NVLink Switch实惊人的130TB/sGPU带宽,极大增强大型模型的并行处理能力,使得多服务器集群可以随着计算量的增加而扩展
    发表于 05-13 17:16

    浪潮信息推出业界首个支持50℃进液温度的服务器

    近日,浪潮信息再次突破技术边界,其旗舰产品NF5180G7服务器成为业界瞩目焦点。这款服务器不仅实现了1U空间内的超高密度设计,更在散热技术上取得了革命性进展,成为首个
    的头像 发表于 05-09 11:27 728次阅读

    浪潮信息突破浸没式液冷服务器设计极限 业界首个支持50℃进液温度

    北京2024年5月6日 /美通社/ -- 近日,浪潮信息旗下产品NF5180G7成为业界首个可支持浸没式液冷50℃进液温度的服务器NF51
    的头像 发表于 05-06 20:46 508次阅读
    <b class='flag-5'>浪潮信息</b>突破浸没式液冷<b class='flag-5'>服务器</b>设计极限 业界首个<b class='flag-5'>支持</b>50℃进液温度

    英伟首次向OpenAI供应AI服务器,鸿海出货预期将增长

    自2017年起,鸿海便开始与英伟合作开发服务器,其中包括世界上首台AI服务器HGX1。值得注意的是,OpenAI成立之初,有一张照片展示了
    的头像 发表于 04-26 16:18 1037次阅读

    英伟AI服务器NVLink版与PCIe版有何区别?又如何选择呢?

    在人工智能领域,英伟作为行业领军者,推出了两种主要的GPU版本供AI服务器选择——NVLink
    的头像 发表于 03-19 11:21 6228次阅读
    <b class='flag-5'>英伟</b><b class='flag-5'>达</b><b class='flag-5'>AI</b><b class='flag-5'>服务器</b>NVLink版与PCIe版有何区别?又如何选择呢?