浪潮信息宣布旗下NF5468系列AI服务器率先支持英伟达最新推出的L40S GPU,可为人工智能大模型训练和推理、元宇宙及图形视频处理等应用提供强大算力。实际测试表明,搭载8颗NVIDIA L40S的浪潮信息NF5468服务器大幅提升了LLaMA大模型的微调训练性能。目前该产品已具备交付能力,客户可以进行下单采购。
本次浪潮信息推出的算力系统是兼具训练和推理能力的NF5468系列AI服务器,包括NF5468M6、NF5468A5、NF5468M7、NF5468A7等型号,产品可以在4U空间内搭载2颗高性能通用处理器、8张L40S GPU加速器及多颗高速互联网络,从而满足大模型计算对高算力、高互联的极致性能需求。在软件上,产品支持浪潮信息最新推出的OGAI大模型智算软件栈,为客户提供高效的大模型生产力支撑。
针对业界广泛使用的LLaMA开源大型语言模型,浪潮信息NF5468服务器搭载8颗L40S GPU进行了大模型训练性能测试,得益于浪潮信息在NF5468服务器的优秀设计和大模型算法上的专业经验,L40S GPU的强大性能得以充分发挥,实际测试数据表明LLaMA大模型微调训练性能优异。
浪潮信息NF5468系列AI服务器搭载L40S GPU可以很好地完成LLaMA大模型训练任务,并具备良好的性能扩展,将帮助客户迅速部署高性能的AI算力系统、采纳强大的GPU加速器和领先的软件生态,加速生成式AI的产业创新和发展。
审核编辑:彭菁
-
gpu
+关注
关注
28文章
4804浏览量
129575 -
浪潮
+关注
关注
1文章
471浏览量
23978 -
人工智能
+关注
关注
1798文章
47956浏览量
241120 -
英伟达
+关注
关注
22文章
3862浏览量
92222 -
AI服务器
+关注
关注
2文章
115浏览量
4998
原文标题:浪潮信息AI服务器率先支持L40S, 首发LLaMA训练优异性能
文章出处:【微信号:浪潮AIHPC,微信公众号:浪潮AIHPC】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
相关推荐
浪潮信息发布元脑R1推理服务器
浪潮信息升级数据中心服务器故障智能诊断AIOps技术
英伟达GB300 AI服务器订单配置初定
中国边缘服务器市场持续两位数增长,浪潮信息蝉联第一

浪潮信息发布KOS AI定制版,大幅提升大模型训练效率
浪潮信息推出AIGC存储解决方案
浪潮信息元脑®服务器率先支持英特尔®至强®6处理器

浪潮信息发布AS13000G7-N系列分布式全闪存储
进一步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片
浪潮信息推出业界首个支持50℃进液温度的服务器
浪潮信息突破浸没式液冷服务器设计极限 业界首个支持50℃进液温度

评论