浪潮信息NF5468服务器LLaMA训练性能
浪潮信息宣布旗下NF5468系列AI服务器率先支持英伟达最新推出的L40S GPU，可为人工智能大模型训练和推理、元宇宙及图形视频处理等应用提供强大算力。实际测试表明，搭载8颗NVIDIA L40S的浪潮信息NF5468服务器大幅提升了LLaMA大模型的微调训练性能。目前该产品已具备交付能力，客户可以进行下单采购。
本次浪潮信息推出的算力系统是兼具训练和推理能力的NF5468系列AI服务器，包括NF5468M6、NF5468A5、NF5468M7、NF5468A7等型号，产品可以在4U空间内搭载2颗高性能通用处理器、8张L40S GPU加速器及多颗高速互联网络，从而满足大模型计算对高算力、高互联的极致性能需求。在软件上，产品支持浪潮信息最新推出的OGAI大模型智算软件栈，为客户提供高效的大模型生产力支撑。
针对业界广泛使用的LLaMA开源大型语言模型，浪潮信息NF5468服务器搭载8颗L40S GPU进行了大模型训练性能测试，得益于浪潮信息在NF5468服务器的优秀设计和大模型算法上的专业经验，L40S GPU的强大性能得以充分发挥，实际测试数据表明LLaMA大模型微调训练性能优异。
浪潮信息NF5468系列AI服务器搭载L40S GPU可以很好地完成LLaMA大模型训练任务，并具备良好的性能扩展，将帮助客户迅速部署高性能的AI算力系统、采纳强大的GPU加速器和领先的软件生态，加速生成式AI的产业创新和发展。
审核编辑：汤梓红
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
服务器
+关注
关注
12文章
9097浏览量
85309 -
浪潮
+关注
关注
1文章
457浏览量
23845 -
AI
+关注
关注
87文章
30643浏览量
268824 -
大模型
+关注
关注
2文章
2407浏览量
2622
发布评论请先 登录
相关推荐
中国边缘服务器市场持续两位数增长，浪潮信息蝉联第一
近日，IDC正式发布《中国半年度边缘服务器市场（2024上半年）跟踪报告》（以下简称：报告）。数据显示，2024上半年中国边缘计算服务器市场保持高速增长，出货量同比增长40.6%。其中浪潮信息边缘
浪潮信息发布KOS AI定制版，大幅提升大模型训练效率
浪潮信息近期推出了“元脑服务器操作系统KOS AI定制版”，为人工智能领域带来了革命性的变化。这款定制版操作系统通过简单的两步操作，即可实现大模型训练环境的快速部署。
浪潮信息AI存储性能测试的领先之道
AI技术的无限可能。近日，在MLCommons的子项目MLPerf Storage v1.0性能基准评测中，浪潮信息再度展现了在AI存储领域的卓越实力。
让服务器开机远离飞机起飞！浪潮信息首创3秒智能控温技术，降噪30.4%
？而且，伴随着风扇的呼啸声，服务器启动"龟速"，开机时间要3、5分钟甚至更久，严重影响了服务器运维部署效率。 通过BMC Linux/RTOS异构双系统并行管理技术，浪潮信息首创「开机3秒智能控温技术」，能够在
浪潮信息元脑®服务器率先支持英特尔®至强®6处理器
北京2024年6月7日 /美通社/ -- 6月6日，英特尔在全球范围内发布了英特尔®至强®6处理器，浪潮信息服务器产品线总经理赵帅受邀参会并发表演讲。会上，浪潮信息多款元脑
【中心动态】 走进浪潮信息
5月8日，RISC-V国际人才培养认证中心主任蒋学刚一行，到访浪潮电子信息产业股份有限公司（以下简称“浪潮信息”），受到深圳区域副总经理段青云、产品经理陶耀民的热情接待。浪潮信息是全球
浪潮信息推出业界首个支持50℃进液温度的服务器
近日，浪潮信息再次突破技术边界，其旗舰产品NF5180G7服务器成为业界瞩目焦点。这款服务器不仅实现了1U空间内的超高密度设计，更在散热技术上取得了革命性进展，成为首个支持浸没式液冷5
浪潮信息突破浸没式液冷服务器设计极限 业界首个支持50℃进液温度
北京2024年5月6日 /美通社/ -- 近日，浪潮信息旗下产品NF5180G7成为业界首个可支持浸没式液冷50℃进液温度的服务器。NF5180G7是一款超高密度
浪潮信息NE5260G7服务器适配第五代英特尔至强处理器
浪潮信息近日宣布，其边缘服务器NE5260G7已成功适配第五代英特尔至强处理器，实现了平均性能21%的提升。这一创新产品不仅针对边缘AI算力场景支持了10余种加速芯片，还在存储场景上实
浪潮信息服务器NF5180G7荣获SPECjbb2015性能冠军
近日，国际权威的标准性能评测机构（SPEC）公布了SPECjbb2015榜单，浪潮信息服务器NF5180G7凭借每秒558,626次企业应用业务处理的卓越成绩，蝉联
智邦国际与KeyarchOS完成浪潮信息澎湃技术认证
KeyarchOS V5完全兼容，整体运行稳定高效，满足用户的关键性应用需求，获得相应兼容性认证证书。 浪潮信息澎湃技术认证是基于多元、创新的通用计算平台，与供应链及软件服务等生态合作伙伴共同构建的产品互兼容性认证体系，包含"产品部件认证"、"平台软件认证"、
得瑞领新与KeyarchOS完成浪潮信息澎湃技术认证
北京2024年1月19日 /美通社/ -- 日前，北京得瑞领新科技有限公司（简称DERA）NVMe SSD D7436/ D7456与云峦服务器操作系统KeyarchOS完成浪潮信息澎湃技术认证
浪潮信息与英特尔联合发布全球首个全液冷冷板服务器参考设计
北京2024年1月19日 /美通社/ -- 1月18日，浪潮信息与英特尔联合发布全球首个全液冷冷板服务器参考设计，并面向业界开放，为全球液冷产业链上下游提供极具价值的参考样板，推动先进全液冷冷板
浪潮信息八路服务器创SAP SD评测最高性能
北京2024年1月17日 /美通社/ -- 1月15日，据全球领先的企业应用软件提供商SAP发布的最新SAP SD评测结果，浪潮信息TS860G7服务器创下1,659,970 SAPS的最高性能
浪潮信息EIS400自动驾驶域控制器结构体系解读
汽车的高性能运算可以算是边缘计算，浪潮信息是国内边缘计算服务器排名第一的厂家，自然也延伸到汽车自动驾驶领域。
发表于 01-12 10:45
•1135次阅读
工商网监
评论