0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

探讨大模型时代背景下数据存储的变革之道

浪潮存储 来源:浪潮存储 2024-12-16 14:05 次阅读

在当今数字化浪潮汹涌澎湃的时代背景下,大模型技术犹如一颗璀璨的明星,照亮了科技发展的广阔苍穹,而存储技术的变革,作为这一进程中的坚实基石,正日益成为产业界与学术界共同瞩目的核心焦点。

为此,浪潮信息联合DOIT推出《有数·高端对话》栏目,分布式存储产品线总经理姜乐果及DOIT传媒主编李祥敬,与特邀嘉宾上海交通大学吴晨涛和中科闻歌陈思含共同围绕大模型的存储需求变化,展开了一场深度对话。深入探讨大模型时代背景下数据存储的变革之道,共话数字经济的创新发展,进一步夯实数据基础设施,充分释放数据资源的巨大价值,为广大行业同仁及用户提供价值参考与启示。

大模型驱动存储变革

大模型技术的迅猛发展对存储系统提出了极为严苛的要求。以GPT-4为例,其参数量达到了2200亿,每张GPU配备的HBM显存带宽达1.6TB/s,整体训练所需的显存容量接近400TB。根据Meta等公司的调研数据显示,大模型在运行过程中会频繁遭遇内存故障,平均每2-3小时便可能导致一次训练中断,这无疑对存储系统的安全可靠性提出了极高的标准。吴晨涛教授以GPT-4等前沿模型作为实例,清晰阐明了大容量HBM显存、高带宽以及高可靠性是存储系统不可或缺的三大核心特性。

同时,从宏观角度出发,吴教授呼吁建立开放的数据生态。在这一生态中,通过强化监管与隐私保护,旨在打破数据孤岛,促进数据的流动与共享,为高质量数据的充分涌流开辟道路,从而为行业大模型的发展提供持续不断的动力。

作为存储厂商的代表,姜乐果从存储技术进化的视角出发,详细阐述了在大模型驱动下,传统计算与当前智算中心存储设施的全方位变革。在性能层面,智算中心对存储性能的要求已从百GB级跃迁至TB级,与算力协同攀升;在容量维度,存储系统已从PB级大步迈向EB级,轻松应对海量数据洪流的冲击。同时,数据格式与协议的多元化与复杂性日益显著,这对存储系统突破兼容壁垒提出了迫切需求。

姜乐果还展示了企业在数据要素市场的积极布局与创新探索。浪潮信息紧跟政策导向,与多方合作伙伴携手,深入挖掘行业需求,精心研发端到端的解决方案及高性能存储新品。例如,新一代分布式存储平台AS13000G7系列产品在MLPerf AI存储基准评测中表现出色,在3D-UNet(医学图像分割)和CosmoFlow(宇宙学参数预测)两个应用场景共计8项测试中,斩获5项全球第一,彰显强大的性能实力,为行业大模型数据存储难题提供有力支撑。

中科闻歌作为一家专注于复杂数据解析和AI辅助决策的人工智能公司,陈思含分享了中科闻歌在大模型实践中的宝贵经验。在大模型的发展历程中,存储需求经历了显著的动态演变:从早期对训练速度的追求导致存储性能需求激增,到参数量膨胀带来的数据量与参数规模指数级增长,再到多模态数据处理对存储复杂性的严格要求,以及混合读写模式和多样化应用场景引发的多元化需求。

数据质量作为行业大模型发展的核心驱动力,中科闻歌在此方面进行了创新实践。集成了全球多语言媒体数据的闻海大数据平台,运用跨模态AI技术融合信息,构建了垂直领域知识库,并提供模块化的智能大屏工具。这一平台不仅具备全球范围内高效、安全获取和处理高质量数据的能力,还成为训练大模型所需高质量数据的主要数据源和知识库。

在为客户提供大模型落地产品和系统时,中科闻歌采取了混合模式,即结合公司自身海量数据与用户的私有行业数据进行模型训练和应用构建,确保了客户的数据安全,避免了数据出域的风险。

协同创新下的趋势展望

展望未来存储发展,吴晨涛教授立足学术前沿,前瞻性地预判了关键技术走向。他认为,跨域资源调度共享技术,特别是基于CXL协议的内存池创新,将打破资源限制,实现全域资源的灵动调配。同时,优化元数据管理将提升数据检索与处理效率,而内存故障预测及 Checkpointing 技术则能确保系统稳定运行,最大限度地减少故障对数据处理连续性和完整性的影响。这些技术的迭代升级将为存储技术的发展指明方向。

作为存储厂商的代表,浪潮信息积极拥抱变革,从Storage for AI深度适配需求,到AI for Storage智能赋能提效,再到与大模型企业紧密合作,精准挖掘系统性能潜能,为用户提供更贴合业务的产品。

作为大模型企业的代表,中科闻歌致力于打造高效、安全和可靠的存储系统,以适应大模型时代的新要求。在架构上,采用存算分离架构部署AI-Ready数据基础设施,以加速智能应用。在效率提升方面,全闪存存储凭借其卓越性能成为破局关键,能够加速数据流转,激活数据价值。而在安全防护层面,中科闻歌构建主动防御体系,从内核强化存储安全,筑牢安全防线。

此次对话栏目的成功举办,不仅搭建了产学研用之间的沟通桥梁,还为各方的深度合作提供了宝贵的机会。各方代表能够相互交流思想、碰撞火花,共同探讨大模型时代下的存储技术变革。这一举措为产学研用四方携手共进创造了难得契机,共同迎接大模型时代带来的存储变革浪潮,推动我国存储产业的繁荣发展。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据存储
    +关注

    关注

    5

    文章

    970

    浏览量

    50890
  • 浪潮
    +关注

    关注

    1

    文章

    457

    浏览量

    23845
  • 大模型
    +关注

    关注

    2

    文章

    2407

    浏览量

    2621

原文标题:浪潮信息《有数·高端对话》:大模型时代存储变革,产学研用共探新局

文章出处:【微信号:inspurstorage,微信公众号:浪潮存储】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    AIGC时代的大前端分论坛亮点前瞻

    在人工智能和大模型技术迅猛发展的背景,软件行业正经历着深刻的变革。“万物皆可AI”的理念不仅重塑了后端开发,同时也为前端领域带来了前所未有的挑战与机遇。
    的头像 发表于 12-16 15:03 189次阅读

    AI存储瓶颈破解之道,西部数据用前沿技术持续引领存储革命

    当前,人工智能已经成为推动企业创新和可持续发展的核心驱动力。随着生成式AI时代的到来,各种大模型应用层出不穷,人们在关注算力和算法的同时,构建先进的数据存储系统,满足海量
    的头像 发表于 11-30 08:27 266次阅读

    浪潮信息如何应对智能时代数据存储需求

    随着智能时代的全面到来,数据量呈现出爆炸性增长,这对存储系统提出了前所未有的高标准要求。从早期的“百模大战”演进至“千模大战”,现已迈入了一个以数据为核心的新
    的头像 发表于 11-26 13:42 191次阅读

    NVIDIA Omniverse加速零售数字化转型

    模型、生成式 AI、数字孪生技术等前沿科技启发了各行各业的新业务模态,在这一时代背景 NVIDIA 作为 AI 技术的耕耘者、加速计算方面的领导者,看到了数字化浪潮中前所未有的变革
    的头像 发表于 11-09 13:52 295次阅读

    制造业数字化转型:痛点与需求并行

    制造业数字化转型是时代背景的迫切需求,人才需求多元化。数字化转型的推进需要数据分析与管理、信息技术与系统集成、人工智能与机器学习、制造工艺与自动化、项目管理与变革管理等多领域人才的共
    的头像 发表于 10-31 11:48 274次阅读
    制造业数字化转型:痛点与需求并行

    凯茉锐电子 工业4.0时代的索尼高清机芯FCB-CV7520:打造智能检测新标杆

    在工业4.0时代背景,索尼高清机芯FCB-CV7520凭借其卓越的性能和多功能性,在智能检测领域树立了新的标杆。以下是对该机芯的详细分析:
    的头像 发表于 10-31 10:44 208次阅读

    科大讯飞:以AI为驱动引领智能硬件与智慧终端新时代浪潮

    、紫光展锐、Intel、科大讯飞等,共同探讨了AI时代背景全球存储产业的创新发展路径及生态合作策略。峰会期间,GMIF2024年度大奖揭晓,共有38家产业链上的关键企业荣获殊荣。
    的头像 发表于 10-18 16:13 748次阅读

    开启数字化时代的智能园区:破局之道

    运营水平。古河云科技将探讨在数字转型时代背景,智慧园区如何破局,实现可持续发展和智能化管理。 1. 数据驱动决策: 在数字转型的大趋势
    的头像 发表于 10-17 14:08 194次阅读

    科技云报到:大模型时代,向量数据库的野望

    科技云报到:大模型时代,向量数据库的野望
    的头像 发表于 10-14 17:18 242次阅读

    模型时代的算力需求

    现在AI已进入大模型时代,各企业都争相部署大模型,但如何保证大模型的算力,以及相关的稳定性和性能,是一个极为重要的问题,带着这个极为重要的问题,我需要在此书中找到答案。
    发表于 08-20 09:04

    探讨数字化背景PMC的挑战和机遇

    在数字化浪潮的席卷,各行各业都面临着前所未有的变革。对于负责产品物料控制(PMC)的企业来说,这一变革既是挑战也是机遇。如何在数字化背景
    的头像 发表于 07-05 11:03 446次阅读

    探讨数字化背景VSM(价值流程图)的挑战和机遇

    变革?深圳天行健精益管理咨询公司解析如下: 一、VSM在数字化背景的挑战 传统VSM的实施依赖于大量的手工数据收集和分析,这在数字化时代
    的头像 发表于 06-25 09:24 347次阅读

    CCF-TCIST走进浪潮信息 共话AI时代存储创新

    CCF信息存储技术专委会走进浪潮信息 共话大模型时代存储创新之道 北京2024年6月7日 /美通社/ -- 近日,中国计算机学会信息
    的头像 发表于 06-07 14:27 280次阅读
    CCF-TCIST走进浪潮信息 共话AI<b class='flag-5'>时代</b><b class='flag-5'>存储</b>创新

    华为发布星河AI制造网络,构筑智能制造新基座

    近日,华为AI+制造行业峰会智能联接论坛在深圳举办,华为携手众多客户、伙伴共同探讨了在AI时代背景制造网络的新趋势和前沿解决方案。
    的头像 发表于 05-19 11:08 551次阅读

    模型应用开发之道圆满举办

    ,众多人工智能领域的从业者和技术专家齐聚一堂,围绕大模型应用开发的现状和未来发展等相关话题,碰撞出了诸多思想的火花。 业内专家齐聚 探讨模型开发之路 论坛由开放原子开源基金会TOC主席 谭中意 担任出品人,在CSDN内容生态总
    的头像 发表于 12-21 19:35 662次阅读