0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

如何更加高效的提升存储系统性能?

浪潮存储 来源:浪潮存储 2020-06-13 11:15 次阅读

随着智慧化转型的不断加速

数据被越来越多的应用于营销、决策和分析

快速响应能力已经成为企业的决胜因素

数据存储性能是业务加速的关键核心

如何更加高效的提升存储系统性能?

浪潮存储在新一代G5存储平台上,打造【iTurbo智能引擎】硬核技术,构建起一套如汽车自动变速引擎的黑科技,让存储系统可以根据前端应用自适应和调配不同数据处理策略,实现智能的IO感知、路径选择、组织和调度,为存储带来创新的加速方案。

今天就让我们一起探秘

【iTurbo智能引擎】的核心技术之一

智能IO感知技术

智能缓存预读

实现“热”升“冷”降的数据电梯

介绍缓存预读之前,我们首先要搞清楚关于缓存的两个基本问题:

一:为什么要用缓存?

二:缓存是如何工作的?

为什么要用缓存?

大家知道,CPU 的运行速度比磁盘的速度快很多倍,这样会导致 CPU 需等待磁盘完成处理后才能继续下一道指令, 缓存的处理速度能够跟得上 CPU,它作为CPU与磁盘之间的过渡,很好的解决了这一问题。当CPU处理完数据后,将数据直接发送给缓存,然后立即向应用返回确认,缓存中数据达到一定水位定期写入磁盘,从而提升效率。

缓存是如何工作的?

在程序运行过程中,缓存会有一个局部性原理,即程序会频繁访问局部缓存。如果缓存地址变换频繁,那么缓存中存放的数据就会频繁改变;如果程序频繁访问局部数据,那么缓存中的数据改变就不会很大。因而命中率就会提高,CPU的运行效率也会提升。

浪潮存储的缓存工作原理

由此可知,衡量缓存管理的优劣有两个指标:

一:缓存命中率,命中率高,性能就高,否则反之。

二:有效缓存的比率,有效缓存是指真正会被访问到的缓存项,如果有效缓存的比率偏低,则相当部分磁盘带宽会被浪费到读取无用缓存上,而且无用缓存会间接导致系统缓存紧张,最后可能会严重影响性能。 现在我们清楚了缓存的工作原理及性能指标。

那么为了充分发挥缓存的作用,仅仅依靠“暂存刚刚访问过的数据”是远远不够的,还要通过使用数据预读算法——尽可能把将要使用的数据预先从内存中取到缓存里。

那么关键问题来了:如何精准判断哪些数据是应用程序将要使用的数据?当缓存写满时,如何判断哪些数据被淘汰?

这就是浪潮存储缓存预读算法的精髓所在,我们来深入剖析浪潮存储缓存预读的工作原理。

一方面,浪潮存储基于缓存预读 可精准判断数据热度浪潮存储的缓存预读算法,可以根据历史数据的I/O模式,通过智能分析、预判将要访问的数据,提前将这些数据预读到缓存中,提升缓存命中率,降低I/O访问时延。这里主要有两个关键技术要点:

浪潮存储的智能缓存预读算法

一:自适应缓存预读策略读I/O分为随机读和顺序读两大类,为了保证预读命中率,针对不同的I/O模式采用不同的预读算法。对于顺序读根据区域地址进行顺序预读,对于随机读根据区域热度进行预读。根据不同的读I/O模式两种预读策略动态调整,不仅可以保证很高的预读命中率,同时有效率/覆盖率也很好。

因为顺序读是最简单而普遍的,而随机读在内核来说也确实是难以预测的。内核通过验证如下两个条件来判定是否顺序读:该区域内容被第一次读,并且读的是首部;当前的读请求与前一个读请求在区域内的位置是连续的;如果不满足上述顺序性条件,就判定为随机读。预读策略根据读I/O模式不同动态调整。

二:预读粒度动态调整当确定了要进行顺序预读时,就需要决定合适的预读粒度。预读粒度太小的话,达不到应有的性能提升效果;预读太多,又有可能载入太多程序不需要的内容,造成资源浪费。为此,浪潮存储可根据实际的需求动态调整预读数据内容的粒度,从而提高缓存的有效率。如果缓存命中率提高,后续的预读粒度将逐次倍增,直到系统的最佳预读大小;随着缓存命中率降低,后续预读粒度将逐渐减小,直到系统的最佳预读大小。

另一方面,浪潮存储基于缓存替换算法 实现低访问数据下移

当缓存满了怎么办?不得覆盖掉一个,覆盖掉哪一个?这就是替换算法要解决的。

浪潮存储的缓存替换算法是基于预读数据的命中率,结合数据的访问热度,淘汰最近最少用的那一块,从而提升预读数据的有效性,保证预读持续、高效的正向性能提升。 我们的设计思路是,如果一个数据在最近一段时间没有被访问到,那么在将来它被访问的可能性也很小。也就是说,当限定的空间已存满数据时,应当把最久没有被访问到的数据淘汰。具体实现算法如下:

硬件缓存每一行都有一个计数器,用来记录被使用次数。

计数器变化规则: 每组4行时,计数器有两位,计数值越小则说明越被常用命中时被访问行的计数置0,比其低的计数器加1,其余不变未命中且该组未满时,新行计数器置为0,其余全加1未命中且该组已满时,计数值为3的那一行中的主存块被淘汰,新行计数器置为0,其余全加1

说到这里,估计大家还是没有看懂为了更加直观的展示算法原理,我们举个例子:

智能缓存替换算法原理

现在有四个格子,但是有 5 个不一样的块要进来,缓存替换过程如下:1 来,没有命中,1 进入缓存,计数器为 02 来,没有命中,2 进入缓存,2 计数器 0,1计数器为 1(对应第三条)3 来同上4 来同上1 又来,命中,1 的计数器变为 0,其余加 12 又来,命中,2 的计数器变为 0,其余加 15 来了,但是现在 Cache 满了,去掉哪一个呢?计数器最大的那个!…

特征数据识别

基于“逐字节”比对实现去重

根据用户的数据特征建立数据特征表单,当新的数据请求与表单中的特征匹配时,说明该部分数据已经落盘,这部分数据可以避免重复写入。

特征匹配采用近似匹配的策略,存在两份不同数据的特征一致的情况,为了确保用户的数据安全,每份不同的数据都能一字不落的存放起来,浪潮存储还对特征匹配的数据需要进行“逐字节”比较,为了降低逐字节比较时的访盘时延,系统会智能感知特征数据的访问热度,将频繁访问的热点特征数据提取到内存中,保证系统时延最低。

浪潮存储的特征数据识别算法

黑科技总结时间

浪潮存储【iTurbo智能引擎】的核心技术之一智能IO感知技术,通过自适应缓存预读算法对历史数据I/O模式进行分析、判断识别,对其提前读取到缓存,从而达到缓存最高命中率。当缓存写满时,通过独特的替换算法将使用最少数据的淘汰,将缓存发挥出其最大的价值,从而提升存储整体I/O性能;通过特征数据识别和逐字节的比较,在确保数据安全的前提下减少数据落盘,从而提高存储的性能及空间使用率。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储系统
    +关注

    关注

    2

    文章

    409

    浏览量

    40852
  • 感知技术
    +关注

    关注

    1

    文章

    36

    浏览量

    10049

原文标题:【科技放大镜】探秘iTurbo智能引擎黑科技 — 智能IO感知技术

文章出处:【微信号:inspurstorage,微信公众号:浪潮存储】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    单臂螺旋天线:提升无线通信系统性能的关键

    深圳探测器|单臂螺旋天线:提升无线通信系统性能的关键
    的头像 发表于 12-02 09:05 199次阅读

    华纳云:VFS在提升文件系统性能方面的具体实践

    VFS(Virtual File System)通过提供统一的接口和抽象层,使得操作系统能够以高效的方式管理和访问不同的文件系统。以下是一些VFS在提升文件
    的头像 发表于 11-27 15:59 168次阅读

    影响存储系统性能的因素

    和增长。然而,AI训练和推理对数据管理和存储提出了独特的挑战,因为它们需要处理庞大的数据,同时要求高性能、可扩展性和高可用性。
    的头像 发表于 11-18 10:35 263次阅读

    WDS分布式存储系统软件助力电信工程海量数据存储项目

    WDS分布式存储系统软件助力电信工程海量数据存储项目
    的头像 发表于 11-11 09:59 181次阅读
    WDS分布式<b class='flag-5'>存储系统</b>软件助力电信工程海量数据<b class='flag-5'>存储</b>项目

    如何优化emc存储性能

    在当今的数据中心环境中,存储性能对于业务连续性和数据访问速度至关重要。EMC作为领先的存储解决方案提供商,其产品线涵盖了从入门级到企业级的存储系统。然而,即使是最好的
    的头像 发表于 11-01 15:57 273次阅读

    emc企业级存储系统的特点

    在当今这个数据驱动的时代,企业对于数据存储的需求日益增长。EMC,作为全球领先的数据存储解决方案提供商,其企业级存储系统以其卓越的性能、可靠性和创新技术,为企业提供了一个强大的数据管理
    的头像 发表于 11-01 15:24 310次阅读

    SOLIDWORKS PDM 2025 新功能:强化效率与性能提升

    SOLIDWORKS 2025 也对PDM功能进行了多方面的改进,旨在提高工作效率,并增强系统性能。SOLIDWORKS PDM 持续致力于为用户提供更加高效、直观且灵活的数据管理解决方案。
    的头像 发表于 10-12 16:29 365次阅读

    计算机存储系统的工作原理和功能

    计算机存储系统作为计算机系统中至关重要的组成部分,其原理和功能对于理解计算机的运行机制具有关键意义。以下将详细阐述计算机存储系统的原理和功能。
    的头像 发表于 09-26 16:42 870次阅读

    计算机存储系统的构成

    计算机存储系统是计算机中用于存放程序和数据的设备或部件的集合,它构成了计算机信息处理的基础。一个完整的计算机存储系统通常包括多个层次的存储器,从高速缓存(Cache)到主存储器(Mai
    的头像 发表于 09-26 15:25 803次阅读

    基于分布式存储系统医疗影像数据存储解决方案

    基于分布式存储系统医疗影像数据存储解决方案
    的头像 发表于 09-14 09:53 305次阅读
    基于分布式<b class='flag-5'>存储系统</b>医疗影像数据<b class='flag-5'>存储</b>解决方案

    基于CSS融合存储系统的自动化制造服务平台存储解决方案

    基于CSS融合存储系统的自动化制造服务平台存储解决方案
    的头像 发表于 09-10 10:15 339次阅读
    基于CSS融合<b class='flag-5'>存储系统</b>的自动化制造服务平台<b class='flag-5'>存储</b>解决方案

    黑龙江电力高性能WDS分布式存储系统解决方案

    黑龙江电力高性能WDS分布式存储系统解决方案
    的头像 发表于 07-01 09:54 365次阅读
    黑龙江电力高<b class='flag-5'>性能</b>WDS分布式<b class='flag-5'>存储系统</b>解决方案

    IOPS:存储芯片的“心跳”性能

    IOPS,即每秒输入/输出操作数(Input/Output Operations Per Second),是一个用于计算机存储设备(如硬盘,SD Nand 、eMMC等)性能测试的量测方式,是评估存储系统性能的一个关键指标。
    的头像 发表于 05-27 09:25 2246次阅读
    IOPS:<b class='flag-5'>存储</b>芯片的“心跳”<b class='flag-5'>性能</b>

    兆芯携手智云创新推出高性能NVMe企业级存储系统

    面向持续增长的数字化转型与应用创新发展需求,兆芯携手智云创新,基于兆芯高性能自主处理器平台成功推出多款信创存储产品,包括高性能NVMe企业级存储系统、HS6000系列企业级
    的头像 发表于 04-12 14:06 553次阅读

    什么是智能存储系统?对比传统存储柜,智能存储柜有哪些优点?

    智能存储系统(IntelligentStorageSystem)是一种先进的数据存储解决方案,它结合了硬件、软件和自动化管理功能,以实现对数据存储的高度优化、高效能、高可用性和可扩展性
    的头像 发表于 03-05 13:53 494次阅读
    什么是智能<b class='flag-5'>存储系统</b>?对比传统<b class='flag-5'>存储</b>柜,智能<b class='flag-5'>存储</b>柜有哪些优点?