0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

对比两个基于Redis下的存储方案在性能方面的优劣

冬至配饺子 来源:开发内功修炼 作者:张彦飞allen 2022-08-30 17:13 次阅读

现代的开发语言除了C++以外,大部分都对内存管理做好了封装,一般的开发者根本都接触不到内存的底层操作。更何况现在各种优秀的开源组件应用越来越多,例如mysql、redis等,这些甚至都不需要大家动手开发,直接拿来用就好了。所以有些同学也会觉得作为应用层开发的同学没有学习的必要去学习底层。

但我想通过本文的实际案例告诉大家,哪怕不直接接触内存底层操作,就只是用一些开源的工具,如果你能理解底层的工作原理,你也能够用到极致。

1 用于访问历史存储需求

假如现在有这样一个业务需求,用户每次刷新都需要获得要消费的新数据,但是不能和之前访问过的历史重复。你可以把它和你经常在用的今日头条之类的信息流app联系起来。每次都要看到新的新闻,但是你肯定不想看到过去已经看过的文章。这样在功能实现的时候,就必要保存用户的访问历史。当用户再来刷新的时候,首先得获取用户的历史记录,要保证推给用户的数据和之前的不重复。当推荐完成的时候,也需要把这次新推荐过的数据id记录到历史里。

为了适当降低实现复杂度,我们可以规定每个用户只要不和过去的一万条记录重复就可以了。这样每个用户最多只需要保存一万条历史id,如果存满了就把最早的历史记录挤掉。我们进一步具体化一下这个需求的几个关键点:

每个数据id是一个int整数来表示

每个用户要保存1万条id

每次用户刷新开始的时候需要将这1万条历史全部读取出来过滤一遍

每次用户刷新结束的时候需要将新访问过的10条写入一遍,如果超过1万需将最早的记录挤掉

可见,每次用户访问的时候,会涉及到一个1万规模的数据集上的一次读取和一次写入操作。好了,需求描述完了,我们怎么样进行我们的技术方案的设计呢?相信你也能想到很多实现方案,我们今天来对比两个基于Redis下的存储方案在性能方面的优劣。

2 Redis方案一:用list存储

首先能想到的第一个办法就是用Redis的List来保存。因为这个数据结构设计的太适合上面的场景了。List下的lrange命令可以实现一次性读取用户的所有数据id的需求。

$redis->lrange('TEST_KEY', 0,9999);

lpush命令可以实现新的数据id的写入,ltrim可以保证将用户的记录数量不超过1万条。

pYYBAGMN08uAUdOAAAAnX5dIbiQ827.png

我们准备一个用户,提前存好一万条id。写入的时候每次只写入10条新的id,读取的时候通过lrange一次全部读取出来。进行一下性能耗时测试,结果如下。

poYBAGMN09uAQwwVAAA8KE_cBD0711.png

3 Redis方案二:用string存储

我能想到的另外一个技术方案就是直接用String来存。我们可以把1万个int表示的数据id拼接成一个字符串,用一个特殊的字符把他们分割开。例如:"100000_100001_10002"这种。存储的时候,拼接一下,然后把这个大字符串写到Redis里。读取的时候,把大字符串整体读取出来,然后再用字符切割成数组来使用。

由于用string存储的时候,保存前多了一个拼接字符串的操作,读取后多了一步将字符串分割成数组的操作。在测试string方案的时候,为了公平起见,我们把需要把这两步的开销也考虑进来。核心代码如下:

poYBAGMN0_CAWg8LAABH9kH-xPI569.png

耗时测试结果如下

pYYBAGMN0_aACu3kAAAvCYE15Dw687.png

4 结论

我们再直观对比下两个技术方案的性能数据。

pYYBAGMN1AyAZMp0AAA3xaNNfdE101.png

基于list的方案里,写入速度非常快,只需要0.066ms,因为仅仅只需要写入新添加的10条记录就可以了,再加一次链表的截断操作,但是读取性能可就要慢很多了,超过了4ms。原因之一是因为读取需要整体遍历,但其实还有第二个原因。我们本案例中的数据量过大,所以Redis在内部实际上是用双端链表来实现的。

pYYBAGMN1B-ANd5bAABpFFSQs0I221.png

通过上图你可能看出来,链表是通过指针串起来的。大量的node之间极大可能是随机地分布在内存的各个位置上,这样你遍历整个链表的时候,实际上大概率会导致内存的随机模式下工作。

基于string方案在写入的时候耗时比list要高,因为每次都得需要将1万条全部写入一遍。但是读取性能却比list高了10倍,总体上耗时加起来大约只有方案一的1/4左右。为什么?我们再来看下redis string数据结构的内存布局

poYBAGMN1EGATahpAABZyrvxW70481.png

可见,如果用string来存储的话,不管用户的数据id有多少,访问将全部都是顺序IO。顺序IO的好处有两点:

1. 一内存的顺序IO的耗时大约只是随机IO的1/3-1/4左右,

2. 对于读取来说,顺序访问将极大地提升CPU的L1、L2、L3的cache命中率

所以如果你深入了内存的工作原理,哪怕你不能直接去操作内存,即使只是用一些开源的软件,你也能够将它的性能发挥到极致~



审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储器
    +关注

    关注

    38

    文章

    7443

    浏览量

    163542
  • 字符串
    +关注

    关注

    1

    文章

    575

    浏览量

    20472
  • Redis
    +关注

    关注

    0

    文章

    370

    浏览量

    10832
收藏 人收藏

    评论

    相关推荐

    使用ADS8691有两个参数方面的疑问求解

    你好,我现在在使用ADS8691,现在有两个参数方面的疑问。 第一是转换时间,如图所示 CS从拉低开始转换,到RVS跳变为高电平表示转换完成的时间有1.6us,远远大于手册里所说的665ns
    发表于 08-19 08:27

    【爱芯派 Pro 开发板试用体验】Redis源码编译和基准测试

    Redis基准测试。测试结果显示,爱芯派上Redis性能明显由于树莓派4B,这一定程度上说明——爱芯派的CPU、内存综合性能优于树莓派4B。 一、
    发表于 12-10 22:18

    【昉·星光 2 高性能RISC-V单板计算机体验】Redis源码编译和性能测试以及与树莓派4B对比

    ,VisionFive2成绩高于树莓派4B,说明CPU、内存、缓存综合性能方面VisionFive2并不比树莓派4B差。 五、参考链接 Redis官网: https://
    发表于 12-10 21:27

    redis是关系型数据库吗

    Server)是一开源的高性能键值对存储系统。它使用C语言编写,具有内存中数据存储和持久化到硬盘的功能。Redis支持多种数据结构,如字
    的头像 发表于 12-05 10:32 1478次阅读

    redis多线程还能保证线程安全吗

    Redis是一种使用C语言编写的高性能键值存储系统,它是单线程的,因为使用了多路复用的方式来处理并发请求。这样的实现方式带来了很好的性能,但同时也引发了一些线程安全
    的头像 发表于 12-05 10:28 1653次阅读

    redis使用多线程处理操作命令

    Redis 多线程处理操作命令的实现和优势,帮助读者深入了解这一方面的知识。 首先,我们来了解一 Redis 的基本概念和工作原理。Redis
    的头像 发表于 12-05 10:25 532次阅读

    redis的主要方法

    Redis是一种基于内存的开源键值对存储系统,常用于缓存、消息中间件、数据库等场景。作为一性能的NoSQL存储解决
    的头像 发表于 12-05 09:59 767次阅读

    redis的原理和使用场景

    、消息队列、实时分析、排行榜和计数器等场景。本文将详细介绍Redis的原理和使用场景。 一、Redis的原理 Redis的原理主要包括以下几个方面: 内存数据库:
    的头像 发表于 12-04 16:29 556次阅读

    redis的哨兵和集群有什么区别

    Redis是一开源的内存数据库,被广泛用于构建高性能和可扩展的应用程序。使用Redis时,有
    的头像 发表于 12-04 14:53 2783次阅读

    redis和rabbitMQ的区别

    Redis和RabbitMQ是两个流行的开源消息传递技术,用于构建高可靠、可扩展和可扩展的应用程序。虽然它们都用于实现消息传递机制,但它们设计和运作方式上存在一些不同之处。本文中,
    的头像 发表于 12-04 14:48 1264次阅读

    redis集群性能测试工具有哪些

    Redis是一种高性能的内存键值存储系统,它被广泛应用于各种互联网应用和大规模的数据存储中。为了评估Redis
    的头像 发表于 12-04 11:36 746次阅读

    redis连接数对性能测试影响

    Redis是一基于内存的键值存储数据库,它以其高性能和低延迟而闻名。使用Redis进行
    的头像 发表于 12-04 11:33 939次阅读

    redis种持久化方式的区别

    Redis是一款高性能、开源的键值存储数据库,它支持多种数据结构,并且具有高效的内存读写以及持久化功能。Redis的持久化机制可以确保数据的持久存储
    的头像 发表于 12-04 11:12 486次阅读

    ADP5134:集成两个性能降压稳压器和两个低压差稳压器应用

    电子发烧友网站提供《ADP5134:集成两个性能降压稳压器和两个低压差稳压器应用.pdf》资料免费下载
    发表于 11-29 11:08 0次下载
    ADP5134:集成<b class='flag-5'>两个</b>高<b class='flag-5'>性能</b>降压稳压器和<b class='flag-5'>两个</b>低压差稳压器应用

    redis与mysql如何保持数据一致性

    Redis和MySQL是两个常用的数据库系统,它们都有自己的特点和用途。某些场景,我们可能需要将Redis和MySQL进行结合使用,并保
    的头像 发表于 11-16 11:27 891次阅读