0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Redis的数据类型为何同时采用两种数据结构来进行分别存储呢

冬至配饺子 来源:CSDN 作者:双子孤狼 2022-08-17 11:26 次阅读

在 Redis 中,有一种数据类型,当在存储的时候会同时采用两种数据结构来进行分别存储,那么 Redis 为什么要这么做呢?这么做会造成同一份数据占用两倍空间吗?

五种基本类型之集合对象

Redis 中的集合对象是一个包含字符串类型元素的无序集合,集合中元素唯一不可重复。

集合对象的底层数据结构有两种:intset 和 hashtable。内部通过编码来进行区分:

poYBAGL8XeSAUZ_iAAA-5FAjWrU712.png

intset 编码

intset(整数集合)可以保存类型为 int16_t,int32_t,int64_t的整数值,并且保证集合中没有重复元素。intset 数据结构定义如下(源码 inset.h内):

pYYBAGL8XfeAVtzcAAA6de3dOvQ831.png

下图就是一个 intset 的集合对象存储简图:

poYBAGL8XgqAJ8KzAADB_N4oeYk943.png

encoding

在 intset 内部的 encoding 记录了当前整数集合的数据存储类型,主要有三种:

INTSET_ENC_INT16

此时contents[]内的每个元素都是一个 int16_t 类型的整数值,范围是:-32768 ~ 32767(-2 的 15 次方 ~ 2 的 15 次方 - 1)。

INTSET_ENC_INT32

此时contents[]内的每个元素都是一个 int32_t 类型的整数值,范围是:-2147483648 ~ 2147483647(-2 的 31 次方 ~ 2 的 31 次方 - 1)。

INTSET_ENC_INT64

此时contents[]内的每个元素都是一个 int64_t 类型的整数值,范围是:-9223372036854775808 ~ 9223372036854775807(-2 的 63 次方 ~ 2 的 63 次方 - 1)。

contents[]

contents[]虽然结构的定义上写的是 int8_t 类型,但是实际存储类型是由上面的 encoding 来决定的。

整数集合的升级

假如一开始整数集合中的元素都是 16 位的,采用 int16_t 类型来存储,此时需要再存储一个 32 位的整数,那么就需要对原先的整数集合进行升级,升级之后才能将 32 位的整数存储到整数集合内。这就涉及到了整数集合的类型升级,升级过程主要有 4 个步骤:

根据新添加元素的类型来扩展底层数组空间的大小,按照升级后现有元素的位数来分配新的空间。

将现有的元素进行类型转换,并将转换类型后的元素从后到前逐个重新放回到数组内。

将新元素放到数组的头部或者尾部(因为触发升级的条件就是当前数组的整数类型无法存储新元素,所以新元素要么比现有元素都大,要么就比现有元素都小)。

将 encoding 属性修改为最新的编码,并且同步修改 length 属性。

PS:和字符串对象的编码一样,整数集合的类型一旦发生升级,将会保持编码,无法降级。

升级示例

1.假如我们有一个集合存储的 encoding 是int16_t,内部存储了 3 个元素:

poYBAGL8Xh2ATripAAA358_fIAE425.png

2.这时候需要插入一个整数 50000,发现存储不下去,而 50000 是一个int32_t类型整数,所以需要申请新空间,申请空间大小为4 * 32 - 48=80。

poYBAGL8XiyAXUS5AABAdJ4BcFg312.png

3.现在新的数组内要放置 4 个元素,原来的数组排在第 3,所以需要将升级后的 3 移动到 64-95 位。

poYBAGL8XjuADyL3AAA-xx4xL4A073.png

4.继续将升级后的 2 移动到 32-63 位。

poYBAGL8XkuAKPVOAABCEV426gc268.png

5.继续将升级后的 1 移动到 0-31 位。

poYBAGL8XluAAMHwAAA6V3WL8KE386.png

6.然后会将 50000 放到 96-127 位。

poYBAGL8XmyAGBiyAAA8FfXmTf4400.png

7.最后会修改 encoding 和 length 属性,修改之后就完成了本次的升级。

hashtable 编码

hashtable 结构在前面讲述哈希对象的时候进行过详细分析

intset 和 hashtable 编码转换

当一个集合满足以下两个条件时,Redis 会选择使用 intset 编码:

集合对象保存的所有元素都是整数值。

集合对象保存的元素数量小于等于 512 个(这个阈值可以通过配置文件set-max-intset-entries来控制)。

一旦集合中的元素不满足上面两个条件,则会选择使用 hashtable 编码。

集合对象常用命令

sadd key member1 member2:将一个或多个元素 member 加入到集合 key 当中,并返回添加成功的数目,如果元素已存在则被忽略。

sismember key member:判断元素 member 是否存在集合 key 中。

srem key member1 member2:移除集合 key 中的元素,不存在的元素会被忽略。

smove source dest member:将元素 member 从集合 source 中移动到 dest 中,如果 member 不存在,则不执行任何操作。

smembers key:返回集合 key 中所有元素。

了解了操作集合对象的常用命令,我们就可以来验证下前面提到的哈希对象的类型和编码了,在测试之前为了防止其他 key 值的干扰,我们先执行 flushall 命令清空 Redis 数据库。依次执行如下命令:

poYBAGL8Xn2AARl_AABkwMglM1c811.png

得到如下效果:

poYBAGL8XpCAKIoeAAByR997VVg007.png

可以看到,当设置的元素里面只有整数时,集合使用的就是 intset 编码,当设置的元素中含有非整数时,使用的就是 hashtable 编码。

五种基本类型之有序集合对象

Redis 中的有序集合和集合的区别是有序集合中的每个元素都会关联一个 double 类型的分数,然后按照分数从小到大的顺序进行排列。换句话说,有序集合的顺序是由我们自己设值的时候通过分数来确定的。有序集合对象的底层数据结构有两种:skiplist 和 ziplist。内部同样是通过编码来进行区分:

pYYBAGL8XqSAD5V7AAA1sP0XxG8498.png

skiplist 编码

skiplist 即跳跃表,有时候也简称为跳表。使用 skiplist 编码的有序集合对象使用了 zset 结构来作为底层实现,而zset 中同时包含了一个字典和一个跳跃表。

跳跃表

跳跃表是一种有序的数据结构,其主要特点是通过在每个节点中维持多个指向其他节点的指针,从而达到快速访问节点的目的。大部分情况下,跳跃表的效率可以等同于平衡树,但是跳跃表的实现却远远比平衡树的实现简单,所以 Redis 选择了使用跳跃表来实现有序集合。下图是一个普通的有序链表,我们如果想要找到 35 这个元素,只能从头开始遍历到尾(链表中元素不支持随机访问,所以不能用二分查找,而数组中可以通过下标随机访问,所以二分查找一般适用于有序数组),时间复杂度是O(n)。

poYBAGL8XrqASxUiAABExElvnbw884.png

那么假如我们可以直接跳到链表的中间,那就可以节省很多资源了,这就是跳表的原理,如下图所示就是一个跳表的数据结构示例:

poYBAGL8Xs2AeSCnAACYIxVc4hg925.png

上图中 level1,level2,level3 就是跳表的层级,每一个 level 层级都有一个指向下一个相同 level 层级元素的指针,比如上图我们遍历寻找元素 35 的时候就有三种方案:

第 1 种就是执行 level1 层级的指针,需要遍历 7 次(1->8->9->12->15->20->35)才能找到元素 35。

第 2 种就是执行 level2 层级的指针,只需要遍历 5 次(1->9->12->15->35)就能找到元素 35。

第 3 种就是执行 level3 层级的元素,这时候只需要遍历 3 次(1->12->35)就能找到元素 35 了,大大提升了效率。

skiplist 的存储结构

跳跃表中的每个节点是一个 zskiplistNode节点(源码 server.h内):

pYYBAGL8XuOAZ3ezAABvfKz2w1E202.png

level(层)

level 即跳跃表中的层,其是一个数组,也就是说一个节点的元素可以拥有多个层,即多个指向其他节点的指针,程序可以通过不同层级的指针来选择最快捷的路径提升访问速度。

level 是在每次创建新节点的时候根据幂次定律(power law)随机生成的一个介于 1~32 之间的数字。

forward(前进指针)

每个层都会有一个指向链表尾部方向元素的指针,遍历元素的时候需要使用到前进指针。

span(跨度)

跨度记录了两个节点之间的距离,需要注意的是,如果指向了 NULL 的话,则跨度为 0。

backward(后退指针)

和前进指针不一样的是后退指针只有一个,所以每次只能后退至前一个节点(上图中没有画出后退指针)。

ele(元素)

跳跃表中元素是一个 sds 对象(早期版本使用的是 redisObject 对象),元素必须唯一不能重复。

score(分值)

节点的分值是一个 double 类型的浮点数,跳跃表中会将节点按照分值按照从小到大的顺序排列,不同节点的分值可以重复。

上面介绍的只是跳跃表中的一个节点,多个 zskiplistNode 节点组成了一个 zskiplist 对象:

poYBAGL8XvSAVAq2AABQdzYRUTQ164.png

到这里你可能以为有序集合就是用这个 zskiplist 来实现的,然而实际上 Redis 并没有直接使用 zskiplist 来实现,而是用 zset 对象再次进行了一层包装。

pYYBAGL8XwSADGmgAAAjoSVSGLo520.png

所以最终,一个有序集合如果使用了 skiplist 编码,其数据结构如下图所示:

poYBAGL8XxmADfbbAAFlf6clK1k736.png

上图中上面一部分中的字典中的 key 就是对应了有序集合中的元素(member),value 就对应了分值(score)。上图中下面一部分中跳跃表整数 1,8,9,12 也是对应了元素(member),最后一排的 double 型数字就是分值(score)。

也就是说字典和跳跃表中的数据都指向了我们存储的元素(两种数据结构最终指向的是同一个地址,所以数据并不会出现冗余存储),Redis 为什么要这么做呢?

为什么同时选择使用字典和跳跃表

有序集合直接使用跳跃表或者单独使用字典完全可以独自实现,但是我们想一下,如果单独使用跳跃表来实现,那么虽然可以使用跨度大的指针去遍历元素来找到我们需要的数据,但是其复杂度仍然达到了 O(logN),而字典中获取一个元素的复杂度是 O(1),而如果单独使用字典虽然获取元素很快,但是字典是无序的,所以如果要范围查找就需要对其进行排序,这又是一个耗时的操作,所以 Redis 综合了两种数据结构来最大程度的提升性能,这也是 Redis 设计的精妙之处。

ziplist 编码

压缩列表在列表对象和哈希对象都有使用到,想详细了解的可以点击这里。

https://blog.csdn.net/zwx900102/article/details/112651435

ziplist 和 skiplist 编码转换

当有序集合对象同时满足以下两个条件时,会使用 ziplist 编码进行存储:

有序集合对象中保存的元素个数小于 128 个(可以通过配置zset-max-ziplist-entries修改)。

有序集合对象中保存的所有元素的总长度小于 64 字节(可以通过配置zset-max-ziplist-value修改)。

有序集合对象常用命令

zadd key score1 member1 score2 member2:将一个或多个元素(member)及其 score 添加到有序集合 key 中。

zscore key member:返回有序集合 key 中 member 成员的 score。

zincrby key num member:将有序集合 key 中的 member 加上 num,num 可以为负数。

zcount key min max:返回有序集合 key 中 score 值在 [min,max] 区间的 member 数量。

zrange key start stop:返回有序集合 key 中 score 从小到大排列后在 [start,stop] 区间的所有 member。

zrevrange key start stop:返回有序集合 key 中 score 从大到小排列后在 [start,stop] 区间的所有 member。

zrangebyscore key min max:返回有序集合中按 score 从小到大排列后在 [min,max] 区间的所有元素。注意这里默认是闭区间,但是可以在 max 和 min 的数值前面加上(或者[来控制开闭区间。

zrevrangebyscore key max min:返回有序集合中按 score 从大到小排列后在 [min,max] 区间的所有元素。注意这里默认是闭区间,但是可以在 max 和 min 的数值前面加上(或者[来控制开闭区间。

zrank key member:返回有序集合中 member 中元素排名(从小到大),返回的结果从 0 开始计算。

zrevrank key member:返回有序集合中 member 中元素排名(从大到小),返回的结果从 0 开始计算。

zlexcount key min max:返回有序集合中 min 和 max 之间的 member 数量。注意这个命令中的 min 和 max 前面必须加(或者[来控制开闭区间,特殊值 - 和 + 分别表示负无穷和正无穷。

了解了操作有序集合对象的常用命令,我们就可以来验证下前面提到的哈希对象的类型和编码了,在测试之前为了防止其他 key 值的干扰,我们先执行 flushall 命令清空 Redis 数据库。在执行命令之前,我们先把配置文件中的参数

zset-max-ziplist-entries

修改为 2,然后重启 Redis 服务。重启完成之后依次执行如下命令:

poYBAGL8Xy6AEHWhAABlORbHhZo955.png

得到如下效果:

poYBAGL8X0OAIXNDAACUAIyRfvM781.png

总结

本文主要分析了集合对象和有序集合对象的底层存储结构 intset 和 skiplist 的实现原理,并且重点分析了有序集合如何实现排序以及为何同时使用两种数据结构(字典和跳表)同时进行进行存储数据的原因。



审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 编码器
    +关注

    关注

    45

    文章

    3577

    浏览量

    134035
  • 数据存储
    +关注

    关注

    5

    文章

    961

    浏览量

    50842
  • 编码转换
    +关注

    关注

    0

    文章

    4

    浏览量

    6894
收藏 人收藏

    评论

    相关推荐

    Python的列表和元组两种数据结构区别差异分析

    前言 相信大家对于Python的列表和元组两种数据结构并不陌生了,如果我问大家这两种数据结构有什么区别?列表和元组都是数组,列表是动态的数组可以修改,元组是静态的数组不可修改。除此之外,大家还能
    发表于 11-20 15:31 2120次阅读
    Python的列表和元组<b class='flag-5'>两种数据结构</b>区别差异分析

    Redis数据类型介绍

    支持五种数据类型:string(字符串),hash(哈希),list(列表),set(集合)及zset(有序集合)。 string(字符串) 字符串类型Redis的最基本数据结构
    的头像 发表于 10-09 10:53 754次阅读
    <b class='flag-5'>Redis</b><b class='flag-5'>数据类型</b>介绍

    请问这两种数据类型之间该怎样连接???

    一个频率调制信号(簇3元素)和一个正弦信号(波型DBL)叠加在一起输出后和一个幅值调幅控件(波型DBL)连接,就出现报错,请问这两种数据类型该怎样连接或者通过什么转换连接???谢谢
    发表于 10-21 09:52

    LabVIEW的数据类型存储格式

    interface nodes)或需要利用文件I/O往文件写入/读取二进制数(binary data)的用户,更有必须了解数据结构类型及在内存中存储格式。数据类型之一——数字(Num
    发表于 12-19 15:36

    LabVIEW的数据类型存储格式

    interface nodes)或需要利用文件I/O往文件写入/读取二进制数(binary data)的用户,更有必须了解数据结构类型及在内存中存储格式。数据类型之一——数字(Num
    发表于 12-19 15:37

    Python中常用的数据类型

    字符串在Python中,加了引号的字符都被认为是字符串,其声明有三种方式,分别是:单引号、双引号和三引号;Python中的字符串有两种数据类型分别是str类型和unicode
    发表于 04-19 15:14

    介绍pandas的两种数据结构

    说到 DataFrame,可能大家更熟悉的是R语言中的 data.frame,Python中的 DataFrame跟它也较为类似。在Python中, DataFrame是一个表格型的数据结构,它含有
    的头像 发表于 07-25 17:50 5512次阅读

    Redis五种常见对象类型的底层数据结构

    集合(Zset),我们在日常工作中也会经常使用它们。知其然,更要知其所以然,本文将会带你读懂这五种常见对象类型的底层数据结构。 本文主要内容参考自《Redis设计与实现》 1. 对象类型
    的头像 发表于 11-14 09:50 2964次阅读
    <b class='flag-5'>Redis</b>五种常见对象<b class='flag-5'>类型</b>的底层<b class='flag-5'>数据结构</b>

    细说redis种数据类型及底层原理

    string 是 Redis 最基本的数据类型,它可以存储任意类型数据,比如文本、数字、图片或者序列化的对象。一个 string
    的头像 发表于 05-15 11:21 1833次阅读
    细说<b class='flag-5'>redis</b>十<b class='flag-5'>种数据类型</b>及底层原理

    Verilog最常用的2种数据类型

    Verilog 最常用的 2 种数据类型就是线网(wire)与寄存器(reg),其余类型可以理解为这两种数据类型的扩展或辅助。
    的头像 发表于 05-29 16:27 2151次阅读
    Verilog最常用的2<b class='flag-5'>种数据类型</b>

    Redis数据类型有哪些

    用的一种数据类型,普通的key- value 存储都可以归为此类。其中Value既可以是数字也可以是字符串。使用场景:常规key-value缓存应用。常规计数: 微博数, 粉丝数。 2、Hash:Hash 是一个键值(
    的头像 发表于 10-09 10:51 756次阅读

    Redis底层数据类型

    1. 前言 Redis的键值对中的常见数据类型有String (字符串)、List(列表)、Hash(哈希)、Set(集合)、Zset(有序集合)。那么其对应的底层数据结构有SDS(simple
    的头像 发表于 10-09 14:05 356次阅读
    <b class='flag-5'>Redis</b>底层<b class='flag-5'>数据类型</b>

    redis的五种数据类型

    Redis是一种高性能的内存数据库,常用于缓存、任务队列、分布式锁等场景。它提供了多种数据类型满足各种不同的需求,包括字符串(string)、哈希(hash)、列表(list)、集合
    的头像 发表于 11-16 11:06 594次阅读

    redis的五种数据类型底层数据结构

    Redis是一种内存数据存储系统,支持多种数据结构。这些数据结构不仅可以满足常见的存储需求,还能
    的头像 发表于 11-16 11:18 674次阅读

    redis数据结构的底层实现

    ,包括字符串、列表、哈希表、集合和有序集合。每种数据结构都有不同的底层实现,以满足对于不同操作的高效支持。 首先,我们来看Redis中最基本的数据结构——字符串。Redis的字符串是二
    的头像 发表于 12-05 10:14 577次阅读