Redis数据结构压缩列表

2022-08-08 11:07:55

6、压缩列表

压缩列表(ziplist)使列表键和哈希键的底层实现之一,当一个列表键只包含少量列表项,并且每个列表项要么就是小整数值,要么就是长度比较短的字符串那么Redis就会使用压缩列表来做列表键的底层实现。

另外,当一个哈希键只包含少量键值对,并且每个键值对的键和值要么是小整数值,要么是长度比较短的字符串,那么Redis就会使用压缩列表来做哈希键的底层实现。

6.1、压缩列表的构成

压缩列表是Redis 为了节约内存而开发的,是由一系列特殊编码的连续内存块组成的顺序型数据结构,一个压缩列表可以包含任意多个节点,每个节点可以保存一个字节数组或者一个整数值。

图6-1 展示了压缩列表的各个组成部分,表6-1则记录了各个组成部分的类型、长度以及用途。

在这里插入图片描述

属性类型长度用途
zlbytesuint32_t4字节记录整个压缩列表占用的内存字节数:在对压缩列表进行内存重分配,或者计算zlend的位置时使用
zltailuint32_t4字节记录压缩列表表尾节点距离压缩列表的起始地址有多少字节:通过这个偏移量,程序无需遍历整个压缩列表就可以确定表尾节点的地址
zllenuint16_t2字节记录了压缩列表包含的节点数量:当这个属性值小于UINT16_MAX(65535)时,这个属性的值就是压缩列表包含节点的数量,当这个值等于UINT16_MAX时,节点的真实数量需要遍历整个压缩表才能计算得出
entryX列表节点不定压缩列表包含的各个节点,节点的长度由节点保存的内容决定
zlenduint8_t1字节特殊值0xFF(十进制255),用于标记压缩列表的末端

图6-2展示了一共压缩表示例:

  • 列表zlbytes 属性为0x50(十进制80),表示压缩列表的总长为80字节
  • 列表zltail属性为0x3c(十进制60),表示如果我们有一个指向压缩列表起始地址的指针p,那么只要用指针p加上偏移量60,就可以计算出表尾节点entry3的地址
  • 列表zlend属性的值为0x3(十进制为3),表示压缩列表包含3个节点。

在这里插入图片描述

图6-3展示了另一个压缩列表示例:

  • 列表zlbytes 属性为0xd2(十进制210),表示压缩列表的总长为210字节
  • 列表zltail属性为0xb3(十进制179),表示如果我们有一个指向压缩列表起始地址的指针p,那么只要用指针p加上偏移量179,就可以计算出表尾节点entry5的地址
  • 列表zlend属性的值为0x5(十进制为3),表示压缩列表包含5个节点。

在这里插入图片描述

6.2、压缩列表节点构成

每个压缩表节点都可以保存一个字节数组或者一个整数值,其中字节数组可以是以下三种长度之一:

  • 长度小于等于63(2^6-1)字节的字节数组;
  • 长度小于等于16383(2^14-1)字节的字节数组;
  • 长度小于等于4294967295(2^32 - 1)字节的字节数组;

而整数值则可以是以下6中长度之一:

  • 4位长,介于0到12之间的无符号整数
  • 1字节长的有符号整数;
  • 3字节长的有符号整数;
  • int16_t类型整数;
  • int32_t类型整数
  • int64_4类型整数

每个压缩列表节点都由previous_entry_length、enconding、content三部分组成,如图6-4所示

在这里插入图片描述

6.2.1、previous_entry_length

节点的previous_entry_length属性一字节位单位,记录了压缩列表中前一个节点的长度,previous_entry_length属性的长度可以是一字节或者5字节:

  • 如果前一字节的长度小于254字节,那么previous_entry_length属性的长度为1字节:前一个字节的长度就保存在这一个字节里面
  • 如果前一节点的长度大于等于254字节,那么previous_entry_length的长度则为5字节:其中属性的第一个字节会被设置为0xFE(十进制值为254),而之后的四个字节则用于保存前一节点的长度。

因为节点的previous_entry_length属性记录了前一个节点的长度,所以程序可以通过指针运算,根据当前节点的起始地址算出前一个节点的起始地址。

举个栗子:如果我们有一个指向当前节点的起始地址的指针c,那么我们只要用指针c减去当前节点的previous_entry_length属性的值,就可以得出一个指向前一个节点的起始地址p。如图6-5所示。

在这里插入图片描述

压缩列表的从表尾向表头遍历操作就是使用这一原理实现的,只要我们拥有一个指向某个节点起始地址的指针,那么通过这个指针以及这个节点的previous_entry_length属性,程序就可以一直向前一个节点回溯,最终到达压缩列表的表头节点。

图6-6展示了一个从表尾节点向表头节点进行遍历的完整过程:

  • 首先,我么拥有指向表尾节点的entry4起始地址的指针p1(指向表尾节点的指针可以通过指向压缩列表起始地址的指针加上zltail属性的值得出);
  • 通过用p1减去entry4节点previous_entry_length属性的值,我们得到一个指向entry4前一节点entry3起始地址的指针p2;
  • 通过用p2减去entry3节点previous_entry_length属性的值,我们得到一个指向entry3前一节点entry2起始地址的指针p3;
  • 通过用p3减去entry2节点previous_entry_length属性的值,我们得到一个指向entry2前一节点entry1起始地址的指针p2;
  • 最终,我们从表尾节点向表头节点遍历了整个列表。

在这里插入图片描述

6.2.2、encoding

节点的encoding属性记录了节点的content属性所保存数据的类型以及长度:

  • 一字节,两字节或者五字节长,值的最高为00,01或者10的是字节数组编码:这种编码表示节点的content属性保存着字节数组,数组的长度是由编码除去最高两位之后的其他位记录
  • 一字节长,值的最高位以11开头的是整数编码:这种编码表示节点的content属性保存着整数值,整数值的类型和长度由编码除去最高两位后的其他位记录。

下表记录了所有可用的字节数组编码(表格中的下划线“_”表示留空,而b,x等变量表示实际的二进制数据,为了方便阅读,度字节之间用空格隔开)

编码编码长度content属性保存的值
00bbbbbb1字节长度小于等于63字节的字节数组
01bbbbbb xxxxxxxx2字节长度小于等于16383字节的字节数组
10 _ _ _ _ _ _ aaaaaaaa bbbbbbbb cccccccc dddddddd5字节长度小于等于4294967295的字节数组

下表记录了所有可用的整数编码

编码编码长度content属性保存的值
110000001字节int16_t类型的整数
110100001字节int32_t类型的整数
111000001字节int64_t类型的整数
111100001字节24位有符号整数
111111101字节8位有符号整数
1111xxxx1字节使用这一编码 没有相应的content属性,因为编码本身的xxxx四个位已经保存了一个介于0到12 之间的值,所以它无需content属性

6.2.3、content

节点的content属性负责保存节点的值,节点值可以是一个字节数组或者一个整数,值得类型和长度有节点的encoding属性决定。

图6-7展示了一个保存字节数组的节点示例:

  • 编码的最高两位00表示节点保存的是一个字节数组;
  • 编码的后六位001011记录了字节数组的长度11;
  • content属性保存了节点的值“hello world”;

在这里插入图片描述

图6-8展示了一个保存整数值的节点示例:

  • 编码11000000表示节点保存的是一个int16_t类型的整数值
  • content属性保存着节点的值10086;

在这里插入图片描述

6.3、连锁更新

每个节点的previous_entry_length属性都记录了前一个节点的长度:

  • 如果前一节点的长度小于254字节,那么previous_entry_length属性需要用1字节长的空间来保存这个长度值;
  • 如果前一个节点的长度大于254字节,那么previous_entry_length属性需要用5字节长的空间来保存这个长度值;

现在有一种情况:在一个压缩列表中,有多个连续的、长度介于250到253之间的节点e1到eN,如图6-9所示:

在这里插入图片描述

因为e1至eN的所有节点的长度都小于254字节,所以记录这些节点的长度只需要1字节长度的previous_entry_length属性,换句话说,e1至eN的所有节点的previous_entry_length属性都是1字节长的。

那么这时如果我们把一个长度大于等于254字节的节点new设置位压缩列表的头节点,那么new节点将成为e1的前置节点,如图6-10所示:

在这里插入图片描述

因为e1的previous_entry_length属性仅一字节,它没办法保存新节点new的长度,所以程序对压缩列表进行空间重分配,并将e1节点的previous_entry_length属性的长度变为5字节长。

现在e1原本的长度是介于250至253长度之间,在为previous_entry_length属性新增4个字节后,,e1的长度就变成了介于254到257之间了,而这种长度是1字节长的previous_entry_length的长度无法保存的。

所以,为了e2的previous_entry_length属性可以记录下e1的长度,程序需要进行内存重分配。并将e2的previous_entry_length属性从原来的1字节变为5字节长。

就像扩展e1引发扩展e2一样,扩展e2也会引发对e3的扩展,而扩展e3又会引发对e4的扩展······为了让每个节点的previous_entry_length属性都符合压缩列表的要求,程序需要不断的对压缩列表进行空间重分配操作,知道eN为止。

redis将这种在特殊情况下产生的连续多次空间扩展操作称之为连续更新。

除了添加会导致连续更新,删除也会导致连续更新。

如图6-11所示的压缩表的情况,如果e1和eN都是大小介于250至253字节的节点,big节点的长度大于等于254字节(需要5字节的previous_entry_length来保存),而small节点的长度小于254字节(只需要1字节的previous_entry_length来保存),那么当我们将small节点从压缩列表中删除以后,为了让e1的previous_entry_length可以记录big节点的长度,程序将扩展e1的空间,并由此引发之后的连锁更新。

在这里插入图片描述

因为连锁更新在最坏的情况下需要对压缩列表执行N次空间重分配操作,而每次空间重分配的最坏时间复杂度为O(N),所以连锁更新的最坏时间复杂度为O(N^2).

要注意的是:尽管连锁更新的复杂度很高,但是它真正造成性能问题的几率是很小的:

  • 首先,压缩列表里要恰好有多个连续的、长度介于250字节到253字节的节点,连续更新才有可能被引发,在实际中,这种情况不多见。
  • 其次,即使出现连续更新的情况,只要被更新的节点的数量不多,就不会对性能造成任何影响:比如三五个节点进行连锁更新是绝对不能影响性能的;

基于这些原因,ziplistPush等命令的操作的平均时间复杂度仅为O(N),在实际中,我们可以放心的使用这些函数,而不必但心连锁更新会影响压缩列表的性能。

6.4、压缩列表API

下表列出了所有用于操作压缩列表的API

函数作用算法复杂度
ziplistNew创建一个新的压缩列表O(1)
ziplistPush创建一个包含给定值的新节点,并将这个新节点添加到压缩列表的表头或者表尾平均O(N),最坏O(N^2)
ziplistInsert将包含给定值的新节点插入到给定节点之后平均O(N),最坏O(N^2)
ziplistIndex返回压缩列表给定索引上节点O(N)
ziplistFind在压缩列表中查找并返回包含了给定值的节点因为节点的值可能是一个字节数组,所以检查节点值和给定的值是否相同的复杂度为O(N),而查找整个列表的复杂度则为O(N^2)
ziplistNext返回给定节点下一关节点O(1)
ziplistPrev返回给定节点的前一个节点O(1)
ziplistGet获取给定节点所保存的值O(1)
ziplistDelete从压缩列表中删除给定节点平均O(N),最坏O(N^2)
ziplistDeleteRange删除压缩列表在给定索引上的连续多个节点平均O(N),最坏O(N^2)
ziplistBlobLen返回压缩列表目前占用的内存字节数O(1)
ziplistLen返回压缩列表目前包含的节点数量节点数量小于65535时为O(1),大于65535时为O(N)

该文章是看了黄健宏老师所著的《Redis的设计与实现》后所作的笔记,若有侵权,请联系删除

  • 作者:去图书馆睡还不如在宿舍睡
  • 原文链接:https://blog.csdn.net/qq_45739875/article/details/121721066
    更新时间:2022-08-08 11:07:55