前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Redis数据结构总结

Redis数据结构总结

作者头像
用户5325874
发布2020-01-16 18:08:58
5100
发布2020-01-16 18:08:58
举报

Redis数据结构总结

字符串(string)

字符串 string 是 Redis 最简单的数据结构。Redis 所有的数据结构都是以唯一的 key 字符串作为名称,然后通过这个唯一 key 值来获取相应的 value 数据。不同类型的数据结构的差异就在于 value 的结构不一样。

16458d666d851a12
16458d666d851a12

字符串结构使用非常广泛,一个常见的用途就是缓存用户信息。我们将用户信息结构体使用 JSON 序列化成字符串,然后将序列化后的字符串塞进 Redis 来缓存。同样,取用户信息会经过一次反序列化的过程。

164caaff402d2617
164caaff402d2617

Redis 的字符串是动态字符串,是可以修改的字符串,内部结构实现上类似于 Java 的 ArrayList,采用预分配冗余空间的方式来减少内存的频繁分配,如图中所示,内部为当前字符串实际分配的空间 capacity 一般要高于实际字符串长度 len。当字符串长度小于 1M 时,扩容都是加倍现有的空间,如果超过 1M,扩容时一次只会多扩 1M 的空间。需要注意的是字符串最大长度为 512M。

键值对

set name codehole OK get name “codehole” exists name (integer) 1 del name (integer) 1 get name (nil)

批量键值对

利用mget 可以批量对多个字符串进行读写,节省网络耗时开销。

set name1 codehole OK set name2 holycoder OK mget name1 name2 name3 # 返回一个列表

  1. “codehole”
  2. “holycoder”
  3. (nil) mset name1 boy name2 girl name3 unknown mget name1 name2 name3
  4. “boy”
  5. “girl”
  6. “unknown”…
过期和 set 命令扩展

可以对 key 设置过期时间,到点自动删除,这个功能常用来控制缓存的失效时间。

set name codehole get name “codehole” expire name 5 # 5s 后过期 … # wait for 5s get name (nil)

setex name 5 codehole # 5s 后过期,等价于 set+expire get name “codehole” … # wait for 5s get name (nil)

setnx name codehole # 如果 name 不存在就执行 set 创建 (integer) 1 get name “codehole” setnx name holycoder (integer) 0 # 因为 name 已经存在,所以 set 创建不成功 get name “codehole” # 没有改变…

计数

如果 value 值是一个整数,还可以对它进行自增操作。自增是有范围的,它的范围是 signed long 的最大最小值,超过了这个值,Redis 会报错。

set age 30 OK incr age (integer) 31 incrby age 5 (integer) 36 incrby age -5 (integer) 31 set codehole 9223372036854775807 # Long.Max OK incr codehole (error) ERR increment or decrement would overflow…

incr在原来的基础上增加1,incrby是在原来的基础上增加n

字符串是由多个字节组成,每个字节又是由 8 个 bit 组成,如此便可以将一个字符串看成很多 bit 的组合,这便是 bitmap「位图」数据结构,位图的具体使用会放到后面的章节来讲。

list (列表)

Redis 的列表相当于 Java 语言里面的 LinkedList,注意它是链表而不是数组。这意味着 list 的插入和删除操作非常快,时间复杂度为 O(1),但是索引定位很慢,时间复杂度为 O(n),这点让人非常意外。 当列表弹出了最后一个元素之后,该数据结构自动被删除,内存被回收。

img
img

Redis 的列表结构常用来做异步队列使用。将需要延后处理的任务结构体序列化成字符串塞进 Redis 的列表,另一个线程从这个列表中轮询数据进行处理。

右边进左边出:队列

rpush books python java golang (integer) 3 llen books (integer) 3 lpop books “python” lpop books “java” lpop books “golang” lpop books (nil)…

右边进右边出:栈

rpush books python java golang (integer) 3 rpop books “golang” rpop books “java” rpop books “python” rpop books (nil)…

慢操作

lindex 相当于 Java 链表的get(int index)方法,它需要对链表进行遍历,性能随着参数index增大而变差。 ltrim 和字面上的含义不太一样,个人觉得它叫 lretain(保留) 更合适一些,因为 ltrim 跟的两个参数start_index和end_index定义了一个区间,在这个区间内的值,ltrim 要保留,区间之外统统砍掉。我们可以通过ltrim来实现一个定长的链表,这一点非常有用。 index 可以为负数,index=-1表示倒数第一个元素,同样index=-2表示倒数第二个元素。

rpush books python java golang (integer) 3 lindex books 1 # O(n) 慎用 “java” lrange books 0 -1 # 获取所有元素,O(n) 慎用

  1. “python”
  2. “java”
  3. “golang” ltrim books 1 -1 # O(n) 慎用 OK lrange books 0 -1
  4. “java”
  5. “golang” ltrim books 1 0 # 这其实是清空了整个列表,因为区间范围长度为负 OK llen books (integer) 0…

需要注意,当ltrim参数的区间范围长度为负数,会清空整个列表

快速列表
Snip20181118_2
Snip20181118_2

如果再深入一点,你会发现 Redis 底层存储的还不是一个简单的 linkedlist,而是称之为快速链表 quicklist 的一个结构。 首先在列表元素较少的情况下会使用一块连续的内存存储,这个结构是 ziplist,也即是压缩列表。它将所有的元素紧挨着一起存储,分配的是一块连续的内存。当数据量比较多的时候才会改成 quicklist。因为普通的链表需要的附加指针空间太大,会比较浪费空间,而且会加重内存的碎片化。比如这个列表里存的只是 int 类型的数据,结构上还需要两个额外的指针 prev 和 next 。所以 Redis 将链表和 ziplist 结合起来组成了 quicklist。也就是将多个 ziplist 使用双向指针串起来使用。这样既满足了快速的插入删除性能,又不会出现太大的空间冗余。

hash (字典)

Redis 的字典相当于 Java 语言里面的 HashMap,它是无序字典。内部实现结构上同 Java 的 HashMap 也是一致的,同样的数组 + 链表二维结构。第一维 hash 的数组位置碰撞时,就会将碰撞的元素使用链表串接起来。

Snip20181118_3
Snip20181118_3

不同的是,Redis 的字典的值只能是字符串,另外它们 rehash 的方式不一样,因为 Java 的 HashMap 在字典很大时,rehash 是个耗时的操作,需要一次性全部 rehash。Redis 为了高性能,不能堵塞服务,所以采用了渐进式 rehash 策略。

Snip20181118_4
Snip20181118_4

渐进式 rehash 会在 rehash 的同时,保留新旧两个 hash 结构,查询时会同时查询两个 hash 结构,然后在后续的定时任务中以及 hash 操作指令中,循序渐进地将旧 hash 的内容一点点迁移到新的 hash 结构中。当搬迁完成了,就会使用新的hash结构取而代之。当 旧hash 移除了最后一个元素之后,该数据结构自动被删除,内存被回收。

img
img

hash 结构也可以用来存储用户信息,不同于字符串一次性需要全部序列化整个对象,hash 可以对用户结构中的每个字段单独存储。这样当我们需要获取用户信息时可以进行部分获取。而以整个字符串的形式去保存用户信息的话就只能一次性全部读取,这样就会比较浪费网络流量。

hash 也有缺点,hash 结构的存储消耗要高于单个字符串,到底该使用 hash 还是字符串,需要根据实际情况再三权衡。

hset books java “think in java” # 命令行的字符串如果包含空格,要用引号括起来 (integer) 1 hset books golang “concurrency in go” (integer) 1 hset books python “python cookbook” (integer) 1 hgetall books # entries(),key 和 value 间隔出现

  1. “java”
  2. “think in java”
  3. “golang”
  4. “concurrency in go”
  5. “python”
  6. “python cookbook” hlen books (integer) 3 hget books java “think in java” hset books golang “learning go programming” # 因为是更新操作,所以返回 0 (integer) 0 hget books golang “learning go programming” hmset books java “effective java” python “learning python” golang “modern golang programming” # 批量 set OK…

同字符串对象一样,hash 结构中的单个子 key 也可以进行计数,它对应的指令是 hincrby,和 incr 使用基本一样。

hmset user age 1 “OK” hincrby user age 2 // 增加2 (integer) 3 hmget user age “3”

set (集合)

Redis 的集合相当于 Java 语言里面的 HashSet,它内部的键值对是无序的唯一的。它的内部实现相当于一个特殊的字典,字典中所有的 value 都是一个值NULL

当集合中最后一个元素移除之后,数据结构自动删除,内存被回收。

img
img

set 结构可以用来存储活动中奖的用户 ID,因为有去重功能,可以保证同一个用户不会中奖两次。

sadd books python (integer) 1 sadd books python # 重复 (integer) 0 sadd books java golang (integer) 2 smembers books # 注意顺序,和插入的并不一致,因为 set 是无序的

  1. “java”
  2. “python”
  3. “golang” sismember books java # 查询某个 value 是否存在,相当于 contains(o) (integer) 1 sismember books rust (integer) 0 scard books # 获取长度相当于 count() (integer) 3 spop books # 弹出一个 “java”

zset (有序集合)

zset 可能是 Redis 提供的最为特色的数据结构,它也是在面试中面试官最爱问的数据结构。它类似于 Java 的 SortedSet 和 HashMap 的结合体,一方面它是一个 set,保证了内部 value 的唯一性,另一方面它可以给每个 value 赋予一个 score,代表这个 value 的排序权重。它的内部实现用的是一种叫做「跳跃列表」的数据结构。 zset 中最后一个 value 被移除后,数据结构自动删除,内存被回收。

img
img

zset 可以用来存粉丝列表,value 值是粉丝的用户 ID,score 是关注时间。我们可以对粉丝列表按关注时间进行排序。 zset 还可以用来存储学生的成绩,value 值是学生的 ID,score 是他的考试成绩。我们可以对成绩按分数进行排序就可以得到他的名次。

zadd books 9.0 “think in java” (integer) 1 zadd books 8.9 “java concurrency” (integer) 1 zadd books 8.6 “java cookbook” (integer) 1 zrange books 0 -1 # 按 score 从小到大排序列出,参数区间为排名范围

  1. “java cookbook”
  2. “java concurrency”
  3. “think in java” zrevrange books 0 -1 # 按 score 逆序列出,参数区间为排名范围
  4. “think in java”
  5. “java concurrency”
  6. “java cookbook” zcard books # 相当于 count() (integer) 3 zscore books “java concurrency” # 获取指定 value 的 score “8.9000000000000004” # 内部 score 使用 double 类型进行存储,所以存在小数点精度问题 zrank books “java concurrency” # 排名 (integer) 1 zrangebyscore books 0 8.91 # 根据分值区间遍历 zset
  7. “java cookbook”
  8. “java concurrency” zrangebyscore books -inf 8.91 withscores # 根据分值区间 (-∞, 8.91] 遍历 zset,同时返回分值。inf 代表 infinite,无穷大的意思。
  9. “java cookbook”
  10. “8.5999999999999996”
  11. “java concurrency”
  12. “8.9000000000000004” zrem books “java concurrency” # 删除 value (integer) 1 zrange books 0 -1
  13. “java cookbook”
  14. “think in java”
跳跃列表

zset 内部的排序功能是通过「跳跃列表」数据结构来实现的,它的结构非常特殊,也比较复杂。

因为 zset 要支持随机的插入和删除,所以它不好使用数组来表示。我们先看一个普通的链表结构。

Snip20181118_5
Snip20181118_5

我们需要这个链表按照 score 值进行排序。这意味着当有新元素需要插入时,要定位到特定位置的插入点,这样才可以继续保证链表是有序的。通常我们会通过二分查找来找到插入点,但是二分查找的对象必须是数组,只有数组才可以支持快速位置定位,链表做不到,那该怎么办?

想想一个创业公司,刚开始只有几个人,团队成员之间人人平等,都是联合创始人。随着公司的成长,人数渐渐变多,团队沟通成本随之增加。这时候就会引入组长制,对团队进行划分。每个团队会有一个组长。开会的时候分团队进行,多个组长之间还会有自己的会议安排。公司规模进一步扩展,需要再增加一个层级 —— 部门,每个部门会从组长列表中推选出一个代表来作为部长。部长们之间还会有自己的高层会议安排。 跳跃列表就是类似于这种层级制,最下面一层所有的元素都会串起来。然后每隔几个元素挑选出一个代表来,再将这几个代表使用另外一级指针串起来。然后在这些代表里再挑出二级代表,再串起来。最终就形成了金字塔结构。 想想你老家在世界地图中的位置:亚洲–>中国->安徽省->安庆市->枞阳县->汤沟镇->田间村->xxxx号,也是这样一个类似的结构。

Snip20181118_6
Snip20181118_6

「跳跃列表」之所以「跳跃」,是因为内部的元素可能「身兼数职」,比如上图中间的这个元素,同时处于 L0、L1 和 L2 层,可以快速在不同层次之间进行「跳跃」。 定位插入点时,先在顶层进行定位,然后下潜到下一级定位,一直下潜到最底层找到合适的位置,将新元素插进去。你也许会问,那新插入的元素如何才有机会「身兼数职」呢? 跳跃列表采取一个随机策略来决定新元素可以兼职到第几层。 首先 L0 层肯定是 100% 了,L1 层只有 50% 的概率,L2 层只有 25% 的概率,L3 层只有 12.5% 的概率,一直随机到最顶层 L31 层。绝大多数元素都过不了几层,只有极少数元素可以深入到顶层。列表中的元素越多,能够深入的层次就越深,能进入到顶层的概率就会越大。 这还挺公平的,能不能进入中央不是靠拼爹,而是看运气。

容器型数据结构的通用规则

list/set/hash/zset 这四种数据结构是容器型数据结构,它们共享下面两条通用规则: create if not exists 如果容器不存在,那就创建一个,再进行操作。比如 rpush 操作刚开始是没有列表的,Redis 就会自动创建一个,然后再 rpush 进去新元素。 drop if no elements 如果容器里元素没有了,那么立即删除元素,释放内存。这意味着 lpop 操作到最后一个元素,列表就消失了。

过期时间

Redis 所有的数据结构都可以设置过期时间,时间到了,Redis 会自动删除相应的对象。需要注意的是过期是以对象为单位,比如一个 hash 结构的过期是整个 hash 对象的过期,而不是其中的某个子 key。 还有一个需要特别注意的地方是如果一个字符串已经设置了过期时间,然后你调用了 set 方法修改了它,它的过期时间会消失。

代码语言:javascript
复制
127.0.0.1:6379> set codehole yoyo
OK
127.0.0.1:6379> expire codehole 600
(integer) 1
127.0.0.1:6379> ttl codehole
(integer) 597
127.0.0.1:6379> set codehole yoyo
OK
127.0.0.1:6379> ttl codehole
(integer) -1

参考

《Redis深度历险》

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • Redis数据结构总结
    • 字符串(string)
      • list (列表)
        • hash (字典)
          • set (集合)
            • zset (有序集合)
              • 参考
              相关产品与服务
              云数据库 Redis
              腾讯云数据库 Redis(TencentDB for Redis)是腾讯云打造的兼容 Redis 协议的缓存和存储服务。丰富的数据结构能帮助您完成不同类型的业务场景开发。支持主从热备,提供自动容灾切换、数据备份、故障迁移、实例监控、在线扩容、数据回档等全套的数据库服务。
              领券
              问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档