前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >1、Redis数据结构——简单动态字符串-SDS

1、Redis数据结构——简单动态字符串-SDS

原创
作者头像
CodingCode
修改2021-06-07 10:24:12
2450
修改2021-06-07 10:24:12
举报

1、SDS简介:

redis没有使用C语言传统的字符串表示(以空字符结尾的字符数组),而是自己构建了一种名为简单动态字符串(SDS)的抽象类型,并将SDS用作redis的默认字符串表示。

除了用来保存数据库中的字符串值之外,SDS还被用作缓冲区;AOF模块中的AOF缓存区,以及客户端状态中的输入缓冲区,都是SDS实现的。

2、SDS定义:

struct sdshdr { //记录buf数组中已使用字节的数量 //等于SDS所保存字符串的长度 int len; //记录buf数组中未使用字节的数量 int free; //字节数组,用于保存字符串 char buf[]; }

图示例:

  • len = 5,说明当前存储的字符串长度为5
  • free = 0,说明这个结构体实例中,所有分配的空间长度已经被使用完毕
  • buf 属性是一个char 类型的数组,保存了实际的字符串信息

可以看到 len 属性和 buf 属性的已使用部分都和第一个示例相同,但是 free 属性为 5, 同时 buf 属性的除了保存了真实的字符串内容之外,还有 5 个空的未使用空间 ('0'结束字符不在长度中计算)

SDS遵循C字符串以空字符串结尾的惯例,保存空字符串的1字节空间不计算在SDS的len属性里面,并且为空字符串分配额外的1字节空间,以及添加空字符到字符串末尾等操作,都由SDS函数自动完成的,所以这个空字符串对于SDS的使用者来说完全是透明的。这么做的好处是可以直接重用一部分C字符串函数库里面的函数。

3、SDS与C字符串的区别

根据传统,C语言使用长度为N+1的字符数组来表示长度为N的字符串,并且字符数组的最后一个元素总是空字符'\0';

3.1、常数复杂度获取字符串长度

因为C字符串并不记录自身的长度信息,所以为了获取一个 C字符串长度,程序必须遍历整个字符串,对遇到的每个字符进行计数,直到遇到代表字符串结尾的空字符为止,复杂度O(n)。

对于SDS而言,因为数据结构中保存了len属性,就可以立即知道长度。通过使用SDS而不是C字符串,Redis将获取字符串长度所需的复杂度从O(n)降低到了O(1),这也保证了获取字符串长度不会成为Redis的性能瓶颈。

3.2、杜绝缓冲区溢出

C字符串不记录自身长度带来的另外一个问题是容易造成缓冲区溢出。举子例子,<string.h>/strcat函数可以将src字符串中的内容拼接到dest字符串的末尾:char *strcat(char *dest, const char *src)

如果用户在执行拼接函数时,已经为dest分配足够多的内存,可以容纳src字符串中的所有内容,而一旦假设不成立,就会产生缓冲区溢出;与C字符串不同,SDS的空间分配策略完全杜绝了发送缓冲区溢出的可能性:当SDS API需要对SDS进行修改时,API会先检查SDS的空间是否满足修改所需要求,如果不满足的话,API会自动将SDS的空间扩展至执行修改所需的大小,然后才执行实际的修改操作。

3.3、减少修改字符串时带来的内存重分配次数

因为C字符串不记录自身的长度,对于一个N个字符的C字符串来说,这个C字符串底层实现总是一个N+1个字符长的数组。因为C字符串的长度和底层数组的长度之间存在着这种关联性,所以每次增长或者缩短一个C字符串,程序都总要对保存这个C字符串的数组进行一次内存重分配操作:

  • 如果是增长字符串,那么执行前先要通过内存重分配来扩展底层数组的大小——如果忘记就会产生缓冲区溢出。
  • 如果是缩短字符串操作,那么要通过内存重分配来释放字符串不再使用的部分空间——如果忘记就会内存泄露。

在一般程序中,如果修改字符串长度的情况不太经常出现,那么每次修改都执行一次内存重分配是可以接受的;但是Redis经常被用于速度要求严苛、数据频繁修改的场合,光是内存重分配的时间就会占去很大一部分时间,对性能造成影响。

为了避免这种缺陷,SDS通过未使用空间解除了字符串长度和底层数组长度之间的关联。通过未使用空间,SDS实现了空间预分配惰性空间释放两种优化策略。

3.3.1、空间预分配

空间预分配用于优化SDS字符串增长操作:当SDS的API对一个SDS进行修改,并且需要对SDS进行空间扩展的时候,不仅会为SDS分配修改所必须的空间,还会为SDS分配额外的未使用空间。

  • 如果SDS进行修改之后,SDS的长度(即是len属性的值)小于1M,那么程序分配和len属性同样大小的未使用空间,这时SDS len属性的值将和free属性的值相同。
  • 如果SDS修改之后,长度将大于等于1M,那么程序会分配1M的未使用空间。

3.3.2、惰性空间释放

惰性空间释放用于优化SDS的字符串缩短操作:当SDS的API需要缩短SDS保存的字符串时,程序并不会立即使用内存重分配来回收缩短后多出来的字节,而是使用free属性将这些字节的数量记录起来,并等待将来使用。

3.4、二进制安全

C字符串中的字符必须符合某种编码(比如ASCII),并且除了字符串的末尾之外,字符串不能包含空字符串,否则会被认为是字符串结尾。这些限制使得C只能保存文本数据,而不能保存图片、音频。视频、压缩文件等二进制数据。

所有SDS API都会以处理二进制方式来处理SDS存放在buf数组里的数据,程序不会对其中数据做任何限制、过滤,数据写入是什么样,读取就是什么样。因为SDS使用len属性的值而不是空字符来判断字符串是否结束。。

3.5、兼容部分C字符串函数

SDS一样遵循C字符串以空字符结尾的惯例,总是在为buf数组分配空间时多分配一个字节来容纳这个空字符,这是为了可以重用一部分<string.h>库定义函数。

重点回顾

Redis 中使用字符串的大多数场景(键的字符串,字符串数据结构的实际值存储等等)下,都不使用 C 语言的字符串,而是使用 SDS. 简单动态字符串。

它的实现方式是:一个字节数组 buf, 一个当前字符串长度的记录属性 len, 一个当前未使用空间长度属性 free. 字节数组的长度不要求绝对等于字符串值的真实长度,会有一定的缓冲。

相对于 C 语言的字符串,SDS 的优势如下:

C字符串

SDS

获取字符串长度需要 O(N)

获取字符串长度需要 O(1)

容易造成缓冲区溢出

通过封装 API, 自动变化长度,避免缓冲区溢出

每次修改字符串长度,都需要内存重新分配

最坏情况下,同 C 语言字符串,其他很多情况不需要内存重分配,直接使用预留缓冲即可。

只能保存纯文本

二进制安全,可以保存任意格式的二进制数据

无缝使用所有 C 库函数

可以兼容一部分的 C 库函数

参考文章

《Redis的设计与实现(第二版)》

联系我

最后,欢迎关注我的个人公众号 CodingCode,会不定期更新学习笔记,也欢迎公众号私信,一定知无不言,言无不尽。

公众号
公众号

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 1、SDS简介:
  • 2、SDS定义:
  • 3、SDS与C字符串的区别
    • 3.1、常数复杂度获取字符串长度
      • 3.2、杜绝缓冲区溢出
        • 3.3、减少修改字符串时带来的内存重分配次数
          • 3.4、二进制安全
            • 3.5、兼容部分C字符串函数
            • 重点回顾
            • 参考文章
            • 联系我
            相关产品与服务
            云数据库 Redis
            腾讯云数据库 Redis(TencentDB for Redis)是腾讯云打造的兼容 Redis 协议的缓存和存储服务。丰富的数据结构能帮助您完成不同类型的业务场景开发。支持主从热备,提供自动容灾切换、数据备份、故障迁移、实例监控、在线扩容、数据回档等全套的数据库服务。
            领券
            问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档