简单动态字符串
Redis没有直接使用C语言传统的字符串表示(以空字符串结尾的字符数组,简称C字符串),而是自己构建一种名为简单动态字符串(SDS)的抽象类型,并将SDS用作Redis的默认字符串表示
在Redis中,C字符串只会做为字符串字面量(string literal)用在一些无须对字符串值进行修改的地方,比如打印日志。当Redis需要的不仅仅是一个字符串字面量,而是一个可以被修改的字符串值时,Redis就会使用SDS来表示字符串值,比如在Redis的数据库里面,包含字符串值得键值对在底层都是由SDS实现的。
除了用来保存数据库得字符串之外,SDS还被用作缓冲区(buffer):AOF模式中得AOF缓冲区,以及客户端状态中得输入缓冲区,都是由SDS实现的。
SDS的定义
每个sds.h/sdshdr结构表示一个SDS值:
strcut sdshdr{
//记录buf数组中已经使用字节的数量
//等于SDS所保存字符串的数量
int len;
//记录buf数组中未使用字节的数量
int free;
//字节数组,用于保存字符串
char buf[];
};
具体情况如下图:
free属性值为0,表示这个SDS没有分配任何未使用的空间
len属性值为5,表示这个SDS保存一个5字节长的字符串
buf属性表示一个char类型的数组,数组的前五个字节如图所示,最后一个字节则保存了空字符’\0’
SDS遵循C字符串以空字符结尾的惯例,保存空字符的1字节空间不计算在SDS的len属性里面,并且为空字符分配额外的1字节空间,以及添加空字符到字符串尾等操作,都是由SDS函数自动完成的,所以这个空字符对于SDS的使用者来说是透明的。
下图这为另一种SDS示例,与之前的区别在于buf数组分配了2个字节未使用空间,所以它的free属性值为2
SDS与C字符串的区别
常数复杂度获取字符串长度
因为C字符串并不记录自身的长度信息,所以为了获取一个C字符串长度,程序必须遍历整个字符串,对于遇到的每个字符进行计数,直到遇到代表字符串结尾的空字符为止,这个操作的复杂度为O(N)
和C字符串不同,SDS本身在len属性中记录了SDS本身的长度,所以获取一个SDS长度的复杂度为O(1)。设置和更新SDS长度的工作由SDS的API在执行时自动完成。.通过使用SDS,Redis将获取字符串长度的复杂度降低为O(1),确保了获取字符串长度的工作不会成为Redis的性能瓶颈。
杜绝缓冲区溢出
除了获取字符串长度的复杂度高之外,C字符串不记录自身长度带来的问题:容易缓冲区溢出。例如,程序中存在两个在内存紧邻的C字符串s1和s2,其中s1保存字符串“Redis”,s2保存字符串“hello”,如图所示:
如果执行strcar(s1,“cluster”),将s1的内容修改为“Redis cluster”,但是执行之前没有为s1分配足够的内存,那么执行之后就会导致s1的数据溢出到s2的空间,导致s2保存的内容被修改。
与C字符串不同,SDS的空间分配策略完全杜绝发生缓冲区溢出的可能。当SDS API需要对SDS进行修改时,API会先检查SDS空间是否满足修改所需的要求,如果不满足,API将自动将SDS空间扩展至执行修改所需的大小,然后才执行实际的修改操作,所以不会出现缓冲区溢出的问题。
例如,SDS的API里面也有一个用于执行操作的sdscat函数,它可以将一个C字符串拼接到给定SDS所保存的字符串的后面,但是在执行拼接操作之前,sdscat会先检查给定SDS的空间是否足够,如果不够的话,sdscat就会先检查给定SDS的空间是否足够,如果不够的话,sdscat会先扩展SDS空间,然后执行拼接操作。
减少修改字符串时带来的内存重分配次数
正如前面所说的,C字符串并不记录自身的长度,所以对于一个包含了N个字符的C字符串来说,这个C字符串的底层实现总是一个N+1的字符长的数组。因为C字符串的长度和底层数组的长度之间存在这种关联关系,所以每次增长或者缩短一个C字符串,程序总要保存这个C字符串的数组进行一次内存重重分配操作:
- 如果程序执行的是增长字符串的操作,比如拼接操作,那么执行这个操作之前,程序需要通过内存重分配来扩展底层数组的空间大小——如果忘记这一点,会出现缓冲区溢出
- 程序执行得是缩短字符串的操作,那么执行这个操作之后,程序需要通过内存重新分配来释放字符擦混不再使用那部分空间——如果忘记会产生内存泄漏
因为内存分配涉及复杂的算法,并且可能需要执行系统调用,所以它通常是比较耗时的操作。为了避免C字符串这种缺陷,SDS通过未使用空间解除了字符串长度和底层数组长度的关系:在SDS中,buf数组的长度不一定就是字符数量加一,数组里面可以包含未使用的字节,而这些字节的数量就是由SDS的free属性记录。
通过未使用空间,SDS实现了空间预分配和惰性空间释放的两种优化策略
空间预分配策略
空间预分配用于优化SDS的字符串增长操作:当SDS的API对一个SDS进行修改,并且需要对SDS进行空间扩展时,程序不仅会为SDS分配修改所必须的空间们还会为SDS分配额外未使用的空间。
其中,额外分配的未使用空间数量由以下公式决定:
如果对SDS进行修改后,SDS的长度(即len属性的值)将小于1MB,那么程序分配和len属性同样大小的未使用空间,这时SDS len属性的值将和free属性的值相同。
如果对SDS进行修改后,SDS的长度将大于等于1MB,那么程序分配1MB的未使用空间。举个栗子,如果进行修改之后,SDS的len将变成30MB,那么程序会分配1MB的未使用空间,SDS的buf数组的实际长度为30MB + 1MB+ 1 byte。
通过空间预分配策略,Redis可以连续执行字符串增长操作所需的内存重分配次数。在扩展SDS空间之前,SDS API会先检查未使用空间是否足够,若足够,则直接使用此空间,无需进行重新分配内存
惰性空间释放
惰性空间释放用于优化SDS的字符串缩短操作:当SDS的API需要缩短SDS保存的字符串时,程序并不立即使用内存重分配来回收缩短后多出的字节,而实使用free属性将这些字节的数量记录下来,并等待将来使用。
通过惰性空间释放策略,SDS避免了缩短字符串时所需的内存重分配操作,并为将来可能有的增长操作提供了优化。
二进制安全
C字符串中的字符必须符合某种编码,并且除了字符串的末尾之外,字符串里面不能包含空字符,否则最先被程序读入的空字符会被误认为时字符串结尾,这些限制使得C字符串只能保存文本数据,而不能保存图像,音频,视频,压缩文件这样二进制数据。
因此,为了确保Redis可以适用于 各种不同得使用场景,SDS得API都是二进制安全得,所以SDS API都会以处理二进制的方式来处理SDS存放在buf数组里的数据,程序不会对其中的数据做任何限制,过滤,数据在写入时什么样,在被读取时就是什么样。
总结
C字符串 | SDS |
---|---|
获取字符串长度的复杂度为O(n) | 获取字符串长度的复杂度为O(1) |
API不安全,可能产生缓冲区溢出 | API安全,不会产生缓冲区溢出 |
修改字符串长度N次会有N次内存分配 | 修改字符串长度N次最多有N次内存分配 |
只能保存文本数据 | 保存文本数据和二进制数据 |