慢查询日志
慢查询日志帮助开发和运维人员定位系统存在的慢操作。慢查询日志就是系统在命令执行前后计算每条命令的执行时间,当超过预设阀值,就将这条命令的相关信息(慢查询ID,发生时间戳,耗时,命令的详细信息)记录下来。需要注意,慢查询日志只是统计执行命令的时间,所以慢查询并不代表客户端没有超时问题。
慢查询的配置参数
① 慢查询的预设阀值 slowlog-log-slower-than
slowlog-log-slower-than参数就是预设阀值,单位是微秒,默认值是1000,如果一条命令的执行时间超过10000微妙,那么它将被记录在慢查询日志中。
如果slowlog-log-slower-than的值是0,则会记录所有命令。
如果slowlog-log-slower-than的值小于0,则任何命令都不会记录日志。② 慢查询日志的长度slowlog-max-len
slowlog-max-len只是说明了慢查询日志最多存储多少条。Redis使用一个列表来存储慢查询日志,showlog-max-len就是列表的最大长度。当慢查询日志已经到达列表的最大长度时,又有慢查询日志要进入列表,则最早插入列表的日志将会被移出列表,新日志被插入列表的末尾。慢查询日志的组成
慢查询日志由以下四个属性组成:标识ID,发生时间戳,命令耗时,执行命令和参数慢查询日志的访问和管理
① 获取慢查询日志slowlog get [n]
命令:slowlog get [N]
参数:N,可选,代表获取的日志条数
② 获取慢查询日志列表的当前长度slowlog len
命令:slowlog len
返回:慢日志列表的当前长度
③ 慢查询日志重置slowlog reset
慢查询日志重置实际是对列表做清理操作。
命令:slowlog reset慢查询日志最佳实践
① slowlog-max-len的设置建议
线上环境建议调大慢查询日志的列表,记录慢查询日志时Redis会对长命令做截断操作,并不会占用大量内存。增大慢查询列表可以减缓慢查询被剔除出列表的可能性。例如线上可以设置为1000以上。
② slowlog-log-lower-than的设置建议
需要根据redis的并发量调整该值。由于redis采用单线程响应命令,对于高流量的场景,如果执行命令的时间在1毫秒以上,那么redis最多可支撑OPS(每秒操作次数)不到1000,因此高OPS场景的REDIS建议设置为1毫秒。
③ 慢查询只记录命令执行时间,并不包括命令排队时间和网络传输时间。因此客户端命令的执行时间要大于redis服务器实际执行命令的时间。因为命令执行排队机制,慢查询会导致命令级联阻塞,因此当客户端出现请求超时,需要检查该时间点是否有对应的慢查询,从而分析是否因为慢查询导致的命令级联阻塞
④ 慢查询日志是一个先进先出队列,慢查询较多的情况下,可能会丢失部分慢查询命令,可以定期执行slow get命令将慢查询日志持久化到其他存储中。然后制作可视化界面查询。简单动态字符串介绍:
reids 没有直接使用C语言传统的字符串表示(以空字符结尾的字符数组)而是构建了一种名为简单动态字符串的抽象类型,并为redis的默认字符串表示,因为C字符串不能满足redis对字符串的安全性、效率以及功能方面的需求
SDS的定义:
每个sds.h/sdshdr结构表示一个SDS的值
struct sdshdr{ //记录buf数组中已使用的字节的数量,等于sds所保存字符串的长度 int len; //记录buf中未使用的数据 int free; //字符数组,用于保存字符串 char buf[ ] }
- free 属性的值为0,表示这个SDS没有分配任何未使用的空间
- len 属性长度为5,表示这个SDS保存一个五字节长的字符串
- buf 属性是一个char类型的数组,数组的前5个字节分别保存了’R’,’e’,’d’,’i’,’s’五个字符,而最后一个字节则保存了空字符串’\0’
SDS 与C字符串的区别
① 常数复杂度获取字符串长度
当取字符串长度时需遍历整个字符串,对字符串进行计数直到为空的字符串,这个操作的复杂度为O(N)
SDS简单动态字符的结构len属性就已存储了SDS长度,所以取一个SDS的长度为O(1)② 杜绝绶冲区溢出
c字符串不记录长度,容易造成溢出
例:假设在程序中有两个在内存中紧邻着的C字符串S1和S2,其中S1保存了字符串”Redis” 而S2则保存了字符串”MongoDB”
如果我们将执行了stract(s1, ” Cluster”) 却忘记执行执行前分配足够的空间,那么在执行后S1数组将溢出到S2的空间中,导致S2的内容被意外修改
SDS的空间分配策略安全杜绝了发生绶冲区溢出的可能性,当SDS API需要对SDS进行修改时,API会先检查SDS的空间是否满足需要,如果不满足则会自动扩展至执行修改所需的大小(属性len增加),然后才执行实际的修改操作③ 减少修改字符串时带来的内存重分配次数
c字符串在修改每一个字符串的增加或缩短时都会进行一次内存重分配操作,由于内存重分配波及复杂的算法有可能执行系统的调用所以是用一个比较耗时的操作。
针对C字符串的劣势SDS实现了空间预分配和惰性空间释放两种优化策略。
空间预留分配:对SDS进行修改时对SDS进行空间扩展的同时,还会对SDS分配额外的未使用的空间
分配公式:
SDS的属性小于1MB 将分配同等大小的free属性 例:SDS的len将变成13字节,那么程序也会分配13字节的未使用空间。SDS组数的实际长度:13+13+1 = 27(未使用+已使用+1)
SDS的属性大小1MB 如果SDS的长度大于1MB将分配1MB的未使用空间,例SDS修改之后SDS的len将变成30MB,那么会分配1MB的未使用空间。SDS数组的实际长充为:30MB+1MB+1byte
惰性空间释放:
SDS的长度缩短,内存分配的空间不会发生变化,SDS的惰性空间策略避免了内存重新分配操作,并为将来的可能的增长操作提供了优化,API也提供了释放未使空间,所以不用担心空间的浪费④ 二进制安全
C字符串除了字符串的未尾之外,字符串里面不能包含空字符,否则最先被程序读入的空间将被误认为是字符串结尾,这些限制了C字符串只能保存文本数据。
SDS则没有这种限制,可以保存文本或者二进制数据