Redis HyperLogLog 用于记录独立总数

HyperLogLog是Redis支持的一种数据结构,使用基数算法来完成独立总数的统计。这里先来介绍一下基数算法。

基数是指一个集合中,不同的数的个数。基数算法是估计一个集合中不同的数的个数,不是数据总量的估计,也不是基数的精确计算。而是用概率算法的思想,来用低空间和时间成本,以一个很低的误差度来估计数据的基数。

所以HyperLogLog采用了牺牲精度节约内存的思想,能够使用极小的内存空间来完成独立总数的统计。

下面先来介绍一下Redis中和HyperLogLog相关的几个命令

1.常用命令
添加
pfadd key element [element ...]

pfadd 命令可以向HyperLogLog中添加元素,添加成功则结果返回 1。

例如:

10.12.22.91:0>pfadd 20180904:pf uuid-1
"1"
计算独立总数
pfcount key [key ...]

pfcount 命令可以计算一个或多个HyperLogLog的独立总数

例如:

10.12.22.91:0>pfcount 20180904:pf
"1"
合并
pfmerge destkey key [key ...]

pfmerge 命令可以合并多个HyperLogLog的并集,并将结果赋值给destkey。

例如:

10.12.22.91:0>pfadd 20180904:pf uuid-1 uuid-2 uuid-3
"1"
10.12.22.91:0>pfadd 20180905:pf uuid-2 uuid-3 uuid-4
"1"
10.12.22.91:0>pfmerge 20180904-05:pf 20180904:pf 20180905:pf
"OK"
10.12.22.91:0>pfcount 20180904-05:pf
"3"

可以看到将20180904:pf和20180905:pf的并集赋值给了20180904-05:pf,去除了重复的元素。

2.HyperLogLog分析
10.12.22.91:0>type 20180904:pf
"string"

通过上面的命令我们可以知道HyperLogLog不是一个新的数据结构,其实还是string类型。

可以使用Lua脚本往HyperLogLog和Set类型中写入大量数据来检测消耗的内存大小,这里直接将网上百万级用户的测试结果展示出来:

HyperLogLog内存占用

3.总结
  • HyperLogLog采用基数算法统计独立总数,存在一定误差
  • 相对于Set,HyperLogLog在内存占用上表现得特别优秀
  • HyperLogLog只能用来统计独立总数,不能获取单条数据
  • HyperLogLog数据类型是string,而不是集合

喜欢这篇文章的朋友,欢迎扫描下图关注公众号lebronchen,第一时间收到更新内容。
这里写图片描述

### RedisHyperLogLog 的实现与用法 #### 什么是 HyperLogLogHyperLogLog 是一种概率算法,主要用于估算集合中不同元素的数量(即基数)。这种算法能够在消耗极少量内存的情况下提供相对精确的结果。对于大数据集而言,传统方法计算唯一值可能会占用大量资源,而 HyperLogLog 提供了一种高效的解决方案[^1]。 #### 数据结构特点 HyperLogLog 并不保存实际的数据项本身,而是通过哈希函数处理输入并记录某些统计特征来估计去重后的数量。具体来说: - 输入数据经过哈希运算转换成固定长度的二进制字符串; - 对这些二进制串应用特定逻辑操作得到多个子计数器中的位置及其对应的观测值; - 子计数器用来跟踪最高连续零位或一的位置,以此为基础推算整体规模。 这种方法使得即使面对海量数据也能保持较小的空间开销,并且支持快速更新和查询。 #### 在 Redis 中的应用场景 由于其高效性和准确性之间的良好平衡,HyperLogLog 特别适合应用于如下场合: - 统计网站独立访客数目; - 记录一段时间内发生的事件种类总数; - 实现其他需要频繁进行基数估测的功能模块。 在 Redis 中可以通过简单的命令接口轻松调用 HyperLogLog 功能来进行上述类型的分析工作。 #### 如何使用 HyperLogLog? 以下是几个常用的 Redis 命令用于管理 HyperLogLog 结构: ```bash PFADD key element [element ...] ``` 向指定键关联的 HyperLogLog 添加一个或多个新成员。如果成功则返回 `1` ,否则当所有给定元素已经存在时不作任何改变并返回 `0`. ```bash PFCOUNT key [key ...] ``` 获取由一个或多个 keys 所指向的不同 HyperLogLogs 合并之后所代表的独特项目的近似数量。如果有超过两个参数,则会先将它们两两合并再求总和。 ```bash PFMERGE destkey sourcekey [sourcekey ...] ``` 将多个源 HyperLogLog 聚合到目标 HyperLogLog 上面。这不会影响原来的各个源实例;相反它会产生一个新的综合版本作为结果存储于目的地址处。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值