基本命令

PFADD

> pfadd key v1 v2 ... vn

PFCOUNT

> pfcount key

PFMERGE

> pfmerge newkey key1 key2 ... keyn

实例

zZZZZ> pfadd user:uv 12345 23456
(integer) 1
> pfcount user:uv
(integer) 2
> pfadd user:uv 12345
(integer) 0
> pfadd user:uv 4 5 6
(integer) 1
> pfcount user:uv
(integer) 5
> keys *
1) "user:uv"
> pfadd user:uv:202211 1 2 3 4 5 6
(integer) 1
> PFMERGE uv user:uv user:uv:202211
OK
> pfcount uv
(integer) 8

总结

在 Redis 里面，每个 HyperLogLog 键只需要花费 12 KB 内存，就可以计算接近 2^64 个不同元素的基数。

因为 HyperLogLog 只会根据输入元素来计算基数，而不会储存输入元素本身，所以 HyperLogLog 不能像集合那样，返回输入的各个元素。

  • HyperLogLog 是一种算法，并非 Redis 独有。
  • 目的是做基数统计，故不是集合，不会保存元数据，只记录数量而不是数值。
  • 耗空间极小，支持输入非常体积的数据量。
  • 核心是基数估算算法，主要表现为计算时内存的使用和数据合并的处理。最终数值存在一定误差。
  • Redis 中每个 Hyperloglog key 占用了 12K 的内存用于标记基数(官方文档)。
  • pfadd 命令并不会一次性分配 12k 内存，而是随着基数的增加而逐渐增加内存分配;而 pfmerge 操作则会将 sourcekey 合并后存储在 12k 大小的 key 中，由 hyperloglog 合并操作的原理(两个 Hyperloglog 合并时需要单独比较每个桶的值)可以很容易理解。
  • 误差说明：基数估计的结果是一个带有 0.81% 标准错误(standard error)的近似值。是可接受的范围 Redis 对 HyperLogLog 的存储进行优化，在计数比较小时，存储空间采用稀疏矩阵存储，空间占用很小，仅仅在计数慢慢变大，稀疏矩阵占用空间渐渐超过了阈值时才会一次性转变成稠密矩阵，才会占用 12k 的空间。