Redis HyperLogLog

2024年5月8日 141次阅读 来源: 拿客_三产

HyperLogLog简介

​ HyperLogLog 并不是一种新的数据结构（实际类型为字符串类型），而是一种基数算法，通过 HyperLogLog 可以利用极小的内存空间完成独立总数的统计，数据集可以是 IP、Email、ID 等。

命令

添加

PFADD

自2.8.9可用。

时间复杂度：每添加一个元素的复杂度为 O(1) 。

语法：PFADD key element [element …]
说明：

将任意数量的元素添加到指定的 HyperLogLog 里面。

作为这个命令的副作用， HyperLogLog 内部可能会被更新， 以便反映一个不同的唯一元素估计数量（也即是集合的基数）。

如果 HyperLogLog 估计的近似基数（approximated cardinality）在命令执行之后出现了变化， 那么命令返回 1 ， 否则返回 0 。 如果命令执行时给定的键不存在， 那么程序将先创建一个空的 HyperLogLog 结构， 然后再执行命令。

调用 PFADD 命令时可以只给定键名而不给定元素：

              - 如果给定键已经是一个 HyperLogLog ， 那么这种调用不会产生任何效果；

  • 但如果给定的键不存在， 那么命令会创建一个空的 HyperLogLog ， 并向客户端返回 1 。

返回值：

整数回复： 如果 HyperLogLog 的内部储存被修改了， 那么返回 1 ， 否则返回 0 。

示例：
coderknock> PFADD  databases  "Redis"  "MongoDB"  "MySQL"
(integer) 1

coderknock> PFCOUNT  databases
(integer) 3

coderknock> PFADD  databases  "Redis"    # Redis 已经存在，不必对估计数量进行更新
(integer) 0

coderknock> PFCOUNT  databases    # 元素估计数量没有变化
(integer) 3

coderknock> PFADD  databases  "PostgreSQL"    # 添加一个不存在的元素
(integer) 1

coderknock> PFCOUNT  databases    # 估计数量增一
4

计算总数

PFCOUNT

自2.8.9可用。

时间复杂度：当命令作用于单个 HyperLogLog 时， 复杂度为 O(1) ， 并且具有非常低的平均常数时间。 当命令作用于 N 个 HyperLogLog 时， 复杂度为 O(N) ， 常数时间也比处理单个 HyperLogLog 时要大得多。

语法：PFCOUNT key [key …]
说明：

当 PFCOUNT 命令作用于单个键时， 返回储存在给定键的 HyperLogLog 的近似基数， 如果键不存在， 那么返回 0 。

当 PFCOUNT 命令作用于多个键时， 返回所有给定 HyperLogLog 的并集的近似基数， 这个近似基数是通过将所有给定 HyperLogLog 合并至一个临时 HyperLogLog 来计算得出的。

通过 HyperLogLog 数据结构， 用户可以使用少量固定大小的内存， 来储存集合中的唯一元素 （每个 HyperLogLog 只需使用 12k 字节内存，以及几个字节的内存来储存键本身）。

命令返回的可见集合（observed set）基数并不是精确值， 而是一个带有 0.81% 标准错误（standard error）的近似值。

举个例子， 为了记录一天会执行多少次各不相同的搜索查询， 一个程序可以在每次执行搜索查询时调用一次 PFADD ， 并通过调用 PFCOUNT 命令来获取这个记录的近似结果。

返回值：

整数回复： 给定 HyperLogLog 包含的唯一元素的近似数量。

示例：
coderknock> PFADD  databases  "Redis"  "MongoDB"  "MySQL"
(integer) 1

coderknock> PFCOUNT  databases
(integer) 3

coderknock> PFADD  databases  "Redis"    # Redis 已经存在，不必对估计数量进行更新
(integer) 0

coderknock> PFCOUNT  databases    # 元素估计数量没有变化
(integer) 3

coderknock> PFADD  databases  "PostgreSQL"    # 添加一个不存在的元素
(integer) 1

coderknock> PFCOUNT  databases    # 估计数量增一
4

整合

PFMERGE

自2.8.9可用。

时间复杂度：O(N) ， 其中 N 为被合并的 HyperLogLog 数量， 不过这个命令的常数复杂度比较高。

语法：PFMERGE destkey sourcekey [sourcekey …]
说明：

将多个 HyperLogLog 合并（merge）为一个 HyperLogLog ， 合并后的 HyperLogLog 的基数接近于所有输入 HyperLogLog 的可见集合（observed set）的并集。

合并得出的 HyperLogLog 会被储存在 destkey 键里面， 如果该键并不存在， 那么命令在执行之前， 会先为该键创建一个空的 HyperLogLog 。

返回值：

字符串回复：返回 OK 。

示例：
coderknock> PFADD  nosql  "Redis"  "MongoDB"  "Memcached"
(integer) 1

coderknock> PFADD  RDBMS  "MySQL" "MSSQL" "PostgreSQL" "MySQL"
(integer) 1

coderknock> PFMERGE  databases  nosql  RDBMS
OK
# "MySQL" 重复只记一次
coderknock> PFCOUNT  databases
(integer) 6

HyperLogLog 内存占用量非常小，但是存在错误率，开发者在进行数据结构选型时只需要确认如下两条即可：

  • 只为了计算独立总数，不需要获取单条数据。

  • 可以容忍一定误差率，毕竟HyperLogLog在内存的占用量上有很大的优势。

    原文作者：拿客_三产
    原文地址: https://segmentfault.com/a/1190000009842216
    本文转自网络文章，转载此文章仅为分享知识，如有侵权，请联系博主进行删除。
点赞