布隆过滤器

最新推荐文章于 2022-08-08 22:59:11 发布

转载最新推荐文章于 2022-08-08 22:59:11 发布 · 248 阅读

0 ·

CC 4.0 BY-SA版权

原文链接：https://github.com/Snailclimb/JavaGuide/blob/master/docs/dataStructures-algorithms/data-structure/bloom-filter.md

其他专栏收录该内容

2 篇文章

订阅专栏

布隆过滤器

1、简介

布隆过滤器(Bloom Filter)是一个叫做Bloom的人于1970年提出的。我们可以把它看作有二进制向量(或者说位数组)和一系列随机映射函数(哈希函数)两部分组成的数据结构。相比我们平时常用的List、Map、Set等数据结构，它占用空间更少并且效率更高，但是缺点是其返回的结果是概率性的，而不是非常准确的结果。理论情况下添加到集合中的元素越多，误报的可能性就越大。并且，存放在布隆的数据不容易删除。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-rLGAuXod-1592817836922)(D:\markdown\imgs\bit数组.png)]

位数组中的每个元素都只占用1bit，并且每个元素只能是0或者1。这样申请一个100W个元素的位数组只占用1000000 Bit / 8 = 125000 Byte = 125000 / 1024 kb ≈ 122 KB的空间。

总结：一种检索元素是否在给定大集合中的数据结构，这种数据结构是高效的且性能很好的，但缺点是具有一定的错误识别率和删除难度。并且，理论情况下，添加到集合中元素越多，误报的可能性就越大。

2、原理

当一个元素加入布隆过滤器中的时候，会进行如下操作：

a、使用布隆过滤器中的哈希函数对元素值进行计算，得到哈希值(由几个哈希函数得到几个哈希值)。
b、根据得到的哈希值，在位数组中把对应下标的值改为1。

当我们需要判断一个元素是否存在于布隆过滤器的时候，会有如下操作：

a、对给定元素再次进行相同的哈希计算。
b、得到值之后判断位数组中的每个元素是否都为1，如果值都为1，那么说明这个值在布隆过滤器中，如果存在一个值不为1，说明钙元素不在布隆过滤器中。

如上图所示，当字符串存储要加入到布隆过滤器中时，该字符串首先由多个哈希函数生成不同的哈希值，然后在对应的位数组的下标的元素设置为1(当位数组初始化时，所有位置均为0)。当第二次存储相同字符串时，因为先前的对应位置已设置为1，所以很容易知道此值已经存在(去重非常方便)。

如果我们需要判断某个字符串是否在布隆过滤器中时，只需要对给定字符串再次进行相同的哈希计算，得到值之后判断位数组中每个元素是否都为1，如果值都为1，那么说明这个值在布隆过滤器中，如果存在一个值不为1，说明该元素不在布隆过滤器中。

不同的字符串可能哈希出来的位置相同，这种情况我们可以适当增加位数组大小或者调整我们的哈希函数。布隆过滤器说某个元素存在，小概率会误判；布隆过滤器说某个元素不存在，那个这个元素一定不存在。

3、使用场景

判断给定数据是否存在，比如判断一个数字是否在于包含大量数据的数字集中(数字集很大，5亿以上!)、防止缓存穿透(判断请求的数据是否有效避免直接绕过缓存请求数据库)等等、邮箱的垃圾邮件过滤、黑名单功能等等。
去重，比如爬给定网址的时候对已爬去过的URL去重。

4、通过Java编程手动实现布隆过滤器

通过上面已经了解了布隆过滤器的原理，知道了布隆过滤器的原理之后可以自己实现一个简单的。

自己手动实现一个，需要一下条件：

1、一个合适大小的位数组保存数据；
2、几个不同的哈希函数；
3、添加元素到位数组(布隆过滤器)的方法实现；
4、判断给定元素是否存在于位数组(布隆过滤器)的方法实现；

import java.util.BitSet;

public class MyBloomFilter {

    /**
     * 位数组的大小
     */
    private static final int DEFAULT_SIZE = 2 << 24;
    
    /**
     * 通过这个数组可以创建 6 个不同的哈希函数
     */
    private static final int[] SEEDS = new int[]{3, 13, 46, 71, 91, 134};

    /**
     * 位数组。数组中的元素只能是 0 或者 1
     */
    private BitSet bits = new BitSet(DEFAULT_SIZE);

    /**
     * 存放包含 hash 函数的类的数组
     */
    private SimpleHash[] func = new SimpleHash[SEEDS.length];

    /**
     * 初始化多个包含 hash 函数的类的数组，每个类中的 hash 函数都不一样
     */
    public MyBloomFilter() {
        // 初始化多个不同的 Hash 函数
        for (int i = 0; i < SEEDS.length; i++) {
            func[i] = new SimpleHash(DEFAULT_SIZE, SEEDS[i]);
        }
    }

    /**
     * 添加元素到位数组
     */
    public void add(Object value) {
        for (SimpleHash f : func) {
            bits.set(f.hash(value), true);
        }
    }

    /**
     * 判断指定元素是否存在于位数组
     */
    public boolean contains(Object value) {
        boolean ret = true;
        for (SimpleHash f : func) {
            ret = ret && bits.get(f.hash(value));
        }
        return ret;
    }

    /**
     * 静态内部类。用于 hash 操作！
     */
    public static class SimpleHash {

        private int cap;
        private int seed;

        public SimpleHash(int cap, int seed) {
            this.cap = cap;
            this.seed = seed;
        }

        /**
         * 计算 hash 值
         */
        public int hash(Object value) {
            int h;
            return (value == null) ? 0 : Math.abs(seed * (cap - 1) & ((h = value.hashCode()) ^ (h >>> 16)));
        }

    }
}

5、利用开源的布隆过滤器

自己实现的目的主要是为了搞清其原理，Guava中布隆过滤器的实现是比较权威的，实际开发中我们不需要自己实现布隆过滤器。

项目中引入Guava依赖：

		<dependency>
            <groupId>com.google.guava</groupId>
            <artifactId>guava</artifactId>
            <version>28.0-jre</version>
        </dependency>

		// 创建布隆过滤器对象，最多存放1500个整数的布隆过滤器，并且我们可以容忍误判率为百分之一
        BloomFilter<Integer> filter = BloomFilter.create(
                Funnels.integerFunnel(),
                1500,
                0.01);
        // 判断指定元素是否存在
        System.out.println(filter.mightContain(1));
        System.out.println(filter.mightContain(2));
        // 将元素添加进布隆过滤器
        filter.put(1);
        filter.put(2);
        System.out.println(filter.mightContain(1));
        System.out.println(filter.mightContain(2));