请选择 进入手机版 | 继续访问电脑版

热点推荐

    查看: 57|回复: 0

    布隆过滤器

    [复制链接]

    该用户从未签到

    640

    主题

    640

    帖子

    1920

    积分

    金牌会员

    Rank: 6Rank: 6

    积分
    1920
    发表于 7 天前 | 显示全部楼层 |阅读模式
    在程序的世界中,布隆过滤器是程序员的一把利器,利用它可以快速地解决项目中一些比较棘手的问题。如网页 URL 去重、垃圾邮件识别、大集合中重复元素的判断和缓存穿透等问题。
    9 y6 [3 w# Z* R( `- r3 j布隆过滤器(Bloom Filter)是 1970 年由布隆提出的。它实际上是一个很长的二进制向量和一系列随机映射函数。布隆过滤器可以用于检索一个元素是否在一个集合中。它的优点是空间效率和查询时间都比一般的算法要好的多,缺点是有一定的误识别率和删除困难。2 Y% ~0 l1 d6 {5 d
    一、布隆过滤器简介6 E/ U1 C6 N0 M. b" ]! N1 q# j0 \
    当你往简单数组或列表中插入新数据时,将不会根据插入项的值来确定该插入项的索引值。这意味着新插入项的索引值与数据值之间没有直接关系。这样的话,当你需要在数组或列表中搜索相应值的时候,你必须遍历已有的集合。若集合中存在大量的数据,就会影响数据查找的效率。7 i6 t* x; T4 E
    针对这个问题,你可以考虑使用哈希表。利用哈希表你可以通过对 “值” 进行哈希处理来获得该值对应的键或索引值,然后把该值存放到列表中对应的索引位置。这意味着索引值是由插入项的值所确定的,当你需要判断列表中是否存在该值时,只需要对值进行哈希处理并在相应的索引位置进行
    0 x# Z/ N% `3 W5 l) ]. k作者:架构文摘
    : e0 y/ I. G& s; m1 D; z链接:https://juejin.cn/post/6844904007790673933* o" e& r3 F1 B# G8 }3 N
    来源:掘金0 i5 T1 M7 l1 W) ]  r7 i/ p
    著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。0 H; u. I1 b" Q3 {7 ^" s
    搜索即可,这时的搜索速度是非常快的。# S: F4 k8 ^% R: t+ S' ~
    ' t3 B- E/ }3 Z# ~
    根据定义,布隆过滤器可以检查值是 “可能在集合中” 还是 “绝对不在集合中”。“可能” 表示有一定的概率,也就是说可能存在一定为误判率。那为什么会存在误判呢?下面我们来分析一下具体的原因。
    0 B4 a7 A  b  h5 @1 A+ g9 x布隆过滤器(Bloom Filter)本质上是由长度为 m 的位向量或位列表(仅包含 0 或 1 位值的列表)组成,最初所有的值均设置为 0,如下图所示。
    2 l, z( D% C; r, A+ ~( i- E
    9 K! }- q2 I. b; a% a
    为了将数据项添加到布隆过滤器中,我们会提供 K 个不同的哈希函数,并将结果位置上对应位的值置为 “1”。在前面所提到的哈希表中,我们使用的是单个哈希函数,因此只能输出单个索引值。而对于布隆过滤器来说,我们将使用多个哈希函数,这将会产生多个索引值。
    % I# n# S9 w8 C( }0 [$ U/ H
    ! R+ V1 [4 e# f4 ~: Y3 X
    如上图所示,当输入 “semlinker” 时,预设的 3 个哈希函数将输出 2、4、6,我们把相应位置 1。假设另一个输入 ”kakuqo“,哈希函数输出 3、4 和 7。你可能已经注意到,索引位 4 已经被先前的 “semlinker” 标记了。此时,我们已经使用 “semlinker” 和 ”kakuqo“ 两个输入值,填充了位向量。当前位向量的标记状态为:; ^" k* W/ [4 Q& k  R, J; A0 T
    8 R% E" p/ f5 u% ~: o/ ^# j' Z
    当对值进行搜索时,与哈希表类似,我们将使用 3 个哈希函数对 ”搜索的值“ 进行哈希运算,并查看其生成的索引值。假设,当我们搜索 ”fullstack“ 时,3 个哈希函数输出的 3 个索引值分别是 2、3 和 7:
    0 H3 K7 G/ Q% C( H/ X' h
    5 @8 R$ _3 t6 d) Y- _5 E6 P# l1 n; o
    从上图可以看出,相应的索引位都被置为 1,这意味着我们可以说 ”fullstack“ 可能已经插入到集合中。事实上这是误报的情形,产生的原因是由于哈希碰撞导致的巧合而将不同的元素存储在相同的比特位上。幸运的是,布隆过滤器有一个可预测的误判率(FPP):
    ! P" V& V8 M/ Q. _# n* y; ^

    * X! O, C$ w( J' c

      & v- Z  `. Y9 N' s; \: g& s4 j
    • n 是已经添加元素的数量;
      ; L# B8 o+ o, w
    • k 哈希的次数;
      " k- @9 y' Z/ |8 C& Z, f# p
    • m 布隆过滤器的长度(如比特数组的大小);1 ]; a" e) [1 z
    极端情况下,当布隆过滤器没有空闲空间时(满),每一次查询都会返回 true 。这也就意味着 m 的选择取决于期望预计添加元素的数量 n ,并且 m 需要远远大于 n 。' ?9 W/ _! V, E/ e0 X/ N5 H
    实际情况中,布隆过滤器的长度 m 可以根据给定的误判率(FFP)的和期望添加的元素个数 n 的通过如下公式计算:; r  v9 c* T5 P# _* z8 U$ _

    0 e$ X$ l0 I' _- b" J4 e. X; \( |了解完上述的内容之后,我们可以得出一个结论,当我们搜索一个值的时候,若该值经过 K 个哈希函数运算后的任何一个索引位为 ”0“,那么该值肯定不在集合中。但如果所有哈希索引值均为 ”1“,则只能说该搜索的值可能存在集合中9 i2 ?8 j' K% P# L4 Q
    二、布隆过滤器应用! X' P$ a% L/ Z6 F, X6 o. l
    ' R: X6 l+ K$ X0 f8 t- f
    在实际工作中,布隆过滤器常见的应用场景如下:" B/ k0 |% p+ K* b4 W* A. [
      + }8 |) F/ j) v2 k' a: g
    • 网页爬虫对 URL 去重,避免爬取相同的 URL 地址;1 p( X3 i9 O( T5 W- @" l
    • 反垃圾邮件,从数十亿个垃圾邮件列表中判断某邮箱是否垃圾邮箱;$ C/ M) A# h- c' {, y3 M6 [/ \
    • Google Chrome 使用布隆过滤器识别恶意 URL;. t9 ~2 d( ?7 V6 t& T+ C/ B2 a! c0 T
    • Medium 使用布隆过滤器避免推荐给用户已经读过的文章;
      ) Y% F5 t! y+ b" }" W0 k
    • Google BigTable,Apache HBbase 和 Apache Cassandra 使用布隆过滤器减少对不存在的行和列的查找。 除了上述的应用场景之外,布隆过滤器还有一个应用场景就是解决缓存穿透的问题。所谓的缓存穿透就是服务调用方每次都是查询不在缓存中的数据,这样每次服务调用都会到数据库中进行查询,如果这类请求比较多的话,就会导致数据库压力增大,这样缓存就失去了意义。
      . J. p) g- g/ C+ k, u
    利用布隆过滤器我们可以预先把数据查询的主键,比如用户 ID 或文章 ID 缓存到过滤器中。当根据 ID 进行数据查询的时候,我们先判断该 ID 是否存在,若存在的话,则进行下一步处理。若不存在的话,直接返回,这样就不会触发后续的数据库查询。需要注意的是缓存穿透不能完全解决,我们只能将其控制在一个可以容忍的范围内。+ L" g9 n6 t9 Q: Q- e
    三、布隆过滤器实战
    9 W/ V# L5 ]! P/ [/ x- [6 r9 K( w6 I0 c
    ( y: A. h' d( A( p; u% q. b! ~布隆过滤器有很多实现和优化,由 Google 开发著名的 Guava 库就提供了布隆过滤器(Bloom Filter)的实现。在基于 Maven 的 Java 项目中要使用 Guava 提供的布隆过滤器,只需要引入以下坐标:
    $ N/ ^" v! h- Y6 a  H+ z+ V# @( F* v   com.google.guava   guava   28.0-jre复制代码在导入 Guava 库后,我们新建一个 BloomFilterDemo 类,在 main 方法中我们通过 BloomFilter.create 方法来创建一个布隆过滤器,接着我们初始化 1 百万条数据到过滤器中,然后在原有的基础上增加 10000 条数据并判断这些数据是否存在布隆过滤器中:
    ; ~1 [3 T9 S0 d; O' h+ V! Ximport com.google.common.base.Charsets;import com.google.common.hash.BloomFilter;import com.google.common.hash.Funnels;public class BloomFilterDemo {    public static void main(String[] args) {        int total = 1000000; // 总数量        BloomFilter bf =           BloomFilter.create(Funnels.stringFunnel(Charsets.UTF_8), total);        // 初始化 1000000 条数据到过滤器中        for (int i = 0; i < total; i++) {            bf.put("" + i);        }        // 判断值是否存在过滤器中        int count = 0;        for (int i = 0; i < total + 10000; i++) {            if (bf.mightContain("" + i)) {                count++;            }        }        System.out.println("已匹配数量 " + count);    }}复制代码当以上代码运行后,控制台会输出以下结果:
    9 e  o% E4 b" A8 h已匹配数量 1000309复制代码很明显以上的输出结果已经出现了误报,因为相比预期的结果多了 309 个元素,误判率为:, e. s; u2 D  ~2 {0 B6 R
    309/(1000000 + 10000) * 100 ≈ 0.030594059405940593复制代码如果要提高匹配精度的话,我们可以在创建布隆过滤器的时候设置误判率 fpp:/ {3 E. }2 w* R* `
    BloomFilter bf = BloomFilter.create(  Funnels.stringFunnel(Charsets.UTF_8), total, 0.0002);复制代码在 BloomFilter 内部,误判率 fpp 的默认值是 0.03:
    , L2 f' B8 U" J& q" x( i// com/google/common/hash/BloomFilter.classpublic static  BloomFilter create(Funnel
    回复

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    快速回复 返回顶部 返回列表