Bloom Filter是由Bloom在1970年提出的一种多哈希函数映射的快速查找算法。通常应用在一些需要快速判断某个元素是否属于集合，但是并不严格要求100%正确的场合。  一. 场景  　　为了说明Bloom Filter存在的重要意义，举一个实例： 　　假设要你写一个网络蜘蛛（web crawler）。由于网络间的链接错综复杂，蜘蛛在网络间爬行很可能会形成“环”。为了避免形

1. Bit Map算法简介         来自于《编程珠玑》。所谓的Bit-map就是用一个bit位来标记某个元素对应的Value， 而Key即是该元素。由于采用了Bit为单位来存储数据，因此在存储空间方面，可以大大节省。   2、 Bit Map的基本思想         我们先来看一个具体的例子，假

三台服务器，每台的作用如下： 192.168.1.1 NameNode SecondaryNameNode ResourceManager HMaster HQuorumPeer 192.168.1.2 DataNode NodeManager HRegionServer HQuorumPeer 192.168.1.3 DataNode NodeManager HRegionServer H

题一、 给定a、b两个文件，各存放50亿个url，每个url各占64字节，内存限制是4G，让你找出a、b文件共同的url？ 方案1：可以估计每个文件安的大小为50G×64=320G，远远大于内存限制的4G。所以不可能将其完全加载到内存中处理。考虑采取分而治之的方法。 1) 遍历文件a，对每个url求取hash（url）%1000，然后根据所取得的值将url分别存储到1000个小文件（记为a0…&