您的当前位置：首页蓄水池采样

蓄水池采样

来源：欧得旅游网

问题描述：

现实生活中有很多流式数据，在流式数据上采样可以抽象为:

设几个中元素个数为N,并且N在不断的增大，如何在集合中采集K个样本，使得每个样本被采集到的概率相等(K/N)？

蓄水池抽样法：

算法思路是，先构造一个可以放K个元素的池子，池子中一开始放元素1~k。

对于K+1~N 以K/N的概率决定是否被替换到池子中，遍历完所有元素后就可以得到一个等概率采样的K个元素，时间复杂度是O(N);

伪代码：

Init : a reservoir with the size： k
for    i= k+1 to N

    M=random(1, i);
        if( M <= k)
            SWAP the Mth value and ith value
end for

证明：

对小于等于K的元素，第一次被选中的概率是1，最后留在池子中的概率=它第一次被选中的概率 * 以后面它不被替换的概率:

第一次随机的时候它被替换走的概率是 1/K+1 ，所以不被替换走的概率是 K/K+1 ，

第二次随机的时候它不被替换走的概率是 K+1/K+2 .....

所以最后留在池子中的概率是 : 1* (K/(K+1))*((K+1)/(K+2)).....(N-1)/N = K/N

对于大于K的元素J，被选中的概率是 K/J，后面不被替换的概率是 J/J+1 J+1/J+2 ......N-1/N

所以最后留在池子中的概率是: K/J*(J/J+1).......(N-1)/N = K/N

全部都是等概率的

因篇幅问题不能全部显示，请点此查看更多更全内容

查看全文