二项分布

令随机变量 XX 表明在 nn 次彼此独立的伯努利实验中成功的次数,其中每次伯努利实验的成功概率均为 pp,则可称变量 XX 服从二项分布。记作 X∼B(np)X\sim B(np)。

其中 XX 的值为 kk 的概率记作 b(k;n;p)b(k;n;p)

b(k;n;p)=(nk)pk(1−p)n−kb(k; n; p) = {n \choose k} p^k(1-p)^{n-k}

XX 的期望和方差分别为

E(X)=npD(X)=np(1−p)\begin{aligned} E(X) &= np\\ D(X) &= np(1-p) \end{aligned}

当 nn 非常大时,计算 b(k;n;p)b(k;n;p) 比较麻烦,可以考虑当 n→∞n\to \infty 时,简化表达式 b(k;n;p)b(k;n;p),

lim⁡n→∞b(k;n;p)=lim⁡n→∞(nk)pk(1−p)n−k=lim⁡n→∞n(n−1)(n−2)⋯(n−k+1)k!pk(1−p)n−kE(X)=np\begin{aligned} \lim_{n\to \infty} b(k; n; p) &= \lim_{n\to \infty}{n \choose k}p^k(1-p)^{n-k} = \lim_{n\to \infty} \dfrac{n(n-1)(n-2)\cdots (n-k+1)}{k!}p^k(1-p)^{n-k}\\ E(X) &= np\\ \end{aligned}

表达式的极限不存在,需要附加条件。可以考虑构造一个分布 X∼B(n,pn)X\sim B(n, p_n),其中的 pnp_n 随着 nn 变化而变化,假定期望 npnnp_n 为定值,设 λn=npn\lambda_n = np_n,且 lim⁡n→∞λn=λ\displaystyle\lim_{n\to \infty}\lambda_n = \lambda,此时

lim⁡n→∞b(k;n;pn)=lim⁡n→∞(nk)pnk(1−pn)n−k=lim⁡n→∞n(n−1)(n−2)⋯(n−k+1)k!pk(1−p)n−k=lim⁡n→∞pkn(n−1)(n−2)⋯(n−k+1)k!pk(1−p)n−k=lim⁡n→∞λnkk!(1−1n)(1−2n)⋯(1−k−1n)(1−λnn)n−k=lim⁡n→∞λkk!×1×(1−λnn)−nλnλn(k−n)n=λkk!e−λ\begin{aligned} \lim_{n\to \infty} b(k; n; p_n) &= \lim_{n\to \infty}{n \choose k}p_n^k(1-p_n)^{n-k} = \lim_{n\to \infty} \dfrac{n(n-1)(n-2)\cdots (n-k+1)}{k!}p^k(1-p)^{n-k}\\ &= \lim_{n\to \infty} \dfrac{p^k n(n-1)(n-2)\cdots (n-k+1)}{k!}p^k(1-p)^{n-k}\\ &= \lim_{n\to \infty} \dfrac{\lambda_n^k}{k!}(1-\dfrac{1}{n})(1-\dfrac{2}{n})\cdots(1-\dfrac{k-1}{n})(1-\dfrac{\lambda_n}{n})^{n-k}\\ &= \lim_{n\to \infty}\dfrac{\lambda^k}{k!}\times1\times (1-\dfrac{\lambda_n}{n})^{-\frac{n}{\lambda_n}\frac{\lambda_n(k-n)}{n}}\\ &= \dfrac{\lambda^k}{k!} e^{-\lambda}\\ \end{aligned}

如果一个离散变量 XX 服从这种分布,则称为 泊松分布,记作 X∼P(λ)X\sim P(\lambda),

P{X=k}=λkk!e−λE(X)=λ,(∑k=0∞λkk!=eλ)D(X)=λ\begin{aligned} P\{X = k\} &= \dfrac{\lambda^k}{k!}e^{-\lambda}\\ E(X) &= \lambda,(\sum_{k = 0}^{\infty}\dfrac{\lambda_k}{k!}= e^{\lambda})\\ D(X) &= \lambda \end{aligned}

求解泊松分布的方差:

  • 首先求 E(X2)E(X^2):

E(X2)=∑k=0∞k2λkk!e−λ=∑k=1∞k2λkk!e−λ=λe−λ∑k=1∞kλk−1(k−1)!=λe−λ∑k=0∞(k+1)λkk!=λe−λ(∑k=0∞λλk−1(k−1)!+∑k=0∞λkk!)=λe−λ(λeλ+eλ)=λ2+λ\begin{aligned} E(X^2) &= \sum_{k = 0}^{\infty} k^2\dfrac{\lambda^k}{k!}e^{-\lambda}= \sum_{k = 1}^{\infty} k^2\dfrac{\lambda^k}{k!}e^{-\lambda}\\ &= \lambda e^{-\lambda} \sum_{k = 1}^{\infty} k\dfrac{\lambda^{k-1}}{(k-1)!} = \lambda e^{-\lambda} \sum_{k = 0}^{\infty} (k+1)\dfrac{\lambda^k}{k!}\\ &= \lambda e^{-\lambda}(\sum_{k = 0}^{\infty} \lambda\dfrac{\lambda^{k-1}}{(k-1)!} + \sum_{k = 0}^{\infty}\dfrac{\lambda^k}{k!})\\ &= \lambda e^{-\lambda}(\lambda e^{\lambda} + e^{\lambda})\\ &= \lambda^2 + \lambda\\ \end{aligned}

  • 则方差

D(X)=E(X2)−E2(X)=λD(X) = E(X^2) - E^2(X) = \lambda

与二项分布的方差相比,少了一个 1−p1-p,由于

lim⁡n→∞pn=lim⁡n→∞npn1n=λ⋅0=0\lim_{n\to \infty} p_n = \lim_{n\to \infty} np_n\dfrac{1}{n} = \lambda \cdot 0 = 0

则 1−pn1-p_n 最终趋向于 00,方差只剩下 λ\lambda.

参考资料·

排队论基础