Post

随机变量与常见分布:从计数到等待时间

区分 CDF、PMF、PDF,并用计数和等待时间串起二项、泊松、几何与指数分布。

随机变量与常见分布:从计数到等待时间

选择概率分布之前,先明确随机变量在统计什么:一次试验的结果、固定次数中的成功数,还是第一次事件到来前的等待?本文根据数理统计学习笔记整理,将重复问答合并成概念、对照表和练习。

随机变量和三种分布表达

随机变量是从样本空间到实数的函数,用数值描述试验结果。累积分布函数对所有随机变量都适用:

\[F_X(x)=P(X\le x),\qquad P(a<X\le b)=F_X(b)-F_X(a)\]

CDF 单调不减、右连续,并且在负无穷和正无穷处的极限分别为 0 和 1。

表达定义含义
CDF\(F_X(x)=P(X\le x)\)累计到某个值的概率
PMF\(p_X(x)=P(X=x)\)离散变量在一个取值上的概率
PDF\(f_X(x)\)具有密度的连续变量的概率密度

PDF 的高度不是概率,区间下的面积才是:

\[P(a<X\le b)=\int_a^b f_X(x)\,dx\]

例如,区间 \([0,0.5]\) 上的均匀分布,其密度为 2,但全区间概率仍为 1。对具有密度的连续随机变量,单点概率为 0。

期望与方差

在相应期望存在时:

\[E(X)=\sum_x x p_X(x) \quad\text{或}\quad E(X)=\int_{-\infty}^{\infty}x f_X(x)\,dx\]

方差描述围绕均值的波动;在二阶矩有限时:

\[\operatorname{Var}(X)=E[(X-E(X))^2]=E(X^2)-[E(X)]^2\]

标准差为方差的平方根,与随机变量具有相同单位。

计数分布和等待分布

分布统计对象建模条件或约定
Bernoulli一次试验是否成功成功概率为 \(p\)
Binomial固定 \(n\) 次试验的成功数独立且成功概率相同
Geometric第一次成功所在的试验次数本文从 1 开始计数
Negative binomial第 \(r\) 次成功所在的试验次数本文从 \(r\) 开始计数
Hypergeometric不放回抽样中的成功数有限总体,样本之间不独立
Poisson一个区间内的事件数常用于具有泊松机制的事件计数

注意几何分布和负二项分布也常按“成功之前的失败次数”定义。阅读公式时,应先检查支持集和计数约定。

二项分布:固定次数中成功多少次

若 \(X\sim\operatorname{Binomial}(n,p)\),则:

\[P(X=k)=\binom nk p^k(1-p)^{n-k},\qquad k=0,\ldots,n\]

其中 \(E(X)=np\),\(\operatorname{Var}(X)=np(1-p)\)。组合数表示成功可以出现在不同的位置,不能只计算某一条具体的成功和失败序列。

泊松分布:区间内发生多少次

若 \(X\sim\operatorname{Poisson}(\lambda)\),则:

\[P(X=k)=\frac{e^{-\lambda}\lambda^k}{k!},\qquad k=0,1,2,\ldots\]

其期望与方差均为 \(\lambda\)。仅仅因为事件稀少,不能保证它符合泊松分布;独立性、发生率及聚集现象也需要检查。

对于二项分布序列,当 \(p_n\to0\) 且 \(np_n\to\lambda\) 时,可得到泊松极限。实际应用中常用 \(\lambda=np\) 近似,但近似精度还取决于具体参数和所求事件。

几何分布:第一次成功要等几次

独立重复试验,每次成功概率为 \(p\)。若 \(X\) 是第一次成功所在的试验次数:

\[P(X=k)=(1-p)^{k-1}p,\qquad k=1,2,\ldots\]

前 \(k-1\) 次失败,第 \(k\) 次成功。因此 \(E(X)=1/p\),\(\operatorname{Var}(X)=(1-p)/p^2\)。

指数分布:下一次事件还要等多久

对速率为 \(\lambda\) 的齐次泊松过程,长度为 \(t\) 的时间区间内:

\[N(t)\sim\operatorname{Poisson}(\lambda t)\]

等待下一次事件的时间 \(T\) 服从指数分布,其尾概率为:

\[P(T>t)=P(N(t)=0)=e^{-\lambda t},\qquad t\ge0\]

这是计数与等待之间的联系:等待超过 \(t\),等价于这段时间没有事件发生。几何分布和指数分布都具有无记忆性,分别描述离散试验与连续时间中的等待。

三道练习

  1. 若 \(X\sim\operatorname{Binomial}(10,0.3)\),求 \(P(X=2)\)、期望和方差。
  2. 独立进行 1000 次试验,每次事件概率为 0.002。用泊松分布近似事件数,求零次事件的概率。
  3. 每次成功概率为 0.25,第一次成功发生在第 4 次的概率是多少?速率为 2 的泊松过程中,等待超过 1 个时间单位的概率是多少?

参考解答

第一题:

\[P(X=2)=\binom{10}{2}(0.3)^2(0.7)^8, \qquad E(X)=3,\qquad\operatorname{Var}(X)=2.1\]

第二题的精确分布是二项分布。泊松近似参数为 \(\lambda=1000\times0.002=2\),因此 \(P(Y=0)\approx e^{-2}\)。精确值则为 \((0.998)^{1000}\)。

第三题分别为 \((0.75)^3(0.25)\) 和 \(e^{-2}\)。这里问的是等待“超过”某个时间;\(1-e^{-2}\) 对应的是等待时间不超过 1。

This post is licensed under CC BY 4.0 by the author.