简介

作为机器学习知识储备，对常见的概率分布进行归纳总结。

离散型随机变量

0-1分布

随机变量X服从以p为参数的0-1分布（两点分布），X只可能取0与1两个值。

分布律：$P{X=k}=p^k \times (1-p)^{1-k},k=0,1 (0 \lt p \lt 1)$

伯努利试验与二项分布

结果只有两种可能的试验称为伯努利试验，将试验独立重复n次的一系列试验称为n重伯努利试验。

随机变量X服从参数为n，p的二项分布，记作$X \sim b(n,p)$。

分布律：$P{X=k}=(^n_k)p^k \times q^{n-k},k=0,1,…,n$

当n取1时，即为0-1分布。

几何分布

在n次伯努利试验中，试验k次才得到第一次成功的机率。称为随机变量X服从概率为p的几何分布，记作$X\sim GE(p)$。

分布律：$P(X=k)=(1-p)^{k-1}p,k=1,2,3,…$

超几何分布

从有限N个物件（其中包含M个指定种类的物件）中抽出n个物件，成功抽出该指定种类的物件的次数（不放回），称为随机变量X服从参数为N，n，M的超几何分布，记作$X\sim H(N,n,M)$。

分布律：$P(X=k)=\frac{C^kMC^{n-k}{N-M}}{C^n_N},k=t,t+1,…,s。其中s为M与n中的较小者，t在n\le N-M时取0，否则t=n-(N-M)$

泊松分布

随机变量X服从参数为$\lambda$的泊松分布，记作$X \sim \pi ( \lambda )$，$\lambda \gt 0为常数$。

分布律：$P{X=k}= \frac{ \lambda ^k \times e^{- \lambda}}{k!},k=0,1,2,…,$

当$\lambda = n \times p$时，泊松分布逼近二项分布，此时通常n很大p很小，可以此对二项分布概率进行估算。

连续型随机变量

均匀分布

随机变量X在区间(a,b)上服从均匀分布，记作$X \sim U(a,b)$

概率密度：

$$f(x)=\left\{ \begin{matrix} \frac{1}{b-a},a\lt x\lt b,\\ 0,其他, \end{matrix} \right.$$

分布函数：

$$F(x)=\left\{ \begin{matrix} 0,x\lt a,\\ \frac{x-a}{b-a},a\le x\lt b,\\ 1,x\ge b, \end{matrix} \right.$$

指数分布

随机变量X服从参数为$\theta(\theta \gt 0，是常数)$的指数分布。

概率密度：

$$f(x)= \left\{ \begin{matrix} \frac{1}{\theta}e^{-\frac{x}{\theta}},x>0,\\ 0,其他 \end{matrix} \right.$$

分布函数：

$$F(x)= \left\{ \begin{matrix} 1-e^{-\frac{x}{\theta}},x\gt0,\\ 0,其他, \end{matrix} \right.$$

正态分布

随机变量X服从参数为$\mu,\sigma(\mu,\sigma为常数,\sigma \gt0)$的正态分布（高斯分布），记作$X\sim N(\mu,\sigma^2)$。

概率密度：

$$f(x)=\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}},-\infty\lt x\lt\infty,$$

分布函数:

$$F(x)=\frac{1}{\sqrt{2\pi}\sigma}\int_{-\infty}^xe^{-\frac{(t-\mu)^2}{2\sigma^2}dt,}$$

当$\mu=0,\sigma=1$时为标准正态分布。

参考资料

《概率论与数理统计》浙江大学第四版——盛骤、谢式千