常见随机变量分布及其数学特征

离散型随机变量

  • 二项分布X∼B(n,p)X\sim B(n,p)：可看作nn个独立同分布的0−10-1分布
    • P(X=k)=(nk)pk(1−p)n−k\begin{align}P(X=k)=\left(\begin{matrix}n\\k\end{matrix}\right)p^k(1-p)^{n-k}\end{align}，k∈[0,n]k\in [0,n]
    • EX=npEX=np： ∑k=0nkP(X=k)=nEXi=np\begin{align}\sum_{k=0}^nkP(X=k)=nEX_i=np\end{align}，前者用二项式定理或生成函数证明、后者为nn个0−10-1分布叠加
      • 前者的二项式定理证明： 原式=np∑k=1n(n−1)!(k−1)!(n−k)!pk−1(1−p)n−k=np∑k=0n−1(n−1k)pk(1−p)n−k−1=np\begin{align}&原式=np\sum_{k=1}^n\frac{(n-1)!}{(k-1)!(n-k)!}p^{k-1}(1-p)^{n-k}=np\sum_{k=0}^{n-1}\left(\begin{matrix}n-1\\k\end{matrix}\right)p^k(1-p)^{n-k-1}=np\end{align}
    • DX=np(1−p)DX=np(1-p)：由于为nn个独立的0−10-1分布，可以由DXiDX_i叠加得出
      • 定义证法： EX2=∑k=0nk2P(X=k)=∑k=1nkn!(k−1)!(n−k)!pk(1−p)n−k=∑k=0n−1(k+1)⋅n!k!(n−k−1)!pk+1(1−p)n−k−1=∑k=1n−1kn!k!(n−k−1)!pk+1(1−p)n−k−1+np∑k=0n−1(n−1)!k!(n−k−1)!pk(1−p)n−k−1=n(n−1)∑k=0n−2(n−2)!k!(n−k−2)!pk+2(1−p)n−k+np=n(n−1)p2+np=n2p2−np2+npDX=EX2−(EX)2=np(1−p)\begin{align}&EX^2=\sum_{k=0}^nk^2P(X=k)=\sum_{k=1}^nk\frac{n!}{(k-1)!(n-k)!}p^k(1-p)^{n-k}\\&=\sum_{k=0}^{n-1}\frac{(k+1)·n!}{k!(n-k-1)!}p^{k+1}(1-p)^{n-k-1}\\&=\sum_{k=1}^{n-1}k\frac{n!}{k!(n-k-1)!}p^{k+1}(1-p)^{n-k-1}+np\sum_{k=0}^{n-1}\frac{(n-1)!}{k!(n-k-1)!}p^{k}(1-p)^{n-k-1}\\&=n(n-1)\sum_{k=0}^{n-2}\frac{(n-2)!}{k!(n-k-2)!}p^{k+2}(1-p)^{n-k}+np\\&=n(n-1)p^2+np=n^2p^2-np^2+np\\&DX=EX^2-(EX)^2=np(1-p)\end{align}
    • EXk=nEXik=npk\begin{align}EX^k=nEX^k_i=np^k\end{align}
  • 泊淞分布X∼P(λ)X\sim P(\lambda)
    • P(X=k)=λkk!e−λ\begin{align}P(X=k)=\frac{\lambda^k}{k!}e^{-\lambda}\end{align}，k∈N+k\in N^+
    • EX=λ\begin{align}EX=\lambda\end{align}：经典级数
      • ∑k=1+∞kλkk!e−λ=λe−λeλ=λ\begin{align}\sum_{k=1}^{+\infty}k\frac{\lambda^k}{k!}e^{-\lambda}=\lambda e^{-\lambda}e^{\lambda}=\lambda\end{align}
    • DX=λDX=\lambda
      • EX2=∑k=1+∞kλk(k−1)!e−λ=λe−λS(λ)∫Sdλ=∫∑k=1+∞kλk−1(k−1)!dλ=∑k=1+∞λk(k−1)!=λeλS=(λ+1)eλ⇒EX2=λ2+λDX=EX2−(EX)2=λ\begin{align}&EX^2=\sum_{k=1}^{+\infty}k\frac{\lambda^k}{(k-1)!}e^{-\lambda}=\lambda e^{-\lambda}S(\lambda)\\&\int S\mathrm d\lambda=\int\sum_{k=1}^{+\infty}\frac{k\lambda^{k-1}}{(k-1)!}\mathrm d\lambda=\sum_{k=1}^{+\infty}\frac{\lambda^{k}}{(k-1)!}=\lambda e^{\lambda}\\&S=(\lambda+1) e^{\lambda}\Rightarrow EX^2=\lambda^2+\lambda\\&DX=EX^2-(EX)^2=\lambda\end{align}
      • 或者： EX2=∑k=1+∞(k−1+1)λk(k−1)!e−λ=e−λ∑k=1+∞(k−1)λ⋅λk−1(k−1)!+λ=λ+e−λλ∑k=0+∞kλkk!=λ+λ2\begin{align}&EX^2=\sum_{k=1}^{+\infty}(k-1+1)\frac{\lambda^{k}}{(k-1)!}e^{-\lambda}\\&=e^{-\lambda}\sum_{k=1}^{+\infty}(k-1)\frac{\lambda·\lambda^{k-1}}{(k-1)!}+\lambda=\lambda+e^{-\lambda}\lambda\sum_{k=0}^{+\infty}\frac{k\lambda^{k}}{k!}\\&=\lambda+\lambda^2\end{align}
    • EXn=∑k=1+∞knλkk!e−λ\begin{align}&EX^n=\sum_{k=1}^{+\infty}k^n\frac{\lambda^k}{k!}e^{-\lambda}\end{align}，可以将knk^n替换为系数为第二类斯特林数的kk的下阶幂的和 可递归表示为第二类斯特林数系数结合λ\lambda的幂、或二项式系数结合低阶期望的形式： EXn=∑k=0n[nk]λk=λ∑k=0n−1(n−1k)EXk\begin{align}EX^n=\sum_{k=0}^n\left[\begin{matrix}n\\k\end{matrix}\right]\lambda^k=\lambda\sum_{k=0}^{n-1}\left(\begin{matrix}n-1\\k\end{matrix}\right)EX^k\end{align}

连续型随机变量

  • 均匀分布X∼U(a,b)X\sim U(a,b)：
    • f(x)={1b−a,a≤x≤b0,otherwisef(x)=\begin{cases}{\Large\frac1{b-a}},&a\le x\le b\\0,&\rm otherwise\end{cases}
    • F(x)={0,x<ax−ab−a,a≤x≤b1,x>bF(x)=\begin{cases}0,&x<a\\{\Large\frac{x-a}{b-a}},&a\le x\le b\\1,&x>b\end{cases}
    • EX=∫abxb−adx=b+a2\begin{align}EX=\int_{a}^b\frac{x}{b-a}\mathrm dx=\frac{b+a}{2}\end{align}
    • EXk=∫abxkb−adx=bk+1−ak+1(k+1)(b−a)\begin{align}EX^k=\int_{a}^b\frac{x^k}{b-a}\mathrm dx=\frac{b^{k+1}-a^{k+1}}{(k+1)(b-a)}\end{align}
    • DX=EX2−(EX)2=(b−a)(b2+ab+a2)3(b−a)−(b+a)24=(b−a)212\begin{align}DX=EX^2-(EX)^2=\frac{(b-a)(b^2+ab+a^2)}{3(b-a)}-\frac{(b+a)^2}4=\frac{(b-a)^2}{12}\end{align}
  • 指数分布X∼e(λ)X\sim e(\lambda)：
    • f(x)={λe−λx,x>00,otherwisef(x)=\begin{cases}\lambda e^{-\lambda x},&x>0\\0,&\rm otherwise\end{cases}
    • F(x)={0,x≤01−e−λx,x>0F(x)=\begin{cases}0,&x\le0\\1-e^{-\lambda x},&x>0\end{cases}，可以记住 ∫x+∞λe−λxdx=e−λx\begin{align}\int_x^{+\infty}\lambda e^{-\lambda x}\mathrm dx=e^{-\lambda x}\end{align}
    • EX=∫0+∞λxe−λxdx=−∫0+∞xd(e−λx)=−xe−λx∣0+∞+∫0+∞e−λxdx=1λ\begin{align}EX=\int_0^{+\infty}\lambda xe^{-\lambda x}\mathrm dx=-\int_{0}^{+\infty}x\mathrm d\left(e^{-\lambda x}\right)=-xe^{-\lambda x}\Bigg|_{0}^{+\infty}+\int_0^{+\infty}e^{-\lambda x}\mathrm dx=\frac1\lambda\end{align}
    • EXk=∫0+∞λxke−λxdx=−∫0+∞xkd(e−λx)=−xke−λx∣0+∞+k∫0+∞xk−1e−λxdx=kλEXk−1由EX=1λ,得EXk=k!λk\begin{align}&EX^k=\int_0^{+\infty}\lambda x^ke^{-\lambda x}\mathrm dx=-\int_{0}^{+\infty}x^k\mathrm d\left(e^{-\lambda x}\right)\\&=-x^ke^{-\lambda x}\Bigg|_0^{+\infty}+k\int_0^{+\infty}x^{k-1}e^{-\lambda x}\mathrm dx=\frac{k}{\lambda}EX^{k-1}\\&由EX=\frac1\lambda,得EX^k=\frac{k!}{\lambda^k}\end{align}
    • DX=EX2−(EX)2=1λ2\begin{align}DX=EX^2-(EX)^2=\frac1{\lambda^2}\end{align}
  • 正态分布X∼N(μ,σ2)X\sim N(\mu,\sigma^2)：
    • f(x)=12πσe−(x−μ)22σ2\begin{align}f(x)=\frac1{\sqrt{2\pi}\sigma}e^{\Large-\frac{(x-\mu)^{\large2}}{2\sigma^{\large2}}}\end{align}，x∈Rx\in R
    • ∫−∞+∞f(x)dx=1\begin{align}\int_{-\infty}^{+\infty}f(x)\mathrm dx=1\end{align}，你可以由归一性使用结论，其证明过程如下(标准正态分布为例)：
      • 令I=∫−∞+∞e−x22dx,则I2=∫−∞+∞e−x22dx∫−∞+∞e−y22dy=∫−∞+∞∫−∞+∞e−x2+y22dxdy=lim⁡a→+∞∫−aa∫−aae−x2+y22dxdy\begin{align}&令I=\int_{-\infty}^{+\infty}e^{\large-\frac{x^{\normalsize2}}{2}}\mathrm dx,则I^2=\int_{-\infty}^{+\infty}e^{\large-\frac{x^{\normalsize2}}2}\mathrm dx\int_{-\infty}^{+\infty}e^{\large-\frac{y^{\normalsize2}}2}\mathrm dy\\&=\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}e^{-\frac{x^2+y^2}2}\mathrm dx\mathrm dy=\lim_{a\rightarrow+\infty}\int_{-a}^{a}\int_{-a}^{a}e^{-\frac{x^2+y^2}2}\mathrm dx\mathrm dy\end{align} 虽然被积区域不是圆,但可以用夹逼定理使其极坐标变换D1<D<D2,其中D1为内切圆、D2为外接圆在D1上,lim⁡a→+∞∫02πdθ∫0a2re−r22dr=2π在D2上,lim⁡a→+∞∫02πdθ∫0a2re−r22dr=2π因此I=2π,∫−∞+∞f(x)dx=I2π=1\begin{align}&虽然被积区域不是圆,但可以用夹逼定理使其极坐标变换\\&D_1<D<D_2,其中D_1为内切圆、D_2为外接圆\\&在D_1上,\lim_{a\rightarrow+\infty}\int_{0}^{2\pi}\mathrm d\theta\int_{0}^{\large\frac{a}2}re^{\Large-\frac{r^{\normalsize2}}2}\mathrm dr=2\pi\\&在D_2上,\lim_{a\rightarrow+\infty}\int_{0}^{2\pi}\mathrm d\theta\int_{0}^{\large\frac{a}{\sqrt2}}re^{\Large-\frac{r^{\normalsize2}}2}\mathrm dr=2\pi\\&因此I=\sqrt{2\pi},\int_{-\infty}^{+\infty}f(x)\mathrm dx=\frac I{\sqrt{2\pi}}=1\end{align}
    • EX=μ、EX2=σ2+μ2EX=\mu、EX^2=\sigma^2+\mu^2
    • EXk=∫−∞+∞xk2πe−x22dx=−∫−∞+∞xk−12πd(e−x22)=0+∫−∞+∞(k−1)xk−22πe−x22dx=(k−1)EXk−2\begin{align}&EX^k=\int_{-\infty}^{+\infty}\frac{x^k}{\sqrt{2\pi}}e^{\Large-\frac{x^2}{2}}\mathrm dx=-\int_{-\infty}^{+\infty}\frac{x^{k-1}}{\sqrt{2\pi}}\mathrm d\left(e^{\Large-\frac{x^2}2}\right)\\&=0+\int_{-\infty}^{+\infty}\frac{(k-1)x^{k-2}}{\sqrt{2\pi}}e^{\Large-\frac{x^2}2}\mathrm dx=(k-1)EX^{k-2}\end{align}
    • 标准正态分布： EXk=(k−1)!!,k是偶数EXk=0,k是奇数\begin{align}&EX^k=(k-1)!!,k是偶数\\&EX^k=0,k是奇数\end{align}
    • DX=σ2DX=\sigma^2

随机变量函数

二维随机变量

  • 二维正态分布

统计量

  • 正态分布N(μ,σ2)N(\mu,\sigma^2)的nn个简单随机样本的样本均值： Xˉ=1n∑i=1nXi\begin{align}\bar X=\frac{1}{n}\sum_{i=1}^nX_i\end{align}
    • EXˉ=μE\bar X=\mu
    • DXˉ=σ2n\begin{align}D\bar X=\frac{\sigma^2}n\end{align}
  • 正态分布N(μ,σ2)N(\mu,\sigma^2)的nn个简单随机样本的样本方差： S2=1n−1∑i=1n(Xi−Xˉ)2\begin{align}S^2=\frac1{n-1}\sum_{i=1}^n(X_i-\bar X)^2\end{align}
    • ES2=μ2+σ2ES^2=\mu^2+\sigma^2
    • 由 U=(n−1)S2σ2∼χ2(n−1)\begin{align}U=\frac{(n-1)S^2}{\sigma^2}\sim\chi^2(n-1)\end{align}， DS2=σ4(n−1)2DU=σ4(n−1)2(n−1)DX2DX2=EX4−(EX2)2=3EX2−(EX2)2=2DS2=2n−1\begin{align}&DS^2=\frac{\sigma^4}{(n-1)^2}DU=\frac{\sigma^4}{(n-1)^2}(n-1)DX^2\\&DX^2=EX^4-(EX^2)^2=3EX^2-(EX^2)^2=2\\&DS^2=\frac2{n-1}\end{align}
  • 标准正态分布：不再赘述，设总体X∼N(μ,σ2)X\sim N(\mu,\sigma^2)，以下为常见的构造
    • n(Xˉ−μ)σ∼N(0,1)\begin{align}\frac{\sqrt n(\bar X-\mu)}{\sigma}\sim N(0,1)\end{align}
    • Xˉ1−Xˉ2+(μ1−μ2)σ12n1+σ22n2∼N(0,1)\begin{align}\frac{\bar X_1-\bar X_2+(\mu_1-\mu_2)}{\sqrt{\frac{\sigma^2_1}{n_1}+\frac{\sigma^2_2}{n_2}}}\sim N(0,1)\end{align}
  • 卡方分布U∼χ2(n)U\sim\chi^2(n)：设X1,⋯ ,XnX_1,\cdots,X_n为服从标准正态分布且相互独立的随机变量
    • U=∑i=1nXi2\begin{align}U=\sum_{i=1}^nX_i^2\end{align}
    • EU=nEX2=nEU=nEX^2=n
    • DU=nDX2=n(EX4−(EX2)2)=2nDU=nDX^2=n(EX^4-(EX^2)^2)=2n
  • tt分布U∼t(n)U\sim t(n)：设X∼N(0,1)、Y∼χ2(n)X\sim N(0,1)、Y\sim \chi^2(n)，且它们相互独立
    • U=XYn\begin{align}U=\frac{X}{\sqrt{\large\frac{Y}{n}}}\end{align}
    • 假设X1∼nX_{1\sim n}来自N(0,1)N(0,1)，则 n(Xˉ−μ)S∼t(n−1)\begin{align}\frac{\sqrt n(\bar X-\mu)}{S}\sim t(n-1)\end{align}
  • FF分布U∼F(n,m)U\sim F(n,m)：设X∼χ2(n)、Y∼χ2(m)X\sim\chi^2(n)、Y\sim\chi^2(m)，且它们相互独立
    • U=XnYm\begin{align}U=\frac{\large\frac{X}{n}}{\large\frac{Y}{m}}\end{align}