第二章 随机变量及其分布

1. 随机变量及其分布

1.1 随机变量的定义

定义1.1 随机变量

​ 定义在样本空间$\Omega$上的实值函数$X=X(\omega )$称为随机变量,常用大写字母$X,Y,Z$等表示随机变量，其取值用小写字母$x,y,z$等表示。

​ 加入一个随机变量仅可能取有限个或可列个值，则称其为离散随机变量，加入一个随机变量的可能取值充满数轴上的一个区间$(a,b)$，则称其为连续随机变量，其中$a$可以是$-\infty$，$b$可以是$+\infty$

1.2 随机变量的分布函数

​ 随机变量$X$是样本点$\omega$的一个实值函数，若$B$是某些实数组成的集合，即$B\subset \mathbb{R},\mathbb{R}$表示实数集，则 { X ∈ B } \{X\in B\} {X∈B}表示如下的随机事件：
{ w : X ( w ) ∈ B } ⊂ Ω \{w:X(w)\in B\}\subset \Omega {w:X(w)∈B}⊂Ω
​ 特别的，用等号或不等号把随机变量$X$与某些实数连接起来，用来表示事件，例如 { X ≤ a } 、 { X > b } \{X\le a\}、\{X>b\} {X≤a}、{X>b}和 { a < X < b } \{a<X<b\} {a<X<b}都是随机事件

定义 2.1 分布函数

​ 设X是一个随机变量，对任意实数$x$，称
$$F(x)=P(X\le x)$$
​ 为随机变量$X$的分布函数，且称$X$服从$F(x)$,记为$X\sim F(x)$，有时也用$F_X(x)$来表示$X$的分布函数。

​ 由定义可知，任一随机变量X(离散的或连续的)都有一个分布函数，有了分布函数，就可以计算与随机变量X有关时间的概率。

定理 2.1 分布函数的性质

1. 单调性 $F(X)$是定义在整个实数轴$(-\infty ,\infty )$上的单调非减函数，即对任意的$x_1<x_2$，有$F(x_1)\le F(x_2)$

2. 有界性 对任意的$x$，有$0\le F(x)\le 1$,且
   $$\begin{gathered} F(-\infty )=\underset{x\to -\infty }{\lim }F(x)=0, \\ F(\infty )=\underset{x\to \infty }{\lim }F(x)=1 \end{gathered}$$

3. 右连续性 $F(x)$是$x$的右连续函数，即对任意的$x_0$，有
   $$\underset{x\to x_0+0}{\lim }F(x)=F(x_0)或F(x+0)=F(x_0)$$

证明p58

​ 这三条基本性质是判别某个函数是否能成为分布函数的充要条件

柯西分布函数

$$F(x)=\frac{1}{\pi }(arctanx+\frac{\pi }{2}),-\infty <x<\infty$$

​ $F(x)$在数轴上是连续，严格单增函数，且有$F(\infty )=1,F(-\infty )=0$,由于此$F(x)$满足分布函数的三条基本性质，所以它是一个分布函数。称这个分布函数为柯西分布函数。

1.3 离散随机变量的概率分布列

定义 3.1 概率分布列

​ 设$X$是一个离散随机变量，如果$X$的所有可能值是$x_1,x_2,\cdots ,x_n,\cdots$，则称$X$取$x_i$的概率：
$$p_i=p(x_i)=P(X=x_i),i=1,2,\cdots ,n,\cdots$$
​ 为X的概率分布列或简称为分布列,记为 X ∼ { p i } X\sim\{p_i\} X∼{pi​}

分布列可用表方式来表示：

或记为

性质 3.1 分布列的基本性质

1. 非负性 $p(x_i)\ge 0,i=1,2,\cdots$
2. 正则性 ${\sum }_{i=1}^{\infty }p(x_1)=1$

这两个性质是分布列必须具有的性质，也是判别某个数列是否能成为分布列的充要条件

1.4.连续随机变量的概率密度函数

​ 对于随机变量，一切可能取值充满某个区间$(a,b)$，而在这个区间内有无穷不可列个实数，因此这类随机变量的概率分布不能再用分布列形式表示，而要改用概率密度函数表示。

定义4.1 概率密度函数

​ 设随机变量$X$的分布函数为$F(x)$，如果存在实数轴上的一个非负可积函数$p(x)$，使得对任意函数$x$有
$$F(x)={\int }_{-\infty }^{x}p(t)dt$$
​ 则称$p(x)$为$X$的概率密度函数，简称为密度函数或密度，同时称$X$为连续随机变量，称$F(x)$为连续分布函数，由定义式不难推出：
$$F^{\prime }(x)=p(x)$$

性质4.1 密度函数的基本性质

1. 非负性 $p(x)\ge 0$
2. 正则性 ${\int }_{-\infty }^{\infty }p(x)dx=1$(含有$p(x)$的可积性)

​ 也是判断某个函数能否成为密度函数的充要条件

​ 除了离散分布和连续分布之外，还有既非离散又非连续的分布：

$$F(x)=\{\begin{array}{rlrl}0,& & & x<0,\\ \frac{1+x}{2},& & & 0\le x<1,\\ 1,& & & x\ge 1\end{array}$$
​ 可分解为两个分布函数的凸组合。

2.随机变量的数学期望

2.1 数学期望的概念

分赌本问题 (p69)

​ 数学期望这个名称由此而来，其实就是均值，有两种均值计算方式：

1. 算术平均
   $$E=\frac{{\sum }_{i=1}^k{x}_i}{n}$$

2. 加权平均
   $$E=\frac{1}{n}\sum _{i=1}^k{n}_i{x}_i=\sum _{i=1}^k\frac{n_i}{n}{x}_i$$
   分赌本问题启示我们，用取值的概率作为权重作加权平均是十分合理的

定义 2.1.1 离散随机变量的数学期望

​ 设离散随机变量$X$的分布列为
$$p(x_i)=P(x=x_i),i=1,2,\cdots ,n,\cdots .$$
​ 如果
$$\sum _{i=1}^{\infty }|x_i|p(x_i)<\infty ,$$
​ 则称
$$E(X)=\sum _{i=1}^{\infty }{x}_{i}p(x_i)$$
​ 为随机变量$X$的数学期望,或称为该分布的数学期望，简称期望或均值,若级数不收敛，则称$X$的数学期望不存在

定义 2.1.2 连续随机变量的数学期望

​ 设连续随机变量$X$的密度函数为$p(x)$，如果:
$${\int }_{-\infty }^{\infty }|x|p(x)dx<\infty$$
​ 则称
$$E(X)={\int }_{-\infty }^{\infty }xp(x)dx$$
​ 为$X$的数学期望，或称为该分布$p(x)$的数学期望，简称期望或均值，若积分不收敛，则称$X$的数学期望不存在。

均匀分布的期望

​ 设$X$服从区间$(a,b)$上的均匀分布，求$E(X)$,即$X$的密度函数为：
$$p(x)=\{\begin{array}{rlr}& \frac{1}{b-a},& a<x<b,\\ & 0,& 其他\end{array}$$
​ 则:
$$E(x)={\int }_a^{b}x\cdot \frac{1}{b-a}dx=\frac{1}{b-a}\cdot \frac{x^2}{2}{|}_a^b=\frac{a+b}{2}$$
​ 柯西分布的数学期望不存在，因为积分不收敛

2.2 数学期望的性质

定理 2.2.1 数学期望中的嵌套

​ 若随机变量$X$的分布用分布列$p(x_i)$或用密度函数$p(x)$表示，则$X$的某一函数$g(x)$的数学期望为：
$$E[g(x)]=\{\begin{array}{rl}\sum _{i}g(x_i)p(x_i),& 在离散场合,\\ {\int }_{-\infty }^{\infty }g(x)p(x)dx,& 在连续场合.\end{array}$$
​ 上述期望都是假设存在的

性质 2.2.1 数学期望的运算性质

1. 若$c$是常数，则$E(c)=c$
2. 对任意常数$a$，有$E(aX)=aE(X)$
3. 对任意的两个函数$g_1(x),g_2(x)$,有：$E[g_1(X)\pm g_2(X)]=E[g_1(X)]\pm E[g_2(X)]$

3.随机变量的方差与标准差

3.1 方差与标准差的定义

定义 3.1.1 方差

​ 若随机变量$X^2$的数学期望$E(X^2)$存在，则称偏差平方$(X-E(X){)}^2$的数学期望$E((X-E(X){)}^2)$为随机变量$X$(或相应分布)的方差，记为：
$$Var(X)=E(X-E(X){)}^2=\{\begin{array}{rl}& \sum _i(x_i-E(X){)}^{2}p(x_i),在离散场合,\\ & {\int }_{-\infty }^{\infty }(x-E(X){)}^{2}p(x)dx,在连续场合\end{array}$$
​ 称方差的正平方根$\sqrt{Var(X)}$为随机变量$X$(或相应分布)的标准差，记为$\sigma (X)$，或${\sigma }_X$

3.2 方差的性质

性质 3.2.1 方差的计算

$$Var(X)=E(X^2)-[E(X){]}^2$$

性质 3.2.2 常数的方差为0

性质 3.2.3 方差的线性组合

​ 若$a,b$是常数，则有
$$Var(aX+b)=a^{2}Var(X)$$

3.3 切比雪夫不等式

定理 3.3.1 切比雪夫(Chebyshev)不等式

​ 设随机变量$X$的数学期望和方差都存在，则对任意常数$ϵ>0$,有
$$P(|X-E(X)|\ge ϵ)\le \frac{Var(X)}{{ϵ}^2}$$
或
$$P(|X-E(X)|<ϵ)\ge 1-\frac{Var(X)}{{ϵ}^2}$$

​ 证明:p80

定理 3.3.2 方差为0

​ 若随机变量$X$的方差存在，则$Var(X)=0$的充要条件是$X$几乎处处为某个常数$a$,即$P(X=a)=1$

4. 常用离散分布

4.1 二项分布

4.1.1 二项分布的定义

​ 记$X$为$n$重伯努利试验中成功(记为事件$A$)的次数，则$X$的可能取值为$0,1,\cdots ,n$。不难得出$X$的分布列为:
$$P(X=k)=C_n^k{p}^k(1-p{)}^{n-k},k=0,1,\cdots ,n$$
​ 这个分布称为二项分布，记为$X\sim b(n,p)$

4.1.2 二点分布

​ $n=1$时的二项分布$b(1,p)$称为二点分布,或称0-1分布,或称伯努利分布,其分布列为:
$$P(X=x)=p^x(1-p{)}^{1-x},x=0,1.$$

4.1.3 二项分布的期望和方差

​ 设随机变量$X\sim b(n,p)$,则：
$$\begin{gathered} E(X)=np \\ Var(X)=np(1-p) \end{gathered}$$
推到过程:p84

4.2 泊松分布

4.2.1 泊松分布的定义

​ 泊松分布时1837年由法国数学家泊松(Poisson,1781——1840)首次提出的，泊松分布的概率分布列是：
$$P(X=k)=\frac{{\lambda }^k}{k!}{e}^{-\lambda },k=0,1,2,\cdots ,$$
​ 其中参数$\lambda >0$，记为$X\sim P(\lambda )$

​ 容易验证:
$$\sum _{k=0}^{\infty }\frac{{\lambda }^k}{k!}{e}^{-\lambda }=e^{-\lambda }\sum _{k=0}^{\infty }\frac{{\lambda }^k}{k!}=e^{-\lambda }{e}^{\lambda }=1$$
​ 泊松分布的和为1。泊松分布是一种常用的离散部分，它常与单位时间(或单位面积、单位产品等)上的计数过程相联系，譬如：

• 在一天内，来到某商场的顾客数
• 在单位时间内，一电路受到外界电磁波的冲击次数
• 1平方米内，玻璃上的气泡数
• 一铸件上的砂眼数
• 在一定时间内，某种放射性物质放射出来的$\alpha -$粒子数

4.2.2 泊松分布的期望和方差

​ 设随机变量$X\sim P(\lambda )$,则：
$$\begin{gathered} E(X)=\lambda \\ Var(X)=\lambda \end{gathered}$$
推导过程：p86

4.2.3 二项分布的泊松近似

​ 在二项分布$b(n,p)$中，当$n$较大且$p$较小时可近似为泊松分布，减少二项分布中的计算量：

定理 4.2.1 泊松定理

​ 在$n$重伯努利试验中，记事件$A$在一次试验中发生的概率为$p_n$(与试验次数$n$有关)，如果当$n\to \infty$时，有$n{p}_n\to \lambda$,则：
$$\underset{n\to \infty }{\lim }{C}_n^k{p}_n^k(1-p_n{)}^{n-k}=\frac{{\lambda }^k}{k!}{e}^{-\lambda }$$
​ 证明: p87

​ 也就是说，在计算二项分布$b(n,p)$时，当$n$很大，$p$很小，而乘积$\lambda =np$大小适中时，可以用泊松分布作近似，即:
$$C_n^k{p}_n^k(1-p_n{)}^{n-k}=\frac{(np{)}^k}{k!}{e}^{-np},k=0,1,2,\cdots$$

​ $n$越大，$p$越小，近似程度越好

4.3 超几何分布

​ 从一个有限总体中进行不放回抽样常会遇到超几何分布：

​ 假设有$N$件超频，其中有$M$件不合格品，若从中不放回地随机抽取$n$件，则其中含有的不合格品的件数$X$服从超几何分布，记为$X\sim h(n,N,M)$,超几何分布的概率分布列为：
$$P(X=k)=\frac{C_M^k{C}_{N-M}^{n-k}}{C_N^n},k=0,1,\cdots ,r$$
​ 其中 r = m i n { M , m } , M ≤ N , n ≤ N , N , M r=min\{M,m\},M\le N,n\le N,N,M r=min{M,m},M≤N,n≤N,N,M均为正整数。

4.3.1 超几何分布的期望和方差

​ p90
$$
E(X)=n\frac{M}{N}\

​ Var(X)=\frac{nM(N-M)(N-n)}{N^2(N-1)}
$$

4.3.2 超几何分布的二项近似

​ 当$n$远远小于$N$时，即抽取个数$n$远小于产品总数$N$时，每次抽取后，总体中的不合格品率$p=\frac{M}{N}$改变很小，所以不放回抽样可近似看成放回抽样，则此时超几何分布可用二项分布近似：
$$\frac{C_M^k{C}_{N-M}^{n-k}}{C_N^n}=C_n^k{p}^k(1-p{)}^{n-k}，withp=\frac{M}{N}$$

4.4 几何分布与负二项分布

4.4.1 几何分布

​ 在伯努利试验序列中，记每次试验中事件$A$发生的概率为$p$，如果$X$为事件$A$首次出现的试验次数，则$X$的可能取值为$1,2,\cdots ,$称$X$服从几何分布，记为$X\sim Ge(p)$,其分布列为：
$$P(X=k)=(1-p{)}^{k-1}p,k=1,2,\cdots$$

4.4.2 几何分布的期望和方差

p91
$$\begin{gathered} E(X)=\frac{1}{p} \\ Var(X)=\frac{1-p}{p^2} \end{gathered}$$

定理4.4.1 几何分布的无记忆性

​ 设$X\sim Ge(p)$,则对任意正整数$m$与$n$有：
$$P(X>m+n|X>m)=P(X>n)$$
含义就是若首次成功($A $)在前$m$次试验中没有出现，那假如后续$n$次试验也没有出现的概率不变，只与$n$有关，而与之前的$m$次试验无关，这就是无记忆性。

证明，条件概率算一下是显然的

4.4.3 负二项分布

​ 也称为帕斯卡分布

​ 在伯努利试验序列中，记每次实验中事件$A$发生的概率为$p$，如果$X$为事件$A$第$r$次出现时的试验次数，则$X$的可能取值为$r,r+1,\cdots ,r+m,\cdots$，称$X$服从付二项分布，其分布列为：
$$P(X=k)=C_{k-1}^{r-1}{p}^r(1-p{)}^{k-r},k=r,r+1,\cdots$$
​ 记为$X\sim Nb(r,p)$,当$r=1$时，即为几何分布。

其中：
$$\begin{gathered} E(x)=\frac{r}{p} \\ Var(x)=\frac{r(1-p)}{p^2} \end{gathered}$$

5. 常用连续分布

​ 在连续分布中，密度函数和分布函数是可以相互导出的，含有相同信息，但图形上密度函数对各种连续分布的特性能得到直观显示，如正态与偏态、单峰与平顶都是依密度函数图形命名的，因而对密度函数更为关注。

5.1 正态分布

​ 若随机变量$X$的密度函数为
$$p(x)=\frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}},-\infty <x<\infty$$
​ 则称$X$服从正态分布，称$X$为正态变量，记作$X\sim N(\mu ,{\sigma }^2)$，其中参数$-\infty <\mu <\infty ,\sigma >0$，其密度函数$p(x)$和分布函数$F(X)$如下图所示：

​ 正态分布$N(\mu ,{\sigma }^2)$的分布函数为：
$$F(x)=\frac{1}{\sqrt{2\pi }\sigma }{\int }_{-\infty }^x{e}^{-\frac{(t-\mu {)}^2}{2{\sigma }^2}}dt$$
​ $\mu$为位置参数，$\sigma$为尺度参数，$\sigma$越大，曲线就会变得矮而胖，$\sigma$越小，曲线就会变得高而瘦。

5.1.1 标准正态分布

​ 称$\mu =0,\sigma =1$时的正态分布$N(0,1)$为标准正态分布

​ 通常记标准正态变量为$U$,记标准正态分布的密度函数为$\phi (u)$,分布函数为$\Phi (u)$，即：
$$\phi (u)=\frac{1}{\sqrt{2\pi }}{e}^{\frac{-u^2}{2}},-\infty <u<\infty$$

$$\Phi (u)=\frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^u{e}^{-\frac{t^2}{2}}dt,-\infty <u<\infty$$
容易得出：

• $\Phi (-u)=1-\Phi (u)$
• $P(U>u)=1-\Phi (u)$
• $P(a<U<b)=\Phi (b)-\Phi (a)$
• $P(|U|<c)=2\Phi (c)-1(c\ge 0)$

5.1.2 正态分布的标准化

定理 5.1

​ 若随机变量$X\sim N(\mu ,{\sigma }^2)$,则$U=(X-\mu )/\sigma \sim N(0,1)$.

​ 证明 ：记$X$与$U$的分布函数分别为$F_x(X)$与$F_U(u)$，则由分布函数的定义知：
$$F_U(u)=P(U\le u)=P(\frac{X-\mu }{\sigma }\le u)=P(X\le \mu +\sigma u)=F_x(\mu +\sigma u)$$
​ 由于正态分布函数是严格单调增函数，且处处可导，因此若记$X$与$U$的密度函数分别为$p_X(x)$与$p_U(u)$，则有：
$$p_U(u)=\frac{d}{du}{F}_X(\mu +\sigma u)=p_X(\mu +\sigma u)\cdot \sigma =\frac{1}{\sqrt{2\pi }}{e}^{-u^2/2}$$
​ 即得，$U=\frac{X-\mu }{\sigma }\sim N(0,1)$

​ 由此可以直接用$\Phi$来计算一些变量：
$$\begin{gathered} P(X\le c)=\Phi (\frac{c-\mu }{\sigma }) \\ P(a<X\le b)=\Phi (\frac{b-\mu }{\sigma })-\Phi (\frac{a-\mu }{\sigma }) \end{gathered}$$

正态分布的期望和方差

​ 不难得出，若$X\sim N(\mu ,{\sigma }^2)$，由于$U=\frac{x-\mu }{\sigma }\sim N(0,1)$,则:
$$\begin{gathered} E(X)=E(\mu )+\sigma E(U)=\mu \\ Var(X)=Var(\mu +\sigma U)={\sigma }^2 \end{gathered}$$

正态分布的3$\sigma$原则

​ 设随机变量$X\sim N(\mu ,{\sigma }^2)$,则：
$$P(\mu -k\sigma <X<\mu +k\sigma )=P(|\frac{X-\mu }{\sigma }|<k)=\Phi (k)-\Phi (-k)=2\Phi (k)-1$$
​ 当$k=1,2,3$时，有:
$$\begin{gathered} P(\mu -\sigma <X<\mu +\sigma )=2\Phi (1)-1=0.6825, \\ P(\mu -2\sigma <X<\mu +2\sigma )=2\Phi (2)-1=0.9545, \\ P(\mu -3\sigma <X<\mu +3\sigma )=2\Phi (3)-1=0.9973, \end{gathered}$$
​ 这是正态分布的重要性质，可用于判断某个随机变量是否近似服从正态分布(三项都基本满足)

​ 在生产中某产品的质量要求常规定在其上、下控制限，若上、下控制限能覆盖区间$(\mu -3\sigma ,\mu +3\sigma )$，则称该生产过程受控制，并称其比值：
$$C_p=\frac{上控制限-下控制限}{6\sigma }$$
​ 为过程能力指数，当$C_p<1$时，认为生产过程不足；当$C_p\ge 1.33$时，认为生产过程正常;当为其他值时，认为生产过程不稳定，需要改进

5.2 均匀分布

5.2.1 均匀分布的密度函数和分布函数

​ 若随机变量$X$的密度函数为：
$$p(x)=\{\begin{array}{rlr}& \frac{1}{b-a},& a<x<b\\ & 0,& 其他\end{array}$$
​ 则称$X$服从区间$(a,b)$上的均匀分布，记作$X\sim U(a,b)$，其分布函数为:
$$F(x)=\{\begin{array}{rlr}& 0,& x<a\\ & \frac{x-a}{b-a},& a\le x<b\\ & 1,& x\ge b\end{array}$$

​ 均匀分布又称为平顶分布。

5.2.2 均匀分布的期望和方差

​ 若$X\sim U(a,b),$则
$$\begin{gathered} E(X)={\int }_a^b\frac{x}{b-a}dx=\frac{b^2-a^2}{2(b-a)}=\frac{a+b}{2} \\ Var(X)=\frac{(b-a{)}^2}{12} \end{gathered}$$

5.3 指数分布

5.3.1 指数分布的密度函数和分布函数

​ 若随机变量$X$的密度函数为:
$$p(x)=\{\begin{array}{rlr}& \lambda e^{-\lambda x},& x\ge 0,\\ & 0,& x<0\end{array}$$
​ 则称$X$服从指数分布，记作$X\sim Exp(\lambda )$,其中参数$\lambda >0$，指数分布的分布函数为
$$F(x)=\{\begin{array}{rlr}& 1-e^{-\lambda x},& x\ge 0\\ & 0,& x<0\end{array}$$
​ 指数分布是一种偏态分布，由于指数分布只可能取非负实数，所以指数分布通常被用作各种"寿命"分布

5.3.2 指数分布的期望和方差

​ 设随机变量$X\sim Exp(\lambda )$，则
$$\begin{gathered} E(X)=\frac{1}{\lambda } \\ Var(X)=\frac{1}{{\lambda }^2} \end{gathered}$$

定理 5.2 指数分布的无记忆性

​ 如果随机变量$X\sim Exp(\lambda )$,则对任意$s>0,t>0$有：
$$P(X>s+t|X>s)=P(X>t)$$
​ 和几何分布的无记忆性类似的含义，证明也是类似的，用条件概率算算

5.4 伽马分布

​ 称以下函数:
$$\Gamma (\alpha )={\int }_0^{\infty }{x}^{\alpha -1}{e}^{-x}dx$$
​ 为伽马函数，其中参数$\alpha >0$，伽马函数具有如下性质：

1. $\Gamma (1)=1,\Gamma (\frac{1}{2})=\sqrt{\pi }$
2. $\Gamma (\alpha +1)=\alpha \Gamma (\alpha )$，当$\alpha$为自然数$n$时，有$\Gamma (n+1)=n\Gamma (n)=n!$

5.4.1 伽马分布

​ 若随机变量$X$的密度函数为
$$p(x)=\{\begin{array}{rlr}& \frac{{\lambda }^{\alpha }}{\Gamma (\alpha )}{x}^{\alpha -1}{e}^{-\lambda x},& x\ge 0,\\ & 0,& x<0,\end{array}$$
​ 则称$X$服从伽马分布,记作$X\sim Ga(\alpha ,\lambda )$。其中$\alpha$为形状参数，$\lambda >0$为尺度参数，如下图所示：

• 当$0<\alpha <1$时，$p(x)$是严格下降函数，且在$x=0$处有奇异点
• 当$\alpha =1$时，$p(x)$是严格下降函数，且在$x=0$处，$p(0)=\lambda$
• 当$1<\alpha \le 2$时，$p(x)$是单峰函数，先上凸、后下凸
• 当$2<\alpha$时，$p(x)$是单峰函数，先下凸、中间上凸、后下凸，且$\alpha$越大，$p(x)$越近似于正态密度函数，但伽马分布总是偏态分布，$\alpha$越小其偏斜程度越严重

5.4.2 伽马分布的期望和方差

若$X\sim Ga(\alpha ,\lambda )$，则：
$$\begin{gathered} E(X)=\frac{\alpha }{\lambda } \\ Var(X)=\frac{\alpha }{{\lambda }^2} \end{gathered}$$

5.4.3 伽马分布的两个特例

​ 伽马分布有两个常用的特例：

1. $\alpha =1$时的伽马分布就是指数分布，即
   $$Ga(1,\lambda )=Exp(\lambda )$$

2. 称$\alpha =\frac{n}{2},\lambda =\frac{1}{2}$时的伽马分布是自由度为$n$的${\chi }^2$(卡方分布)，记为${\chi }^2(n)$,即
   $$Ga(\frac{n}{2},\frac{1}{2})={\chi }^2(n)$$
   其密度函数为：
   $$p(x)=\{\begin{array}{rlr}& \frac{1}{2^{\frac{n}{2}}\Gamma (\frac{n}{2})}{e}^{-\frac{x}{2}}{x}^{\frac{n}{2}-1},& x\ge 0\\ & 0,& x<0\end{array}$$

容易得到${\chi }^2$分布的期望和方差为：
$$E(X)=n,Var(X)=2n$$

6. 随机变量函数的分布

​ 设$y=g(x)$是定义在$\mathbb{R}$上的一个函数，$X$是一个随机变量，那么$Y=g(X)$作为$X$的函数，同样也是一个随机变量。那么如何在已知随机变量$X$的分布下，求出另一个随机变量$Y=g(X)$的分布。

6.1 离散随机变量函数的分布

​ 设$Y=g(X)$，如果有$g(X_1)=g(X_2)$，就将这两个的概率合并然后相加即可。

6.2 连续随机变量函数的分布

​ 离散随机变量的函数仍然是离散的，但连续随机变量$X$的函数$Y=g(X)$不一定为连续随机变量：

6.2.1 函数值为离散随机变量

​ 在这种情况下，只需将$Y$的可能取值一一列出，再将$Y$取各种可能值的概率求出即可。例如，设$X\sim N(\mu ,{\sigma }^2)$,
$$Y=\{\begin{array}{rlr}& 0，& X<\mu ,\\ & 1,& X\ge \mu \end{array}$$
​ 容易计算得出$Y$服从$p=0.5$的0-1分布

6.2.2 函数为严格单调函数

​ 当$g(x)$为严格单调函数时，有以下定理:

定理6.1 随机变量函数的密度函数

​ 设$X$是连续随机变量，其密度函数为$p_X(x)$,$Y=g(X)$是另一个连续随机变量。若$y=g(x)$严格单调，其反函数$h(y)$有连续导函数，则$Y=g(x)$的密度函数为：
$$p_Y(y)=\{\begin{array}{rlr}& p_X[h(y)]|h^{\prime }(y|),& a<y<b\\ & 0,& 其他\end{array}$$
​ 其中 a = m i n { g ( − ∞ ) , g ( ∞ } , b = m a x { g ( − ∞ ) , g ( ∞ ) } a=min\{g(-\infty),g(\infty\},b=max\{g(-\infty),g(\infty)\} a=min{g(−∞),g(∞},b=max{g(−∞),g(∞)}

​ 证明: p110

通过这个定理，能够得到一些有用的结论：

定理6.2 正态分布的线性变换也是正态分布

​ 设随机变量$X$,服从正态分布$N(\mu ,{\sigma }^2)$，则当$a\ne 0$时，有$Y=aX+b\sim N(a\mu +b,a^2{\sigma }^2)$/，证明方法就是使用定理6.1

即使分布完全相同，但两个随机变量可能不相等，所以要明确，分布相同于随机变量相等是两个完全不同的概念。例如：
$$X\sim N(0,2^2),Y=-X$$
容易证明$Y\sim N(0,2^2)$

定理6.3 对数正态分布

​ 设随机变量$X\sim N(\mu ,{\sigma }^2)$，则$Y=e^X$的概率密度函数为：
$$p_Y(y)=\{\begin{array}{rlr}& \frac{1}{\sqrt{2\pi }y\sigma }{e}^{-\frac{(\ln y-\mu {)}^2}{2{\sigma }^2}},& y>0\\ & 0,& y\le 0\end{array}$$
​ 证明也是使用定理6.1

​ 这个分布被称为对数正态分布,记为$LN(\mu ,{\sigma }^2)$,其中$\mu$称为对数均值,${\sigma }^2$称为对数方差，对数正态分布是一个偏态分布，也是一个常用分布，实际中有不少随机变量服从对数正态分布，譬如：

• 绝缘材料的寿命服从对数正态分布
• 设备故障的维修时间服从对数正态分布
• 家中仅有两个小孩的年龄差页服从对数正态分布

定理 6.4 伽马分布

​ 设随机变量$X$服从伽马分布$Ga(\alpha ,\lambda )$,则当$k>0$时，有$Y=kX\sim Ga(\alpha ,\frac{\lambda }{k})$

​ 一样的证明方法

定理6.5 获取任意分布的随机数

​ 若随机变量$X$的分布函数$F_X(x)$为严格单调增的连续函数，其反函数$F^{-1}(y)$存在，则$Y=F_X(X)$服从$(0,1)$上的均匀分布$U(0,1)$

​ 证明:p112

​ 这一定理表明：均匀分布在连续分布类中有特殊地位，任一个连续随机变量$X$都可以通过其分布函数$F(x)$与均匀分布随机变量$U$发生关系。

​ 例如$X$服从指数分布$Exp(\lambda )$，其分布函数为$F(x)=1-e^{-\lambda x}$，当$x$换成$X$后，有，有
$$U=1-e^{-\lambda X}或X=\frac{1}{\lambda }\ln \frac{1}{1-U}$$
​ 后一式表明，由均匀分布$U(0,1)$的随机数可以得到指数分布$Exp(\lambda )$的随机数：
$$x_i=\frac{1}{\lambda }\ln \frac{1}{1-u_i},i=1,2,\cdots ,n,\cdots$$

6.3 函数为其他形式时

​ 如果使用定理6.1寻求随机变量$Y=g(X)$的分布有困难，可直接由Y的分布函数$F_Y(y)=P(g(X)\le y)$出发，按函数$g(x)$的特点作个案处理，两个例子：

​ 设随机变量$X$服从伽马分布$Ga(\alpha ,\lambda )$,则当$k>0$时，有$Y=kX\sim Ga(\alpha ,\frac{\lambda }{k})$

​ 一样的证明方法