Reference
【分布函数的弱收敛性】
概率法则是对大量随机现象的考察中显现出来的，而对于大量随机现象的描述，就要使用极限的方法
对于分布函数列 $\{F_{n}(x),n=1,2,\cdots\}$，若存在一个非降函数 $F(x)$，使
在 $F(x)$ 的每一连续点上都成立，则称分布函数列 $\{F_{n}(x),n=1,2,\cdots\}$ 弱收敛于 $F(x)$，并记为
在弱收敛性的基础上，针对特征函数，有连续性定理：
- 设分布函数列 $\{F_{n}(x),n=1,2,\cdots\}$ 弱收敛于某一分布函数 $F(x)$，则相应特征函数列 $\{\varphi_{n}(x),n=1,2,\cdots\}$ 弱收敛于特征函数 $\varphi(t)$，且在 $t$ 的任一有限区间内收敛是一致的
- 设特征函数列 $\{\varphi_{n}(x),n=1,2,\cdots\}$ 弱收敛于某一函数 $\varphi(t)$，且 $\varphi(t)$ 在 $t=0$ 处连续，则相应的分布函数列 $\{F_{n}(x),n=1,2,\cdots\}$ 弱收敛于某一分布函数 $F(x)$，且 $\varphi(t)$ 为 $F(x)$ 的特征函数
【随机变量的收敛性】
概率论中的极限定理研究的是随机变量序列的某种收敛性，对随机变量收敛性的不同定义将导致不同的极限定理
对于概率空间 $(\Omega,\mathscr{F},P)$ 上的随机变量 $X$ 和随机变量序列 $\{X_n,n=1,2,\cdots\}$，设它们的分布函数分别为 $\{F_{n}(x),n=1,2,\cdots\}$ 和 $F(x)$，可给出如下四大收敛的定义
依分布收敛
若分布函数列 $\{F_{n}(x)\}$ 弱收敛于分布函数 $F(x)$，则有 $\{X_n\}$ 依分布收敛于 $X$，记为 $X_n\xrightarrow{L}X$
即：
依分布收敛是收敛性中最弱的收敛，只能保证分布函数序列收敛
依概率收敛
若对任意 $\varepsilon>0$，有
则称 $\{X_n\}$ 依概率收敛于 $X$，记为 $X_n\xrightarrow{P}X$ 或 $\lim\limits_{n\rightarrow\infty} X_n=X$
依概率收敛强于依分布收敛，其先给定 $\varepsilon>0$，保证 $|X_n-X|\geq\varepsilon$ 随着 $n$ 增大，概率趋于 $0$，可见 $\varepsilon$ 越小收敛性越好
此外，若 $\{X_n\}$ 依概率收敛于 $X$，则必有 $\{X_n\}$ 依分布收敛于 $X$，即：
$r$ 阶收敛
若 $E|X_n|^r\leq +\infty$ 且 $E|X|^r<+\infty$，有
则称 $\{X_n\}$ $r$ 阶收敛于 $X$，记为 $X_n\xrightarrow{r}X$
$r$ 阶收敛强于依概率收敛，其说明了随着 $n$ 的增大，$r$ 阶的 $|X_n-X|$ 的期望为 $0$
此外，若 $\{X_n\}$ $r$ 阶收敛于 $X$，则必有 $\{X_n\}$ 依概率收敛于 $X$，即：
进一步，可推得
几乎处处收敛
若下式成立
则称 $\{X_n\}$ 几乎处处收敛于 $X$，又称 $\{X_n\}$ 依概率 $1$ 收敛于 $X$，记为 $X_n\xrightarrow{a.s.}X$
几乎处处收敛强于依概率收敛，和依概率收敛比较，可以看成取定 $\varepsilon=0$ 的依概率收敛，所以也叫依概率 $1$ 收敛
事实上，几乎处处收敛是不收敛点的集合，只构成勒贝格零集
此外，若 $\{X_n\}$ 几乎处处收敛于 $X$，则必有 $\{X_n\}$ 依概率收敛于 $X$，即：
进一步，可推得
