Reference
【随机变量】
示性函数
对于样本空间 $\Omega$,样本点 $\omega$,设 $A$ 为事件,示性函数 $I_A$ 为 $\Omega$ 上的函数,其被定义为:
可以发现,对于 $\forall x \in \mathbb{R}$,$\{I_A \leq x\}$ 都是事件
详细地,有:
随机变量
在示性函数的基础上,即可严格定义随机变量
对于概率空间 $(\Omega,\mathscr{F},P)$,若实函数 $X(\cdot)$ 满足:$\forall x \in \mathbb{R},\{\omega|X(\omega)\leq x\}\in\mathscr{F}$,则称 $X(\omega)$ 为可测空间 $(\Omega,\mathscr{F})$ 上的随机变量,通常省略样本点 $\omega$ 记为 $X$
【Borel 集】
Borel 集
接下来,要提出的一个自然的问题是:集合 $A$ 要满足什么条件,才能使得 $\{x\in A\}\in\mathscr{F}$,即在实数域上,随机变量的所有可能取值的集合至少应该满足的条件是什么?
根据随机变量的定义,若 $X$ 为随机变量,必有 $\{a<X\leq b\}\in \mathscr{F}$
从这一点出发,假设 $C$ 为 $\mathbb{R}$ 中所有左闭右开的集合组成的集合,设 $\mathbb{B}$ 为 $C$ 中所有元素经过交、补、可列并运算及其反复运算得到的集合所组成的集合
容易验证 $\mathbb{B}$ 满足事件域的定义,此时,称 $\mathbb{B}$ 为 Borel 域,其中的元素为 Borel 集
进一步,可给出定理:设 $X$ 为随机变量,$A$ 为 Borel 集,则 $\{x\in A\}\in\mathscr{F}$
由此可知,随机变量的所有可能取值的集合至少要是一个 Borel 集,即对 Borel 集 $A$,$P(x\in A)$ 才是可计算的
Borel 可测函数
可以发现,二元组 $(\mathbb{R},\mathbb{B})$ 同样是一个可测空间
那么在可测空间 $(\mathbb{R},\mathbb{B})$ 上,若函数 $g(\cdot)$ 满足:$\forall a \in \mathbb{R},\{x|g(x)\leq a\}\in \mathbb{B}$,则称函数 $g(\cdot)$ 为 Borel 可测函数
事实上,目前接触到的几乎所有集合都是 Borel 集,几乎所有函数都是 Borel 可测函数
进一步,可给出定理:设 $X$ 为随机变量,$g(\cdot)$ 为 Borel 可测函数,则 $g(X)$ 为随机变量
这正是利用已有的随机变量,构造出无穷无尽的随机变量的方法
随机变量独立性
Borel 集可看作是事件与随机变量之间的桥梁,因此,根据事件独立性的定义,可以类似地定义随机变量的独立性
设 $X_1,X_2,\cdots,X_n$ 为随机变量,对于 $\forall x_1,x_2,\cdots,x_n$,若有:
则称随机变量 $X_1,X_2,\cdots,X_n$ 相互独立
对于 Borel 集在维系随机变量独立性中的作用 ,有以下定理:
$X_1,X_2,\cdots,X_n$ 为相互独立的随机变量,对任意 Borel 集 $A_1,A_2,\cdots,A_n$,事件 $\{X_1\in A_1\},\{X_2\in A_2\},\cdots,\{X_n\in A_n\}$ 也相互独立
进一步,若 $g_1(\cdot),g_2(\cdot),\cdots,g_n(\cdot)$ 为 Borel 可测函数,则 $g_1(X_1),g_2(X_2),\cdots,g_n(X_n)$ 也相互独立
【分布函数】
对于随机变量 $X$,函数 $F(x)=P(X\leq x),-\infty<x<\infty$ 称为随机变量 $X$ 的分布函数
其具有如下性质:
- 单调不减:若 $x_1<x_2$,则 $F(x_1)\leq F(x_2)$
- 右连续:$\forall x \in \mathbb{R}$,有 $F(x+0)=F(x)$
- 有界:$F(-\infty)=\lim\limits_{x\rightarrow -\infty}F(x)=0,F(+\infty)=\lim\limits_{x\rightarrow +\infty}F(x)=1$
【离散型随机变量】
若随机变量 $X$ 的可能取值为有限个或可列无限个,则 $X$ 称为离散型随机变量
此时用概率分布列来描述随机变量的概率分布,即:
此时 $X$ 的分布函数为:
【连续型随机变量】
若随机变量 $X$ 的可能取值为不可列个,则 $X$ 称为连续型随机变量
若存在非负可积函数 $f(x)$,使得:
则称 $f(x)$ 为连续随机变量 $X$ 的概率密度函数
对于 $\forall a<b$,连续随机变量 $X$ 的概率密度函数有:
显然,其满足以下性质:
- 连续性:$\int_{-\infty}^{+\infty} f(x) dx =1$
- 单点概率为零:$\lim\limits_{\epsilon\rightarrow 0}\int_{a-\epsilon}^{a+\epsilon}f(x)dx=0$
因此,有: