Reference
【事件域】
基本概念
- 随机试验:结果不能事先确定且相同条件下可重复的试验
- 样本空间:一个试验所有可能出现的结果的全体,记为 $\Omega$
- 样本点:试验的一个结果,记为 $\omega$,即 $\Omega=\{\omega\}$
- 随机事件:简称事件,样本空间的某个子集
事件域
根据实际情况,并不对 $\Omega$ 的一切子集研究,只对某些事件类感兴趣,由此引入事件域
设 $\Omega$ 是样本空间,$\mathscr{F}$ 是 $\Omega$ 的某些子集构成的集合,若:
- $\omega$ 是域中的一个元素,即 $\Omega\in\mathscr{F}$
- 对于域 $\mathscr{F}$ 中的任意事件 $A$,其对立事件 $\bar{A}$ 也在域 $\mathscr{F}$ 中,即 $A\in\mathscr{F}$,则 $\bar{A}\in\mathscr{F}$
- 对于域 $\mathscr{F}$ 中的事件,其无穷交 $\bigcup\limits_{n=1}^{\infty}A_n$ 也在域中,即 $A_n \in \mathscr{F} , n=1,2, \cdots$,则 $\bigcup\limits^{\infty}_{n=1}A_n \in \mathscr{F}$
那么称 $\mathscr{F}$ 为事件域,也称 $\mathscr{F}$ 为 $\sigma$ 域(满足补集运算封闭、可列并运算封闭),称 $(\Omega,\mathscr{F})$ 为可测空间
例如:$\Omega=\{1,2,3,4,5,6\}$
- $F=\{\Omega,\varnothing,\{1,3,5\},\{2,4,6\}\}$ 构成 $\sigma$ 域
- $F=\{\Omega,\varnothing,\{1,2\},\{3,4\}\}$ 不构成 $\sigma$ 域
其具有以下性质:
- $\varnothing\in\mathscr{F}$
- 若 $A,B \in \mathscr{F}$,则 $A-B\in\mathscr{F}$
- 若 $A_n\in\mathscr{F},n=1,2,\cdots$,则 $\bigcap\limits^{\infty}_{n=1}A_n\in\mathscr{F}$
【概率空间】
概率空间
在可测空间 $(\Omega,\mathscr{F})$ 上,定义概率,作为一种测度存在
设 $\Omega$是样本空间,$\mathscr{F}$ 为事件域,定义在 $\mathscr{F}$ 上的实值函数 $P(\cdot)$ 若满足:
- 非负性:$\forall A \in\mathscr{F}$,$P(A)\geq 0$
- 完全性:$P(\Omega)=1$
- 可列可加性:若 $A_n \in \mathscr{F},n=1,2,\cdots$,且 $A_i A_j=\varnothing , i\neq j=1,2,\cdots$,则
那么,称 $P$ 是可测空间 $(\Omega,\mathscr{F})$ 上的概率,称 $P(A)$ 为事件 $A$ 的概率,称 $(\Omega,\mathscr{F},P)$ 为概率空间
概率性质
事件的概率具有如下性质:
- $P(\varnothing)=0$
- 若 $A_i \in \mathscr{F},n=1,\cdots,n$,且 $A_iA_j=\varnothing,i\neq j=1,\cdots,n$,则:
- 若 $A,B\in\mathscr{F},A\subset B$,则 $P(B-A)=P(B)-P(A)$,$P(A)\leq P(B)$
- 若 $A\in\mathscr{F}$,则 $P(A)\leq 1$,$P(\bar{A})=1-P(A)$
- 若 $A_n\in\mathscr{F},n=1,2,\cdots$,则:
- Jordan 公式:若 $A_n\in\mathscr{F},n=1,2,\cdots$,则:
概率连续性
定义单调事件列:
- 单调递增的事件列:事件列 $A_n\in\mathscr{F}$ ,满足 $A_n\subset A_{n+1}$,其中 $n=1,2,\cdots$
- 单调递减的事件列:事件列 $A_n\in\mathscr{F}$ ,满足 $A_n\supset A_{n+1}$,其中 $n=1,2,\cdots$
单调事件列必有极限:
1)若 $A_n$ 为单调递增的事件列,那么有:$A_1\subset A_2\subset \cdots \subset A_n \cdots$,进而有:
2)若 $A_n$ 为单调递减的事件列,那么有:$A_1\supset A_2\supset \cdots \supset A_n \cdots$,进而有:
【条件概率】
以古典概型的掷骰子为例,设事件 $A$ 为掷出的点数为偶数,事件 $B$ 为掷出 $2$,那么概率 $P(B|A)$ 称为在条件 $A$ 下,$B$ 发生的条件概率
可以发现,在附加了 “掷出的点数为偶数” 的条件后,事件 “掷出 $2$” 没有发生变化,变化的是样本空间,其被缩小了
也就是说,条件概率的本质,是对样本空间的限制
于是,有:
进一步,模仿概率测度的定义,可以定义条件概率测度
设 $(\Omega,\mathscr{F},P)$ 为一概率空间,$A,B\in\mathscr{F}$,且 $P(A)>0$,则称
为事件 $A$ 发生的条件下,事件 $B$ 发生的条件概率
【概率公式】
乘法公式
若 $A_i\in\mathscr{F},i=1,2,\cdots,n$,且 $P(A_1A_2\cdots A_{n-1})>0$,则:
全概率公式
若 $A\in\mathscr{F},B_i\in\mathscr{F},P(B_i)>0,i=1,2,\cdots,n$,且 $B_iB_j=\varnothing,i\neq j,\bigcup\limits^{\infty}_{i=1}B_i\supset A$,则:
贝叶斯公式(Bayes)
若 $A\in\mathscr{F},P(A)>0,B_i\in\mathscr{F},P(B_i)>0,i=1,2,\cdots,n$,且 $B_iB_j=\varnothing,i\neq j,\bigcup\limits^{\infty}_{i=1}B_i\supset A$,则:
$B_j$ 可以看作是诱发了事件 $A$ 的原因,$P(B_j)$ 就代表了每个原因可能发生的概率,为先验概率(Prior Probability)
当发生了事件 $A$ 后,会对引发其的原因产生了新的认识,即 $P(B_j|A)$,称为后验概率(Posterior Probability)
拿着先天的经验来进行实践,得到结果后又反过来去更新那些已经具有的经验,不断地重复这一过程,即可越来越接近最终的真理,因此贝叶斯公式描述的是一个学习与逆推的过程
【事件独立性】
对于两个事件 $A,B$,若满足 $P(AB)=P(A)P(B)$,则称 $A$ 与 $B$ 独立
进一步,对于概率空间 $(\Omega,\mathscr{F},P)$ ,有 $A_i\in\mathscr{F},i=1,\cdots,n$,若其中的任意两个事件 $A_i,A_j,i\neq j$,有 $P(A_iA_j)=P(A_i)P(A_j)$ 则称事件两两独立
也就是说,一个随机事件无论是否发生,不会影响到另外一个随机事件发生的概率
再进一步,对于概率空间 $(\Omega,\mathscr{F},P)$ ,有 $A_i\in\mathscr{F},i=1,\cdots,n$,若对 $\forall k \in(1,n]$ 以及 $1\leq i_1 < i_2 < \cdots<i_k \leq n$,有:
则称 $A_1,A_2,\cdots,A_n$ 相互独立
可以发现,若事件 $A_1,A_2,\cdots,A_n$ 相互独立,则必有事件 $A_1,A_2,\cdots,A_n$ 两两独立,反之则不成立