References：

• 贝叶斯统计
• 走进贝叶斯统计（二）—— 共轭先验分布
• 贝叶斯统计（2）——进阶

【共轭先验分布】

贝叶斯统计的一个核心特点在于，能够设定一个描绘对目标参数经验判断的先验分布，然后将经验判断加入到后续的推理与预测中

References：

• 贝叶斯统计
• 贝叶斯统计（2）——进阶
• 走进贝叶斯统计（一）—— 先验分布与后验分布

【概述】

统计学领域中有两大学派，古典统计学（Classical）与贝叶斯统计学（Bayesian），古典统计学又称频率论（Frequentist），贝叶斯统计学以英国数学家托马斯•贝叶斯命名

【概述】

统计推断的两大基本问题，一类是估计问题，另一类即假设检验问题

在总体的分布函数完全未知或只知其形式，但不知其参数的情况下，为推断总体的某些未知特性，提出某些关于总体的假设，例如提出总体服从泊松分布的假设，又如正态总体提出数学期望等于 $\mu_0$ 的假设等

【单个总体 $N(\mu,\sigma^2)$ 】

设 $X_1,X_2,\cdots,X_n$ 为总体 $N(\mu,\sigma^2)$ 的样本，$\overline{X},S^2$ 分别是样本均值和方差，在已给定置信水平为 $1-\alpha$ 的情况下

$\sigma^2$ 已知，估计 $\mu$ 置信区间

【似然函数】

离散型

若总体 $X$ 是离散型，其分布律 $P(X=x)=p(x;\theta),\theta\in\Theta$ 的形式已知，$\theta$ 为待估参数，$\Theta$ 是 $\theta$ 可能取值的范围

【矩估计法的理论依据】

矩估计法是参数的点估计问题中构造估计量的方法，其理论依据如下

设 $X_1,X_2,\cdots,X_n$ 是总体 $X$ 的一个样本，由于 $X_1,X_2,\cdots,X_n$ 独立且与 $X$ 同分布，故若总体 $X$ 的 $k$ 阶矩 $E(X^k)\overset{def}{=}μ_k$ 存在

【点估计】

引入

设总体 $X$ 的分布函数的形式已知，但它的一个或多个参数未知，借助于总体 $X$ 的一个样本来估计总体未知参数的值，这种问题被称为参数的点估计问题

【抽样分布】

在使用统计量进行统计推断时，常需要知道它的分布，统计量的分布被称为抽样分布

当总体的分布函数已知时，抽样分布是确定的，但要求出统计量的精确分布，一般来说是比较困难的

【统计量】

样本是进行统计推断的依据，在实际应用中，往往不是直接使用样本本身，而是针对不同的问题构造样本的适当函数，利用这些样本的函数进行统计推断

设 $X_1,X_2,\cdots,X_n$，是来自总体 $X$ 的一个样本，$g(X_1,X_2,\cdots,X_n)$ 是 $X_1,X_2,\cdots,X_n$ 的函数，若 $g$ 中不含未知参数，则称 $g(X_1,X_2,\cdots,X_n)$ 是一统计量

【概率论与数理统计】

概率论和数理统计解决的问题是互逆的

假设有一个具有不确定性的过程，然后这个过程可以随机的产生不同的结果，那么概率论和数理统计的区别可以描述为：