矩估计法

【矩估计法的理论依据】

矩估计法是参数的点估计问题中构造估计量的方法，其理论依据如下

设 $X_1,X_2,\cdots,X_n$ 是总体 $X$ 的一个样本，由于 $X_1,X_2,\cdots,X_n$ 独立且与 $X$ 同分布，故若总体 $X$ 的 $k$ 阶矩 $E(X^k)\overset{def}{=}μ_k$ 存在

那么当 $n\rightarrow \infty$ 时，样本 $k$ 阶矩依概率收敛于总体 $X$ 的 $k$ 阶矩，即：

$$A_k \overset{P}{\longrightarrow} u_k,\quad k=1,2,\cdots$$

故有：

$$E(X_1^k) = E(X_2^k) = \cdots = E(X_n^k) = \mu_k$$

进而由辛钦大数定律得：

$$A_k = \frac{1}{n}\sum_{i=1}^n X_i^k \overset{P}{\longrightarrow} u_k,\quad k=1,2,\cdots$$

再进一步可通过依概率收敛的序列的性质可得：

$$g(A_1,A_2,\cdots,A_k) \overset{P}{\longrightarrow} g(\mu_1,\mu_2,\cdots,\mu_k)$$

其中，$g$ 为连续函数

【基本思路】

设 $X$ 是连续型随机变量，其概率密度为 $f(x;\theta_1,\theta_2,\cdots,\theta_n)$，或 $X$ 是离散型随机变量，其分布律为 $P(X=x)=p(x;\theta_1,\theta_2,\cdots,\theta_k)$，其中，$\theta_1,\theta_2,\cdots,\theta_k$ 为待估参数

再设 $X_1,X_2,\cdots,X_n$ 是来自 $X$ 的样本，总体 $X$ 的前 $k$ 阶矩 $u_i$ 存在（一般来说是 $\theta_1,\theta_2,\cdots,\theta_n$ 的函数），即：

$$\begin{align*} \mu_i = E(X^i) = \left\{\begin{array}{aa} \int_{-\infty}^{+\infty} x^i f(x;\theta_1,\theta_2,\cdots,\theta_n) dx, & X \text{ 为连续型} \\ \sum\limits_{x\in R_X} x^i p(x;\theta_1,\theta_2,\cdots,\theta_n), & X \text{ 离散型} \end{array}\right. \\ i=1,2,\cdots,k \end{align*}$$

若样本矩 $A_i = \frac{1}{n} \sum\limits_{l=1}^n X_l^i,i=1,2,\cdots,k$ 依概率收敛于相应的总体矩 $\mu_i$，样本矩的连续函数依概率收敛于相应的总体矩的连续函数就用样本矩作为相应的总体矩的估计量，以样本矩的连续函数作为相应的总体矩的连续函数的估计量，这种方法就称为矩估计法

【具体步骤】

设总体 $X$ 的分布函数 $F(x;\theta_1,\theta_2,\cdots,\theta_k)$ 的形式为已知，$\theta_1,\theta_2,\cdots,\theta_k$ 是待估参数，$X_1,X_2,\cdots,X_n$ 是 $X$ 的一个样本，$x_1,x_2,\cdots,x_n$ 是相应的一个样本值

现要构造 $k$ 个适当的统计量 $\hat{\theta_i}(X_1,X_2,\cdots,X_n),i=1,2,\cdots,k$，用它的观察值 $\hat{\theta_i}(x_1,x_2,\cdots,x_n),i=1,2,\cdots,k$ 作为未知参数 $\theta_i,i=1,2,\cdots,k$ 的近似值

设一个包含 $k$ 个未知参数 $\theta_1,\theta_2,\cdots,\theta_k$ 的联立方程组：

$$\left\{\begin{array}{a} \mu_1 = \mu_1(\theta_1,\theta_2,\cdots,\theta_k)\\ \mu_2 = \mu_2(\theta_1,\theta_2,\cdots,\theta_k)\\ \vdots \\ \mu_k = \mu_k(\theta_1,\theta_2,\cdots,\theta_k)\\ \end{array}\right.$$

从中解出 $\theta_1,\theta_2,\cdots,\theta_k$，可得：

$$\left\{\begin{array}{a} \theta_1 = \theta_1(\mu_1,\mu_2,\cdots,\mu_k)\\ \theta_2 = \theta_2(\mu_1,\mu_2,\cdots,\mu_k)\\ \vdots \\ \theta_k = \theta_k(\mu_1,\mu_2,\cdots,\mu_k)\\ \end{array}\right.$$

以样本矩 $A_i = \frac{1}{n} \sum\limits_{l=1}^n X_l^i,i=1,2,\cdots,k$ 分别代替上式中的 $\mu_i$，有：

$$\hat{\theta_i} = \theta_i(A_1,A_2,\cdots,A_k),\quad i=1,2,\cdots,k$$

以此作为 $\theta_i$ 的估计量，这种估计量就称为矩估计量，矩估计量的观察值被称为矩估计值