正态总体均值与方差的区间估计

【单个总体 $N(\mu,\sigma^2)$ 】

设 $X_1,X_2,\cdots,X_n$ 为总体 $N(\mu,\sigma^2)$ 的样本，$\overline{X},S^2$ 分别是样本均值和方差，在已给定置信水平为 $1-\alpha$ 的情况下

$\sigma^2$ 已知，估计 $\mu$ 置信区间

在 $\sigma^2$ 已知的情况下，易知 $\overline{X}$ 是 $\mu$ 的无偏估计，且有

$$\frac{\overline{X}-\mu}{\sigma\sqrt{n}} \sim N(0,1)$$

此时 $N(0,1)$ 不依赖于任何未知参数，取 $\frac{\overline{X}-\mu}{\sigma\sqrt{n}}$ 为枢轴量，根据标准正态分布的上 $\alpha$ 分位点的定义，有：

$$P\{|\frac{\overline{X}-\mu}{\sigma\sqrt{n}}<z_{\frac{\alpha}{2}}|\} = 1-\alpha$$

即：

$$P\Big\{\overline{X}-\frac{\sigma}{\sqrt{n}}z_{\frac{a}{2}} < \mu < \overline{X}+\frac{\sigma}{\sqrt{n}}z_{\frac{a}{2}}\Big\} = 1-\alpha$$

此时即得到 $\mu$ 的置信水平为 $1-\alpha$ 的置信区间

$$\Big(\overline{X} \pm \frac{\sigma}{\sqrt{n}} z_{\frac{a}{2}}\Big)$$

$\sigma^2$ 未知，估计 $\mu$ 置信区间

在 $\sigma^2$ 未知的情况下，易知 $S^2$ 是 $\sigma^2$ 的无偏估计，且有

$$\frac{\overline{X}-\mu}{S/\sqrt{n}} \sim t(n-1)$$

此时 $t(n-1)$ 不依赖于任何未知参数，取 $\frac{\overline{X}-\mu}{S/\sqrt{n}}$ 为枢轴量，根据 $t$ 分布的上 $\alpha$ 分位点的定义，有：

$$P\{|-t_{\frac{\alpha}{2}}(n-1) < \frac{\overline{X}-\mu}{S/\sqrt{n}} < t_{\frac{\alpha}{2}}(n-1)|\} = 1-\alpha$$

即：

$$P\Big\{\overline{X}-\frac{S}{\sqrt{n}}t_{\frac{\alpha}{2}}(n-1) < \mu < \overline{X}+\frac{S}{\sqrt{n}}t_{\frac{\alpha}{2}}(n-1)\Big\} = 1-\alpha$$

此时即得到 $\mu$ 的置信水平为 $1-\alpha$ 的置信区间

$$\Big(\overline{X} \pm \frac{S}{\sqrt{n}}t_{\frac{\alpha}{2}}(n-1)\Big)$$

$\mu$ 未知，估计 $\sigma^2$ 置信区间

在 $\mu$ 未知的情况下，易知 $S^2$ 是 $\sigma^2$ 的无偏估计，且有

$$\frac{(n-1)S^2}{\sigma^2} \sim \chi^2(n-1)$$

此时 $\chi^2(n-1)$ 不依赖于任何未知参数，取 $\frac{(n-1)S^2}{\sigma^2}$ 为枢轴量，根据 $\chi^2$ 分布的上 $\alpha$ 分位点的定义，有：

$$P\{| \chi^2_{1-\frac{\alpha}{2}}(n-1) < \frac{(n-1)S^2}{\sigma^2} < \chi^2_{\frac{\alpha}{2}}(n-1) |\} = 1-\alpha$$

即：

$$P\Big\{ \frac{(n-1)S^2}{\chi^2_{\frac{\alpha}{2}}(n-1)} < \sigma^2 < \frac{(n-1)S^2}{\chi^2_{1-\frac{\alpha}{2}}(n-1)} \Big\} = 1-\alpha$$

此时即得到 $\sigma^2$ 的置信水平为 $1-\alpha$ 的置信区间

$$\Big(\frac{(n-1)S^2}{\chi^2_{\frac{\alpha}{2}}(n-1)},\frac{(n-1)S^2}{\chi^2_{1-\frac{\alpha}{2}}(n-1)} \Big)$$

进一步，可得到标准差 $\sigma$ 的置信水平为 $1-\alpha$ 的置信区间

$$\Big(\frac{\sqrt{n-1}S}{\sqrt{\chi^2_{\frac{\alpha}{2}}(n-1)}},\frac{\sqrt{n-1}S}{\sqrt{\chi^2_{1-\frac{\alpha}{2}}(n-1)}} \Big)$$

【两个总体 $N(\mu_1,\sigma_1^2)$ 与 $N(\mu_2,\sigma_2^2)$ 】

设 $X_1,X_2,\cdots,X_n$ 为总体 $N(\mu_1,\sigma_1^2)$ 的样本，$Y_1,Y_2,\cdots,Y_n$ 为总体 $N(\mu_2,\sigma_2^2)$ 的样本，这两个样本相互独立，$\overline{X},\overline{Y}$ 分别是两个总体的样本均值，$S_1^2,S_2%2$ 是两个总体的样本方差，在已给定置信水平为 $1-\alpha$ 的情况下

$\sigma_1^2,\sigma_2^2$ 已知，估计 $\mu_1-\mu_2$ 置信区间

在 $\sigma_1^2,\sigma_2^2$ 已知的情况下，易知 $\overline{X},\overline{Y}$ 是 $\mu_1,\mu_2$ 的无偏估计，故 $\overline{X}-\overline{Y}$ 是 $\mu_1-\mu_2$ 的无偏估计

由于 $\overline{X},\overline{Y}$ 的独立性以及 $\overline{X}\sim N(\mu_1,\frac{\sigma_1^2}{n_1}),\overline{Y}\sim N(\mu_2,\frac{\sigma_2^2}{n_2})$，可得：

$$\overline{X}-\overline{Y} \sim N(\mu_1-\mu_2,\frac{\sigma_1^2}{n_1} + \frac{\sigma_2^2}{n_2})$$

即：

$$\frac{(\overline{X}-\overline{Y})-(\mu_1-\mu_2)}{\sqrt{\frac{\sigma_1^2}{n_1}+\frac{\sigma_2^2}{n_2}}} \sim N(0,1)$$

此时 $N(0,1)$ 不依赖于任何未知参数，取 $\frac{(\overline{X}-\overline{Y})-(\mu_1-\mu_2)}{\sqrt{\frac{\sigma_1^2}{n_1}+\frac{\sigma_2^2}{n_2}}} $ 为枢轴量，根据标准正态分布的上 $\alpha$ 分位点的定义，有：

$$P\{|\frac{(\overline{X}-\overline{Y})-(\mu_1-\mu_2)}{\sqrt{\frac{\sigma_1^2}{n_1}+\frac{\sigma_2^2}{n_2}}}<z_{\frac{\alpha}{2}}|\} = 1-\alpha$$

即：

$$P\Big\{\overline{X}-\overline{Y}-z_{\frac{a}{2}}\sqrt{\frac{\sigma_1^2}{n_1}+\frac{\sigma_2^2}{n_2}} < \mu_1-\mu_2 < \overline{X}-\overline{Y}+z_{\frac{a}{2}}\sqrt{\frac{\sigma_1^2}{n_1}+\frac{\sigma_2^2}{n_2}}\Big\} = 1-\alpha$$

此时即得到 $\mu_1-\mu_2$ 的置信水平为 $1-\alpha$ 的置信区间

$$\Big(\overline{X}-\overline{Y} \pm z_{\frac{a}{2}}\sqrt{\frac{\sigma_1^2}{n_1}+\frac{\sigma_2^2}{n_2}}\Big)$$

$\sigma_1^2=\sigma_2^2=\sigma^2$ 未知，估计 $\mu_1-\mu_2$ 置信区间

在 $\sigma_1^2=\sigma_2^2=\sigma^2$ 未知的情况下，易得：

$$\frac{(\overline{X}-\overline{Y})-(\mu_1-\mu_2)}{S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}} \sim t(n_1+n_2-2)$$

此时 $t(n_1+n_2-2)$ 不依赖于任何未知参数，取 $\frac{(\overline{X}-\overline{Y})-(\mu_1-\mu_2)}{S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}}$ 为枢轴量，根据 $t$ 分布的上 $\alpha$ 分位点的定义，有：

$$P\{|\frac{(\overline{X}-\overline{Y})-(\mu_1-\mu_2)}{S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}}<t_{\frac{\alpha}{2}}(n_1+n_2-2)|\} = 1-\alpha$$

即：

$$P\Big\{\overline{X}-\overline{Y}-t_{\frac{\alpha}{2}}(n_1+n_2-2)S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}} < \mu_1-\mu_2 < \overline{X}-\overline{Y}+t_{\frac{\alpha}{2}}(n_1+n_2-2)S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}\Big\} = 1-\alpha$$

此时即得到 $\mu_1-\mu_2$ 的置信水平为 $1-\alpha$ 的置信区间

$$\Big(\overline{X}-\overline{Y} \pm t_{\frac{\alpha}{2}}(n_1+n_2-2)S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}} \Big)$$

其中，对 $S_w$ 有：

$$S_w^2 = \frac{(n_1-1)S_1^2+(n_2-1)S_2^2}{n_1+n_2-2},\quad S_w=\sqrt{S_w^2}$$

$\mu_1,\mu_2$ 未知，估计 $\sigma_1^2/\sigma_2^2$ 置信区间

在 $\mu_1,\mu_2$ 未知的情况下，易得：

$$\frac{S_1^2/S_2^2}{\sigma_1^2/\sigma_2^2} \sim F(n_1-1,n_2-1)$$

此时 $F(n_1-1,n_2-1)$ 不依赖于任何未知参数，取 $\frac{S_1^2/S_2^2}{\sigma_1^2/\sigma_2^2}$ 为枢轴量，根据 $F$ 分布的上 $\alpha$ 分位点的定义，有：

$$P\Big\{ F_{1-\frac{\alpha}{2}}(n_1-1,n_2-1)< \frac{S_1^2/S_2^2}{\sigma_1^2/\sigma_2^2} < F_{\frac{\alpha}{2}}(n_1-1,n_2-1) \Big\} = 1-\alpha$$

易得：

$$P\Big\{ \frac{S_1^2}{S_2^2} \frac{1}{F_{\frac{\alpha}{2}}(n_1-1,n_2-1)} < \frac{\sigma_1^2}{\sigma_2^2} < \frac{S_1^2}{S_2^2} \frac{1}{F_{1-\frac{\alpha}{2}}(n_1-1,n_2-1)}\Big\} = 1-\alpha$$

此时即得到 $\sigma_1^2/\sigma_2^2$ 的置信水平为 $1-\alpha$ 的置信区间

$$\Big(\frac{S_1^2}{S_2^2} \frac{1}{F_{\frac{\alpha}{2}}(n_1-1,n_2-1)} , \frac{S_1^2}{S_2^2} \frac{1}{F_{1-\frac{\alpha}{2}}(n_1-1,n_2-1)} \Big)$$