区间估计与置信区间

区间估计的基本概念

区间估计的定义

定义：设总体 $X$ 的分布函数为 $F(x;\theta)$，其中 $\theta$ 是未知参数。从总体中抽取样本 $X_1, X_2, \dots, X_n$，构造两个统计量 $\hat{\theta}_1 = \hat{\theta}_1(X_1, X_2, \dots, X_n)$ 和 $\hat{\theta}_2 = \hat{\theta}_2(X_1, X_2, \dots, X_n)$，使得： $P(\hat{\theta}_1 \leq \theta \leq \hat{\theta}_2) = 1 - \alpha$ 则称区间 $[\hat{\theta}_1, \hat{\theta}_2]$ 为参数 $\theta$ 的置信区间，$1 - \alpha$ 称为置信水平。

置信区间的直观理解

理解：置信区间给出了参数可能取值的范围。置信水平 $1 - \alpha$ 表示在大量重复抽样中，有 $100(1-\alpha)\%$ 的置信区间包含真值。

置信区间的性质

性质 1：置信区间是随机的，真值是固定的 性质 2：置信水平越高，置信区间越宽 性质 3：样本量越大，置信区间越窄

置信区间的构造方法

枢轴量法

思想：构造一个包含参数和样本的统计量，其分布已知且不依赖于参数。

步骤：

1. 构造枢轴量 $G(X_1, X_2, \dots, X_n; \theta)$
2. 确定枢轴量的分布
3. 找到常数 $a, b$，使得 $P(a \leq G \leq b) = 1 - \alpha$
4. 解不等式 $a \leq G \leq b$ 得到置信区间

正态总体均值的置信区间

方差已知的情况

总体：$X \sim N(\mu, \sigma^2)$，$\sigma^2$ 已知

枢轴量：$Z = \frac{\overline{X} - \mu}{\sigma/\sqrt{n}} \sim N(0,1)$

置信区间： $P(-z_{\alpha/2} \leq \frac{\overline{X} - \mu}{\sigma/\sqrt{n}} \leq z_{\alpha/2}) = 1 - \alpha$

解得： $\mu \in [\overline{X} - z_{\alpha/2}\frac{\sigma}{\sqrt{n}}, \overline{X} + z_{\alpha/2}\frac{\sigma}{\sqrt{n}}]$

方差未知的情况

总体：$X \sim N(\mu, \sigma^2)$，$\sigma^2$ 未知

枢轴量：$T = \frac{\overline{X} - \mu}{S/\sqrt{n}} \sim t(n-1)$

置信区间： $P(-t_{\alpha/2}(n-1) \leq \frac{\overline{X} - \mu}{S/\sqrt{n}} \leq t_{\alpha/2}(n-1)) = 1 - \alpha$

解得： $\mu \in [\overline{X} - t_{\alpha/2}(n-1)\frac{S}{\sqrt{n}}, \overline{X} + t_{\alpha/2}(n-1)\frac{S}{\sqrt{n}}]$

正态总体方差的置信区间

总体：$X \sim N(\mu, \sigma^2)$

枢轴量：$\chi^2 = \frac{(n-1)S^2}{\sigma^2} \sim \chi^2(n-1)$

置信区间： $P(\chi^2_{1-\alpha/2}(n-1) \leq \frac{(n-1)S^2}{\sigma^2} \leq \chi^2_{\alpha/2}(n-1)) = 1 - \alpha$

解得： $\sigma^2 \in [\frac{(n-1)S^2}{\chi^2_{\alpha/2}(n-1)}, \frac{(n-1)S^2}{\chi^2_{1-\alpha/2}(n-1)}]$

两个正态总体均值差的置信区间

方差已知的情况

总体：$X \sim N(\mu_1, \sigma_1^2)$，$Y \sim N(\mu_2, \sigma_2^2)$，$\sigma_1^2, \sigma_2^2$ 已知

枢轴量：$Z = \frac{(\overline{X} - \overline{Y}) - (\mu_1 - \mu_2)}{\sqrt{\frac{\sigma_1^2}{n_1} + \frac{\sigma_2^2}{n_2}}} \sim N(0,1)$

置信区间： $(\mu_1 - \mu_2) \in [(\overline{X} - \overline{Y}) - z_{\alpha/2}\sqrt{\frac{\sigma_1^2}{n_1} + \frac{\sigma_2^2}{n_2}}, (\overline{X} - \overline{Y}) + z_{\alpha/2}\sqrt{\frac{\sigma_1^2}{n_1} + \frac{\sigma_2^2}{n_2}}]$

方差未知但相等的情况

总体：$X \sim N(\mu_1, \sigma^2)$，$Y \sim N(\mu_2, \sigma^2)$

枢轴量：$T = \frac{(\overline{X} - \overline{Y}) - (\mu_1 - \mu_2)}{S_p\sqrt{\frac{1}{n_1} + \frac{1}{n_2}}} \sim t(n_1 + n_2 - 2)$

其中 $S_p^2 = \frac{(n_1-1)S_1^2 + (n_2-1)S_2^2}{n_1 + n_2 - 2}$

置信区间： $(\mu_1 - \mu_2) \in [(\overline{X} - \overline{Y}) - t_{\alpha/2}(n_1 + n_2 - 2)S_p\sqrt{\frac{1}{n_1} + \frac{1}{n_2}}, (\overline{X} - \overline{Y}) + t_{\alpha/2}(n_1 + n_2 - 2)S_p\sqrt{\frac{1}{n_1} + \frac{1}{n_2}}]$

两个正态总体方差比的置信区间

总体：$X \sim N(\mu_1, \sigma_1^2)$，$Y \sim N(\mu_2, \sigma_2^2)$

枢轴量：$F = \frac{S_1^2/\sigma_1^2}{S_2^2/\sigma_2^2} \sim F(n_1-1, n_2-1)$

置信区间： $P(F_{1-\alpha/2}(n_1-1, n_2-1) \leq \frac{S_1^2/\sigma_1^2}{S_2^2/\sigma_2^2} \leq F_{\alpha/2}(n_1-1, n_2-1)) = 1 - \alpha$

解得： $\frac{\sigma_1^2}{\sigma_2^2} \in [\frac{S_1^2}{S_2^2}\frac{1}{F_{\alpha/2}(n_1-1, n_2-1)}, \frac{S_1^2}{S_2^2}\frac{1}{F_{1-\alpha/2}(n_1-1, n_2-1)}]$

置信区间的应用

样本量的确定

问题：给定置信水平和精度要求，确定所需的样本量。

例 1：对于正态总体均值估计，给定置信水平 $1-\alpha$ 和精度 $\delta$，求样本量 $n$。

解：

1. 置信区间长度：$2z_{\alpha/2}\frac{\sigma}{\sqrt{n}} \leq 2\delta$
2. 解得：$n \geq (\frac{z_{\alpha/2}\sigma}{\delta})^2$

置信区间的解释

正确解释：在大量重复抽样中，有 $100(1-\alpha)\%$ 的置信区间包含真值。

错误解释：真值有 $100(1-\alpha)\%$ 的概率落在置信区间内。

置信区间的选择

双侧置信区间：适用于一般情况 单侧置信区间：适用于有方向性的问题

例 2：估计产品寿命的下限

• 单侧置信区间：$[\hat{\theta}_L, +\infty)$
• $P(\theta \geq \hat{\theta}_L) = 1 - \alpha$

置信区间的性质

置信水平与区间长度的关系

关系：置信水平越高，置信区间越长。

原因：置信水平越高，需要覆盖真值的概率越大，因此区间必须更宽。

样本量与区间长度的关系

关系：样本量越大，置信区间越短。

原因：样本量越大，估计越精确，因此区间越窄。

置信区间的对称性

正态分布：置信区间通常是对称的 其他分布：置信区间可能不对称

常见分布的置信区间

二项分布参数的置信区间

总体：$X \sim B(1,p)$

大样本近似： $p \in [\hat{p} - z_{\alpha/2}\sqrt{\frac{\hat{p}(1-\hat{p})}{n}}, \hat{p} + z_{\alpha/2}\sqrt{\frac{\hat{p}(1-\hat{p})}{n}}]$

其中 $\hat{p} = \frac{1}{n}\sum_{i=1}^n X_i$

泊松分布参数的置信区间

总体：$X \sim Poisson(\lambda)$

大样本近似： $\lambda \in [\hat{\lambda} - z_{\alpha/2}\sqrt{\frac{\hat{\lambda}}{n}}, \hat{\lambda} + z_{\alpha/2}\sqrt{\frac{\hat{\lambda}}{n}}]$

其中 $\hat{\lambda} = \overline{X}$

练习题

练习 1

写出正态总体均值 $\mu$ 的 $1-\alpha$ 置信区间（方差已知）。

练习 2

设 $X_1, X_2, \dots, X_n$ 是来自总体 $X \sim N(\mu, \sigma^2)$ 的样本，$\sigma^2$ 未知，求 $\mu$ 的 $95\%$ 置信区间。

练习 3

设 $X_1, X_2, \dots, X_n$ 是来自总体 $X \sim N(\mu, \sigma^2)$ 的样本，求 $\sigma^2$ 的 $1-\alpha$ 置信区间。

练习 4

设两总体方差分别为 $\sigma_1^2, \sigma_2^2$，检验 $H_0: \sigma_1^2=\sigma_2^2$，应选用哪种检验？

练习 5

设 $X_1, X_2, \dots, X_n$ 是来自总体 $X \sim N(\mu, \sigma^2)$ 的样本，$\sigma^2$ 已知，求 $\mu$ 的 $90\%$ 置信区间。