参数估计典型例题

1. 矩估计

例题1

设总体 $X$ 的密度为 $f(x)=\{\begin{array}{ll}(\theta +1)x^{\theta },& 0<x<1\\ 0,& \text{其他}\end{array}$（$\theta >-1$），求 $\theta$ 的矩估计。

解：

$E(X)={\int }_0^{1}x(\theta +1)x^{\theta }dx=(\theta +1){\int }_0^1{x}^{\theta +1}dx=\frac{\theta +1}{\theta +2}$

令 $E(X)=\bar{X}$：

$\frac{\theta +1}{\theta +2}=\bar{X}⟹\hat{\theta }=\frac{2\bar{X}-1}{1-\bar{X}}$

例题2

设总体 $X\sim P(\lambda )$，求 $\lambda$ 的矩估计。

解：$E(X)=\lambda =\bar{X}$，故 $\hat{\lambda }=\bar{X}$。

例题3

设总体 $X$ 的密度为 $f(x)=\{\begin{array}{ll}\frac{1}{\theta }{e}^{-x/\theta },& x>0\\ 0,& x\le 0\end{array}$，求 $\theta$ 的矩估计。

解：$E(X)=\theta$，故 $\hat{\theta }=\bar{X}$。

2. 极大似然估计

例题4

设总体 $X\sim P(\lambda )$，求 $\lambda$ 的 MLE。

解：

$L(\lambda )={\prod }_{i=1}^n\frac{{\lambda }^{x_i}{e}^{-\lambda }}{x_i!}=\frac{{\lambda }^{\sum x_i}{e}^{-n\lambda }}{\prod x_i!}$

$\ln L=\sum x_i\ln \lambda -n\lambda -\sum \ln (x_i!)$

$\frac{d\ln L}{d\lambda }=\frac{\sum x_i}{\lambda }-n=0⟹\hat{\lambda }=\bar{X}$

例题5

设总体 $X\sim U(a,b)$，求 $a$ 和 $b$ 的 MLE。

解：

$L(a,b)=\{\begin{array}{ll}\frac{1}{(b-a{)}^n},& a<x_i<b,i=1,\cdots ,n\\ 0,& \text{其他}\end{array}$

$L$ 是 $(b-a{)}^{-n}$，要使 $L$ 最大，需 $b-a$ 最小。

约束条件：$a\le x_{(1)}$，$b\ge x_{(n)}$。

故 $\hat{a}=x_{(1)}$，$\hat{b}=x_{(n)}$。

例题6

设总体 $X$ 的密度为 $f(x)=\{\begin{array}{ll}\theta x^{\theta -1},& 0<x<1\\ 0,& \text{其他}\end{array}$（$\theta >0$），求 $\theta$ 的 MLE。

解：

$L(\theta )={\prod }_{i=1}^n\theta x_i^{\theta -1}={\theta }^n{\left(\prod x_i\right)}^{\theta -1}$

$\ln L=n\ln \theta +(\theta -1)\sum \ln x_i$

$\frac{d\ln L}{d\theta }=\frac{n}{\theta }+\sum \ln x_i=0⟹\hat{\theta }=-\frac{n}{\sum \ln x_i}$

3. 估计量的评选

例题7

设 $X_1,\cdots ,X_n\sim N(\mu ,{\sigma }^2)$，证明 $S^2$ 是 ${\sigma }^2$ 的无偏估计。

证明：$\frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }^2(n-1)$，$E[{\chi }^2(n-1)]=n-1$。

$E(S^2)=E\left[\frac{{\sigma }^2}{n-1}\cdot \frac{(n-1)S^2}{{\sigma }^2}\right]=\frac{{\sigma }^2}{n-1}\cdot (n-1)={\sigma }^2$

例题8

设 $X_1,\cdots ,X_n\sim U(0,\theta )$，${\hat{\theta }}_1=2\bar{X}$，${\hat{\theta }}_2=X_{(n)}$，判断它们是否为 $\theta$ 的无偏估计。

解：

$E({\hat{\theta }}_1)=2E(\bar{X})=2\cdot \frac{\theta }{2}=\theta \text{（无偏）}$

$f_{X_{(n)}}(x)=\frac{n}{{\theta }^n}{x}^{n-1},0<x<\theta$

$E({\hat{\theta }}_2)={\int }_0^{\theta }x\cdot \frac{n}{{\theta }^n}{x}^{n-1}dx=\frac{n}{n+1}\theta \ne \theta \text{（有偏）}$

修正：${\hat{\theta }}_3=\frac{n+1}{n}{X}_{(n)}$ 是无偏的。

例题9

比较 ${\hat{\theta }}_1=2\bar{X}$ 和 ${\hat{\theta }}_3=\frac{n+1}{n}{X}_{(n)}$ 的有效性。

解：

$D({\hat{\theta }}_1)=4D(\bar{X})=4\cdot \frac{{\theta }^2}{12n}=\frac{{\theta }^2}{3n}$

$D({\hat{\theta }}_3)={\left(\frac{n+1}{n}\right)}^{2}D(X_{(n)})={\left(\frac{n+1}{n}\right)}^2\cdot \frac{n{\theta }^2}{(n+1{)}^2(n+2)}=\frac{{\theta }^2}{n(n+2)}$

当 $n\ge 2$ 时，$\frac{{\theta }^2}{n(n+2)}<\frac{{\theta }^2}{3n}$，故 ${\hat{\theta }}_3$ 更有效。

4. 区间估计

例题10

设 $X_1,\cdots ,X_{25}\sim N(\mu ,4)$，$\bar{x}=14.5$，求 $\mu$ 的 $95\%$ 置信区间。

解：$\sigma =2$ 已知，$z_{0.025}=1.96$。

$\left(14.5-1.96\times \frac{2}{5},14.5+1.96\times \frac{2}{5}\right)=(13.716,15.284)$

例题11

设 $X_1,\cdots ,X_{16}\sim N(\mu ,{\sigma }^2)$，$\bar{x}=10$，$s=3$，求 $\mu$ 的 $95\%$ 置信区间。

解：$\sigma$ 未知，$t_{0.025}(15)=2.131$。

$\left(10-2.131\times \frac{3}{4},10+2.131\times \frac{3}{4}\right)=(8.402,11.598)$

例题12

设 $X_1,\cdots ,X_{10}\sim N(\mu ,{\sigma }^2)$，$s^2=6.42$，求 ${\sigma }^2$ 的 $95\%$ 置信区间。

解：${\chi }_{0.025}^2(9)=19.023$，${\chi }_{0.975}^2(9)=2.700$。

$\left(\frac{9\times 6.42}{19.023},\frac{9\times 6.42}{2.700}\right)=(3.037,21.400)$

例题13

某产品合格率的 $95\%$ 置信区间要求宽度不超过 0.1，至少需要多大的样本量？

解：置信区间宽度为 $2z_{\alpha /2}\sqrt{\frac{\hat{p}(1-\hat{p})}{n}}\le 0.1$。

$\hat{p}(1-\hat{p})\le 0.25$，$z_{0.025}=1.96$。

$2\times 1.96\times \sqrt{\frac{0.25}{n}}\le 0.1⟹n\ge \frac{4\times 1.96^2\times 0.25}{0.01}=384.16$

取 $n=385$。

例题14

设甲乙两种工艺生产的产品重量分别为 $X\sim N({\mu }_1,{\sigma }^2)$ 和 $Y\sim N({\mu }_2,{\sigma }^2)$，分别抽取 10 件和 8 件，$\bar{x}=50.1$，$\bar{y}=49.8$，$s_1^2=0.04$，$s_2^2=0.03$，求 ${\mu }_1-{\mu }_2$ 的 $95\%$ 置信区间。

解：${\sigma }_1^2={\sigma }_2^2$ 未知。

$S_w^2=\frac{9\times 0.04+7\times 0.03}{16}=0.0356$

$t_{0.025}(16)=2.120$

$\left(0.3-2.120\sqrt{0.0356\left(\frac{1}{10}+\frac{1}{8}\right)},0.3+2.120\sqrt{0.0356\left(\frac{1}{10}+\frac{1}{8}\right)}\right)$

$=(0.3-0.189,0.3+0.189)=(0.111,0.489)$

例题15

设 $X_1,\cdots ,X_n\sim N(\mu ,{\sigma }^2)$，求 $\mu$ 的 $95\%$ 单侧置信下限。

解：

$P\left(\frac{\bar{X}-\mu }{S/\sqrt{n}}<t_{0.05}(n-1)\right)=0.95$

$\mu >\bar{X}-t_{0.05}(n-1)\frac{S}{\sqrt{n}}$

单侧置信下限为 $\bar{X}-t_{0.05}(n-1)\frac{S}{\sqrt{n}}$。