随机样本

1. 总体与个体

1.1 总体

在统计问题中，研究对象的全体称为总体（或母体），记作 $X$。总体通常用随机变量来描述，其分布称为总体分布。

1.2 个体

总体中的每个成员称为个体。每个个体可用一个数值来刻画，因此总体可以用一个随机变量 $X$ 来表示。

1.3 有限总体与无限总体

• 有限总体：包含有限个个体，如某批产品的质量
• 无限总体：包含无限个个体，如某工厂生产的所有产品

当有限总体包含的个体数很大时，可近似视为无限总体。

2. 随机样本

2.1 样本的定义

从总体 $X$ 中随机抽取 $n$ 个个体 $X_1, X_2, \cdots, X_n$，称为来自总体 $X$ 的一个样本（或子样），$n$ 称为样本容量（或样本量）。

2.2 简单随机样本

若 $X_1, X_2, \cdots, X_n$ 满足：

1. 独立性：$X_1, X_2, \cdots, X_n$ 相互独立
2. 同分布性：每个 $X_i$ 与总体 $X$ 同分布

则称 $X_1, X_2, \cdots, X_n$ 为来自总体 $X$ 的简单随机样本，简称样本。

2.3 样本的两重性

• 抽样前：$X_1, X_2, \cdots, X_n$ 是随机变量
• 抽样后：$x_1, x_2, \cdots, x_n$ 是具体数值（称为样本观测值或样本值）

2.4 样本的联合分布

设总体 $X$ 的分布函数为 $F(x)$，密度函数为 $f(x)$（连续型）或分布律为 $P(X = x)$（离散型），则样本 $X_1, X_2, \cdots, X_n$ 的联合分布为：

连续型：

$f(x_1, x_2, \cdots, x_n) = \prod_{i=1}^n f(x_i)$

离散型：

$P(X_1 = x_1, X_2 = x_2, \cdots, X_n = x_n) = \prod_{i=1}^n P(X = x_i)$

3. 经验分布函数

3.1 定义

设 $x_1, x_2, \cdots, x_n$ 为总体 $X$ 的样本观测值，将其按从小到大排列为 $x_{(1)} \leq x_{(2)} \leq \cdots \leq x_{(n)}$，则

$F_n(x) = \begin{cases} 0, & x < x_{(1)} \\ \dfrac{k}{n}, & x_{(k)} \leq x < x_{(k+1)}, \quad k = 1, 2, \cdots, n-1 \\ 1, & x \geq x_{(n)} \end{cases}$

称为经验分布函数。

3.2 经验分布函数的性质

1. $F_n(x)$ 是一个阶梯函数，在每个 $x_{(k)}$ 处有跳跃 $\dfrac{1}{n}$
2. $F_n(x)$ 具有分布函数的一切性质
3. 由格利文科定理：

$P\left(\lim_{n \to \infty} \sup_{-\infty < x < +\infty} |F_n(x) - F(x)| = 0\right) = 1$

即当 $n \to \infty$ 时，经验分布函数几乎必然一致收敛于总体分布函数。

4. 抽样方法

4.1 简单随机抽样

从总体 $N$ 个个体中抽取 $n$ 个，使得每个个体被抽到的概率相等。

• 放回抽样：每次抽取后放回，$N^n$ 种可能
• 不放回抽样：每次抽取后不放回，$A_N^n$ 种可能

当 $N$ 远大于 $n$ 时，两种方法差异很小。

4.2 分层抽样

将总体按某种特征分为若干层，在每层内独立地进行简单随机抽样。

4.3 系统抽样

将总体中的个体按顺序排列，每隔一定间隔抽取一个。

4.4 整群抽样

将总体分为若干群，随机抽取若干群，对抽中的群进行全面调查。

5. 统计推断的基本思想

5.1 从样本到总体

统计推断的核心问题是：如何从样本信息推断总体特征。

• 参数估计：用样本统计量估计总体参数
• 假设检验：用样本信息判断关于总体的假设是否成立

5.2 统计推断的基本要求

1. 样本具有代表性（随机抽样）
2. 样本容量足够大
3. 推断方法具有理论依据