随机变量的独立性

1. 随机变量独立性的定义

1.1 定义

设 $(X,Y)$ 是二维随机变量，若对任意实数 $x,y$，都有

$F(x,y)=F_X(x)\cdot F_Y(y)$

即

$P(X\le x,Y\le y)=P(X\le x)\cdot P(Y\le y)$

则称随机变量 $X$ 与 $Y$ 相互独立。

1.2 等价定义

离散型：$X$ 与 $Y$ 独立 $⟺$ 对所有 $i,j$，

$P(X=x_i,Y=y_j)=P(X=x_i)\cdot P(Y=y_j)$

即 $p_{ij}=p_{i\cdot }\cdot p_{\cdot j}$

连续型：$X$ 与 $Y$ 独立 $⟺$ 在 $f(x,y)$ 的连续点处，

$f(x,y)=f_X(x)\cdot f_Y(y)$

2. 独立性的判定方法

2.1 定义法

直接验证联合分布等于边缘分布的乘积。

2.2 分解法

若联合密度 $f(x,y)$ 可以分解为

$f(x,y)=g(x)\cdot h(y)$

其中 $g(x)$ 只与 $x$ 有关，$h(y)$ 只与 $y$ 有关，且 $f(x,y)$ 的非零区域为矩形（即 $x$ 和 $y$ 的取值范围互不依赖），则 $X$ 与 $Y$ 独立。

注意：非零区域必须是矩形区域，否则即使密度可分解，也不独立。

2.3 判定步骤

1. 求出联合分布（分布律或密度）
2. 求出边缘分布
3. 检验联合分布是否等于边缘分布的乘积

3. 独立性的重要性质

3.1 独立变量的函数

若 $X$ 与 $Y$ 独立，则 $g(X)$ 与 $h(Y)$ 也独立，其中 $g$ 和 $h$ 为连续函数。

3.2 独立变量的概率

若 $X$ 与 $Y$ 独立，则对任意 Borel 集 $A,B$，

$P(X\in A,Y\in B)=P(X\in A)\cdot P(Y\in B)$

3.3 独立变量的期望

若 $X$ 与 $Y$ 独立且期望存在，则

$E(XY)=E(X)\cdot E(Y)$

3.4 独立变量的方差

若 $X$ 与 $Y$ 独立且方差存在，则

$D(X+Y)=D(X)+D(Y)$

$D(X-Y)=D(X)+D(Y)$

4. 独立性判定的典型例题

例题1

设 $(X,Y)$ 的联合密度为

$f(x,y)=\{\begin{array}{ll}4xy,& 0<x<1,0<y<1\\ 0,& \text{其他}\end{array}$

判断 $X$ 与 $Y$ 是否独立。

解：

$f_X(x)={\int }_0^{1}4xydy=2x,0<x<1$

$f_Y(y)={\int }_0^{1}4xydx=2y,0<y<1$

$f_X(x)\cdot f_Y(y)=4xy=f(x,y)✓$

且非零区域为矩形，故 $X$ 与 $Y$ 独立。

例题2

设 $(X,Y)$ 的联合密度为

$f(x,y)=\{\begin{array}{ll}2,& 0<x<y<1\\ 0,& \text{其他}\end{array}$

判断 $X$ 与 $Y$ 是否独立。

解：非零区域为三角形 $\{(x,y):0<x<y<1\}$，不是矩形，故 $X$ 与 $Y$ 不独立。

也可以验证：

$f_X(x)=2(1-x),f_Y(y)=2y$

$f_X(x)\cdot f_Y(y)=4y(1-x)\ne 2=f(x,y)$

例题3

设 $(X,Y)\sim N({\mu }_1,{\mu }_2,{\sigma }_1^2,{\sigma }_2^2,\rho )$，证明 $X$ 与 $Y$ 独立 $⟺$ $\rho =0$。

证明：

当 $\rho =0$ 时，联合密度为

$f(x,y)=\frac{1}{2\pi {\sigma }_1{\sigma }_2}\exp \left\{-\frac{(x-{\mu }_1{)}^2}{2{\sigma }_1^2}-\frac{(y-{\mu }_2{)}^2}{2{\sigma }_2^2}\right\}=f_X(x)\cdot f_Y(y)$

故 $X$ 与 $Y$ 独立。

当 $X$ 与 $Y$ 独立时，$f(x,y)=f_X(x)\cdot f_Y(y)$，比较联合密度公式可得 $\rho =0$。

5. 多个随机变量的独立性

5.1 定义

设 $X_1,X_2,\cdots ,X_n$ 是 $n$ 个随机变量，若对任意实数 $x_1,x_2,\cdots ,x_n$，有

$F(x_1,x_2,\cdots ,x_n)=F_{X_1}(x_1)\cdot F_{X_2}(x_2)\cdots F_{X_n}(x_n)$

则称 $X_1,X_2,\cdots ,X_n$ 相互独立。

5.2 独立随机变量和的性质

若 $X_1,X_2,\cdots ,X_n$ 相互独立，则

1. $D\left({\sum }_{i=1}^n{X}_i\right)={\sum }_{i=1}^{n}D(X_i)$

2. $D\left({\sum }_{i=1}^n{a}_i{X}_i\right)={\sum }_{i=1}^n{a}_i^{2}D(X_i)$

3. 独立正态变量的线性组合仍为正态变量

5.3 独立与两两独立

• 相互独立 $\Rightarrow$ 两两独立
• 两两独立 $\nRightarrow$ 相互独立

这与事件的独立性类似。