实对称矩阵的对角化

1. 实对称矩阵的性质

1.1 基本性质

定理1：实对称矩阵的特征值都是实数。

证明：设 $A\mathbf{x}=\lambda \mathbf{x}$（$\mathbf{x}\ne 0$），则：

${\bar{\mathbf{x}}}^{T}A\mathbf{x}=\lambda {\bar{\mathbf{x}}}^T\mathbf{x}$

${\bar{\mathbf{x}}}^{T}A\mathbf{x}=(A\bar{\mathbf{x}}{)}^T\mathbf{x}=\bar{\lambda }{\bar{\mathbf{x}}}^T\mathbf{x}$

故 $(\lambda -\bar{\lambda }){\bar{\mathbf{x}}}^T\mathbf{x}=0$。因 ${\bar{\mathbf{x}}}^T\mathbf{x}>0$，$\lambda =\bar{\lambda }$，$\lambda$ 为实数。

定理2：实对称矩阵属于不同特征值的特征向量正交。

证明：设 $A{\mathbf{x}}_1={\lambda }_1{\mathbf{x}}_1$，$A{\mathbf{x}}_2={\lambda }_2{\mathbf{x}}_2$，${\lambda }_1\ne {\lambda }_2$。

${\lambda }_1({\mathbf{x}}_1,{\mathbf{x}}_2)=(A{\mathbf{x}}_1,{\mathbf{x}}_2)=(A{\mathbf{x}}_1{)}^T{\mathbf{x}}_2={\mathbf{x}}_1^T{A}^T{\mathbf{x}}_2={\mathbf{x}}_1^{T}A{\mathbf{x}}_2={\lambda }_2({\mathbf{x}}_1,{\mathbf{x}}_2)$

$({\lambda }_1-{\lambda }_2)({\mathbf{x}}_1,{\mathbf{x}}_2)=0$，因 ${\lambda }_1\ne {\lambda }_2$，$({\mathbf{x}}_1,{\mathbf{x}}_2)=0$。

定理3：实对称矩阵一定可对角化（几何重数 = 代数重数）。

1.2 谱定理

谱定理（Spectral Theorem）：设 $A$ 为 $n$ 阶实对称矩阵，则存在正交矩阵 $Q$，使得：

$Q^{-1}AQ=Q^{T}AQ=\Lambda =\text{diag}({\lambda }_1,{\lambda }_2,\dots ,{\lambda }_n)$

即实对称矩阵一定可以正交对角化。

等价表述：$A=Q\Lambda Q^T={\lambda }_1{\mathbf{q}}_1{\mathbf{q}}_1^T+{\lambda }_2{\mathbf{q}}_2{\mathbf{q}}_2^T+\cdots +{\lambda }_n{\mathbf{q}}_n{\mathbf{q}}_n^T$

这称为 $A$ 的谱分解。

2. 正交对角化的步骤

2.1 步骤

1. 求出 $A$ 的所有特征值
2. 对每个特征值，求对应的特征向量
3. 对属于不同特征值的特征向量，它们已经正交
4. 对属于同一特征值的特征向量，用施密特正交化
5. 将所有特征向量单位化
6. 以标准正交特征向量为列构造正交矩阵 $Q$

2.2 完整示例

将 $A=\left(\begin{array}{cc}2& -2\\ -2& 5\end{array}\right)$ 正交对角化。

步骤1：特征多项式

$|A-\lambda I|=(2-\lambda )(5-\lambda )-4={\lambda }^2-7\lambda +6=(\lambda -1)(\lambda -6)$

特征值 ${\lambda }_1=1$，${\lambda }_2=6$。

步骤2：

${\lambda }_1=1$：$(A-I)\mathbf{x}=0$

$\left(\begin{array}{cc}1& -2\\ -2& 4\end{array}\right)\mathbf{x}=0\Rightarrow x_1=2x_2$

${\mathbf{x}}_1=(2,1{)}^T$

${\lambda }_2=6$：$(A-6I)\mathbf{x}=0$

$\left(\begin{array}{cc}-4& -2\\ -2& -1\end{array}\right)\mathbf{x}=0\Rightarrow x_1=-\frac{1}{2}{x}_2$

${\mathbf{x}}_2=(1,-2{)}^T$

步骤3：不同特征值的特征向量已正交：$(2,1)\cdot (1,-2)=2-2=0$

步骤4：单位化

${\mathbf{q}}_1=\frac{1}{\sqrt{5}}(2,1{)}^T$，${\mathbf{q}}_2=\frac{1}{\sqrt{5}}(1,-2{)}^T$

步骤5：

$Q=\frac{1}{\sqrt{5}}\left(\begin{array}{cc}2& 1\\ 1& -2\end{array}\right),\Lambda =\left(\begin{array}{cc}1& 0\\ 0& 6\end{array}\right)$

验证：$Q^{T}AQ=\Lambda$

2.3 有重特征值的示例

将 $A=\left(\begin{array}{ccc}2& 1& 1\\ 1& 2& 1\\ 1& 1& 2\end{array}\right)$ 正交对角化。

步骤1：

$|A-\lambda I|=\left|\begin{array}{ccc}2-\lambda & 1& 1\\ 1& 2-\lambda & 1\\ 1& 1& 2-\lambda \end{array}\right|=(4-\lambda )(1-\lambda {)}^2$

${\lambda }_1=4$（单根），${\lambda }_2=1$（二重根）。

步骤2：

${\lambda }_1=4$：${\mathbf{x}}_1=(1,1,1{)}^T$

${\lambda }_2=1$：$(A-I)\mathbf{x}=0$，$x_1+x_2+x_3=0$

基础解系：${\mathbf{\alpha }}_1=(-1,1,0{)}^T$，${\mathbf{\alpha }}_2=(-1,0,1{)}^T$

步骤3：${\mathbf{x}}_1$ 与 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2$ 已正交（不同特征值）。

步骤4：对 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2$ 施密特正交化：

${\mathbf{\beta }}_1=(-1,1,0{)}^T$

${\mathbf{\beta }}_2=(-1,0,1{)}^T-\frac{1}{2}(-1,1,0{)}^T=(-1/2,-1/2,1{)}^T$

步骤5：单位化

${\mathbf{q}}_1=\frac{1}{\sqrt{3}}(1,1,1{)}^T$，${\mathbf{q}}_2=\frac{1}{\sqrt{2}}(-1,1,0{)}^T$，${\mathbf{q}}_3=\frac{1}{\sqrt{6}}(-1,-1,2{)}^T$

$Q=\left(\begin{array}{ccc}\frac{1}{\sqrt{3}}& -\frac{1}{\sqrt{2}}& -\frac{1}{\sqrt{6}}\\ \frac{1}{\sqrt{3}}& \frac{1}{\sqrt{2}}& -\frac{1}{\sqrt{6}}\\ \frac{1}{\sqrt{3}}& 0& \frac{2}{\sqrt{6}}\end{array}\right)$

3. 正交对角化的应用

3.1 二次型的标准化

实对称矩阵的正交对角化等价于用正交变换将二次型化为标准形。

3.2 矩阵函数的计算

$A=Q\Lambda Q^T$，则 $f(A)=Qf(\Lambda )Q^T$。

3.3 矩阵的极分解

利用谱分解可以研究正定矩阵、半正定矩阵等。

3.4 主成分分析（PCA）

PCA 的核心是对协方差矩阵（实对称矩阵）进行正交对角化，特征值表示各主成分的方差，特征向量表示主成分方向。