前置知识: 线性代数

施密特正交化

13 minIntermediate2026/6/14

Gram-Schmidt正交化方法与步骤,正交矩阵的定义与性质,正交对角化基础。

1. 施密特正交化方法

1.1 问题提出

给定一组线性无关的向量 α1,α2,,αs\boldsymbol{\alpha}_1, \boldsymbol{\alpha}_2, \ldots, \boldsymbol{\alpha}_s,如何构造一组与之等价的正交向量组 β1,β2,,βs\boldsymbol{\beta}_1, \boldsymbol{\beta}_2, \ldots, \boldsymbol{\beta}_s

1.2 正交化公式

Gram-Schmidt 正交化步骤如下:

β1=α1\boldsymbol{\beta}_1 = \boldsymbol{\alpha}_1

β2=α2(α2,β1)(β1,β1)β1\boldsymbol{\beta}_2 = \boldsymbol{\alpha}_2 - \frac{(\boldsymbol{\alpha}_2, \boldsymbol{\beta}_1)}{(\boldsymbol{\beta}_1, \boldsymbol{\beta}_1)}\boldsymbol{\beta}_1

β3=α3(α3,β1)(β1,β1)β1(α3,β2)(β2,β2)β2\boldsymbol{\beta}_3 = \boldsymbol{\alpha}_3 - \frac{(\boldsymbol{\alpha}_3, \boldsymbol{\beta}_1)}{(\boldsymbol{\beta}_1, \boldsymbol{\beta}_1)}\boldsymbol{\beta}_1 - \frac{(\boldsymbol{\alpha}_3, \boldsymbol{\beta}_2)}{(\boldsymbol{\beta}_2, \boldsymbol{\beta}_2)}\boldsymbol{\beta}_2

一般地:

βk=αkj=1k1(αk,βj)(βj,βj)βj,k=2,3,,s\boldsymbol{\beta}_k = \boldsymbol{\alpha}_k - \sum_{j=1}^{k-1} \frac{(\boldsymbol{\alpha}_k, \boldsymbol{\beta}_j)}{(\boldsymbol{\beta}_j, \boldsymbol{\beta}_j)}\boldsymbol{\beta}_j, \quad k = 2, 3, \ldots, s

1.3 几何理解

每一步中,βk\boldsymbol{\beta}_kαk\boldsymbol{\alpha}_k 减去其在已正交化向量 β1,,βk1\boldsymbol{\beta}_1, \ldots, \boldsymbol{\beta}_{k-1} 上的投影:

βk=αkprojspan(β1,,βk1)αk\boldsymbol{\beta}_k = \boldsymbol{\alpha}_k - \text{proj}_{\text{span}(\boldsymbol{\beta}_1, \ldots, \boldsymbol{\beta}_{k-1})} \boldsymbol{\alpha}_k

1.4 单位化

正交化后,将每个向量单位化:

ek=βkβk\boldsymbol{e}_k = \frac{\boldsymbol{\beta}_k}{\|\boldsymbol{\beta}_k\|}

得到标准正交向量组 e1,e2,,es\boldsymbol{e}_1, \boldsymbol{e}_2, \ldots, \boldsymbol{e}_s

1.5 完整示例

α1=(1,1,0)T\boldsymbol{\alpha}_1 = (1, 1, 0)^Tα2=(1,0,1)T\boldsymbol{\alpha}_2 = (1, 0, 1)^Tα3=(0,1,1)T\boldsymbol{\alpha}_3 = (0, 1, 1)^T,用施密特正交化求标准正交组。

步骤1β1=α1=(1,1,0)T\boldsymbol{\beta}_1 = \boldsymbol{\alpha}_1 = (1, 1, 0)^T

步骤2

β2=α2(α2,β1)(β1,β1)β1=(1,0,1)T12(1,1,0)T=(12,12,1)T\boldsymbol{\beta}_2 = \boldsymbol{\alpha}_2 - \frac{(\boldsymbol{\alpha}_2, \boldsymbol{\beta}_1)}{(\boldsymbol{\beta}_1, \boldsymbol{\beta}_1)}\boldsymbol{\beta}_1 = (1, 0, 1)^T - \frac{1}{2}(1, 1, 0)^T = \left(\frac{1}{2}, -\frac{1}{2}, 1\right)^T

步骤3

(α3,β1)=1,(α3,β2)=12+1=12(\boldsymbol{\alpha}_3, \boldsymbol{\beta}_1) = 1, \quad (\boldsymbol{\alpha}_3, \boldsymbol{\beta}_2) = -\frac{1}{2} + 1 = \frac{1}{2}

(β2,β2)=14+14+1=32(\boldsymbol{\beta}_2, \boldsymbol{\beta}_2) = \frac{1}{4} + \frac{1}{4} + 1 = \frac{3}{2}

β3=(0,1,1)T12(1,1,0)T1/23/2(12,12,1)T\boldsymbol{\beta}_3 = (0, 1, 1)^T - \frac{1}{2}(1, 1, 0)^T - \frac{1/2}{3/2}\left(\frac{1}{2}, -\frac{1}{2}, 1\right)^T

=(0,1,1)T(12,12,0)T(16,16,13)T=(23,23,23)T= (0, 1, 1)^T - \left(\frac{1}{2}, \frac{1}{2}, 0\right)^T - \left(\frac{1}{6}, -\frac{1}{6}, \frac{1}{3}\right)^T = \left(-\frac{2}{3}, \frac{2}{3}, \frac{2}{3}\right)^T

步骤4:单位化

β1=2,β2=3/2,β3=233\|\boldsymbol{\beta}_1\| = \sqrt{2}, \quad \|\boldsymbol{\beta}_2\| = \sqrt{3/2}, \quad \|\boldsymbol{\beta}_3\| = \frac{2\sqrt{3}}{3}

e1=12(1,1,0)T,e2=16(1,1,2)T,e3=13(1,1,1)T\boldsymbol{e}_1 = \frac{1}{\sqrt{2}}(1, 1, 0)^T, \quad \boldsymbol{e}_2 = \frac{1}{\sqrt{6}}(1, -1, 2)^T, \quad \boldsymbol{e}_3 = \frac{1}{\sqrt{3}}(-1, 1, 1)^T

2. 正交矩阵

2.1 定义

nn 阶实方阵 AA 称为正交矩阵,若:

ATA=IA1=ATA^TA = I \quad \text{或} \quad A^{-1} = A^T

2.2 等价条件

以下条件等价:

  1. AA 是正交矩阵
  2. ATA=IA^TA = I
  3. AAT=IAA^T = I
  4. A1=ATA^{-1} = A^T
  5. AA 的列向量构成 Rn\mathbb{R}^n 的标准正交基
  6. AA 的行向量构成 Rn\mathbb{R}^n 的标准正交基

2.3 正交矩阵的性质

  1. A=±1|A| = \pm 1
  2. A1A^{-1} 也是正交矩阵
  3. ATA^T 也是正交矩阵
  4. 两个正交矩阵的乘积仍是正交矩阵
  5. 正交变换保持内积:(Aα,Aβ)=(α,β)(A\boldsymbol{\alpha}, A\boldsymbol{\beta}) = (\boldsymbol{\alpha}, \boldsymbol{\beta})
  6. 正交变换保持长度:Aα=α\|A\boldsymbol{\alpha}\| = \|\boldsymbol{\alpha}\|
  7. 正交变换保持距离和角度

2.4 正交变换的几何意义

正交矩阵表示的线性变换是刚体运动(旋转或旋转加反射):

  • A=1|A| = 1:旋转
  • A=1|A| = -1:旋转加反射(镜像)

2.5 常见正交矩阵

二维旋转矩阵

R(θ)=(cosθsinθsinθcosθ)R(\theta) = \begin{pmatrix} \cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{pmatrix}

置换矩阵:每行每列恰好有一个1,其余为0。

3. 正交矩阵的构造

3.1 由标准正交基构造

nnnn 维标准正交向量按列排列即得正交矩阵。

3.2 由施密特正交化构造

对任意可逆矩阵 AA 的列向量进行施密特正交化,得到正交矩阵 QQ,且 A=QRA = QR(QR分解)。

4. 施密特正交化的应用

4.1 构造标准正交基

将向量空间的任意一组基正交化,得到标准正交基。

4.2 QR 分解

任意 m×nm \times n 矩阵(mnm \geq n,列满秩)可分解为 A=QRA = QR,其中 QQm×nm \times n 的列正交矩阵,RRn×nn \times n 的上三角矩阵。

4.3 最小二乘法

求超定方程组 AxbAx \approx b 的最小二乘解,等价于求解正规方程 ATAx=ATbA^TAx = A^Tb。利用 QR 分解可以简化计算。

4.4 实对称矩阵的正交对角化

对实对称矩阵的不同特征值对应的特征向量,自动正交;同一特征值对应的特征向量需要用施密特正交化。

5. 典型例题

例1

验证 A=(13121613121613026)A = \begin{pmatrix} \frac{1}{\sqrt{3}} & \frac{1}{\sqrt{2}} & \frac{1}{\sqrt{6}} \\ \frac{1}{\sqrt{3}} & -\frac{1}{\sqrt{2}} & \frac{1}{\sqrt{6}} \\ \frac{1}{\sqrt{3}} & 0 & -\frac{2}{\sqrt{6}} \end{pmatrix} 是正交矩阵。

:验证 ATA=IA^TA = I

ATAA^TA(1,1)(1,1) 元素 =13+13+13=1= \frac{1}{3} + \frac{1}{3} + \frac{1}{3} = 1

ATAA^TA(1,2)(1,2) 元素 =1616+0=0= \frac{1}{\sqrt{6}} - \frac{1}{\sqrt{6}} + 0 = 0

(其余似验证)

例2

AA 为正交矩阵,A=1|A| = -1,证明 A+I=0|A + I| = 0

证明

A+I=A+AAT=A(I+AT)=AI+AT|A + I| = |A + AA^T| = |A(I + A^T)| = |A| \cdot |I + A^T|

=I+AT=(I+A)T=I+A=A+I= -|I + A^T| = -|(I + A)^T| = -|I + A| = -|A + I|

2A+I=02|A + I| = 0A+I=0|A + I| = 0