9.3 $Gram-Schmidt$ 正交化方法和正交补空间

$§$ 9.3 $Gram-Schmidt$ 正交化方法和正交补空间

设 $V$ 为 $n$ 维内积空间，则由例题9.4可知，任一 $n$ 阶正定实对称矩阵（正定 $Hermite$ 矩阵）$H$ 都能成为 $V$ 的某组基的 $Gram$ 矩阵. 特别地，取 $H = I_{n}$ ，则存在 $V$ 的一组基 ${f_{1},f_{2},⋯,f_{n}}$ 使得它的 $Gram$ 矩阵就是单位矩阵 $I_{n}$ ，即 ${f_{1},f_{2},⋯,f_{n}}$ 是 $V$ 的一组标准正交基. 由例题9.3我们也可以具体地构造一组标准正交基，以下不妨设 $V$ 是欧氏空间. 首先，任取 $V$ 的一组基 ${e_{1},e_{2},⋯,e_{n}}$ ，设其 $Gram$ 矩阵为 $G$ ，则 $G$ 是正定实对称矩阵. 其次，通过初等对称变换法可将 $G$ 化为单位矩阵 $I_{n}$ ，则存在 $n$ 阶非异实矩阵 $C = (c_{ij})$ ，使得 $C’GC = I_{n}$ .最后令

$$ {f_{1},f_{2},⋯,f_{n}} = {e_{1},e_{2},⋯,e_{n}}C $$

即 $f_{j} = ∑_{i = 1}^{n} c_{ij}e_{i}$ ，则 ${f_{1},f_{2},⋯,f_{n}}$ 是 $V$ 的一组基，并且它的 $Gram$ 矩阵就是 $C’GC = I_{n}$ ，从上述过程不难看出，因为当 $n ≥ 2$ 时，过渡矩阵 $C$ 有无穷多种选法，所以可以构造出无穷多组标准正交基.

从几何的层面看，上述构造标准正交基的代数方法虽然简单，但是缺少几何直观和意义. 然而，$Gram-Schmidt$ 方法却是一个从几何直观入手向量组的正交化方法，具有重要的几何意义. $Gram-Schmidt$ 方法（公式可参考9.1节），粗略地说就是：如果前 $k-1$ 个向量 $v_{1},v_{2},⋯,v_{k-1}$ 已经两两正交，那么只要将第 $k$ 个向量 $v_{k}$ （这里原书打成了$u_{k}$）减去其在 $v_{1},v_{2},⋯,v_{k-1}$ 上的正交投影，即可得到与 $v_{1},v_{2},⋯,v_{k-1}$ 都正交的向量 $v_{k}$ . 特别地，若 ${u_{1},u_{2},⋯,u_{n}}$ 是欧式空间 $V$ 的一组基，则通过 $Gram-Schmidt$ 方法可得到一组正交基 $v_{1},v_{2},⋯,v_{n}$ ，再将每个基向量标准化即可得到 $V$ 的一组标准正交基 ${w_{1},w_{2},⋯,w_{n}}$ ，这三组基之间的关系为

$$ {u_{1},u_{2},⋯,u_{n}} = {v_{1},v_{2},⋯,v_{n}}B = {w_{1},w_{2},⋯,w_{n}}C $$ 其中 $B$ 为 主对角元全为 $1$ 的上三角矩阵，$C$ 是主对角元全为正实数的上三角矩阵. 设 $A = G(u_{1},u_{2},⋯,u_{n}), D = G(v_{1},{2},⋯,v{n})$ 分别是对应的 $Gram$ 矩阵，则 $A$ 是正定实对称矩阵，$D$ 是正定对角矩阵，由例题9.3可得 $A$ 的如下分解： $$ A = B’DB = C’C $$ 这就是例 $8.12$ 中关于正定实对称矩阵 $A$ 的两种分解，再由例 $8.12$ 后面的注可知上述两种分解的唯一性. 因此，基 ${v_{1},v_{2},⋯,v_{n}}$ 的 $Gram-Schmidt$ 方法得到的正交基 ${v_{1},v_{2},⋯,v_{n}}$ ，而 $Gram$ 矩阵的 $Cholesky$ 分解 $A = C’C$ 则一一对应于通过 $Gram-Schmidt$ 正交化和标准化得到的标准正交基 ${w_{1},w_{2},⋯,w_{n}}$ .

除了求标准正交基之外, $Gram-Schmidt$ 方法还有许多其他的应用. 设 $V$ 是内积空间, $u$ 是 $V$ 中的向量，${w_{1},w_{2},⋯,w_{n}}$ 是子空间 $W$ 的一组标准正交基，则由 $Gram-Schmidt$ 方法可知 $v = u - \mathop{∑}\limits_{i = 1}^{k} (u,w_{i})w_{i}$ 与 $w_{1},w_{2},⋯,w_{k}$ 正交. 令 $w = ∑_{i = 1}^{k} (u,w_{i})w_{i}$ ，则 $u = v + w$ 且 $(v,w) = 0$ 于是 $||u||^{2} = ||v||^{2} + ||w||^{2}$ ，由此可得

(1) $Bassel$ 不等式：$||u|| ≥ ||w||^{2} = ∑^{k}{i=1}|(u,w{i})|^{2}$;

(2) 向量 $u$ 到子空间 $W$ 的距离为 $||v||$ ，即 $\mathop{\min}\limits_{x∈W}||u-x|| = ||v|| $

---

我们来看 $Gram-Schmidt$ 正交化方法及其应用的几道典型例题

9.11 设 $V = \mathbb{R}[x]{n}$ 为次数小于等于 $n$ 的实系数多项式构成的欧式空间，对任意的 $f(x),g(x)$ ，其内积定义为 $(f(x),g(x)) = ∫{-1}^{1}f(x)g(x)dx$ （参考例题9.1(5) ）. 设 $u_{0}(x) = 1, u_{k}(x) = \dfrac{d^{k}}{dx^{k}}[(x^2-1)^{k}] (k≥1), m_{k} = ⎷\dfrac{2^{k+1}k!(2k)!}{(2k+1)!!} (k≥0)$ .

求证：从基 ${1,x,⋯,x^{n}}$ 出发，由 $Gram-Schmidt$ 正交化方法得到的标准正交基为 ${\dfrac{u_{k}(x)}{m_{k}}, 0≤k≤n}$ 称为 $Legendre$ 多项式

9.12 设 $V = \mathbb{R}[x]_{n}$ 为次数小于等于 $3$ 的实系数多项式构成的欧式空间，其内积定义与9.11相同，

试求 $\mathop{min}\limits_{f(x)∈V} ∫_{-1}^{1}(e^{x} - f(x))^{2}dx$ .

---

列向量组的 $Gram-Schmidt$ 正交化还给出了矩阵的 $QR$ 分解，这可以看作是 $Gram-Schmidt$ 正交化方法的另一个应用

9.13 设 $A$ 是 $n$ 阶实（复）矩阵，则 $A$ 可分解为 $A = QR$ ，其中 $Q$ 是正交（酉）矩阵，$R$ 是一个主对角元全大于等于零的上三角矩阵，并且若 $A$ 是可逆矩阵，则这样的分解必唯一

例题8.12和8.78的新证法

---

在内积空间中使用标准正交基可以简化问题的讨论. 例如，因为标准正交基的 $Gram$ 矩阵是单位矩阵 $I_{n}$ ，故通过坐标向量表示内积的 $(9.2)$ 式就变成了列向量空间中的标准内积，这为我们讨论进一步的问题（如保积同构、伴随算子等）提供了方便. 下面的例题推广了例9.4，利用标准正交基可以简化其证明过程

9.14 设 $V$ 是 $n$ 维欧式空间，$A$ 是 $m$ 阶半正定实对称矩阵且 $r(A) = r ≤ n $ ，求证：必存在 $V$ 上的向量组 ${α_{1},α_{2},⋯,α_{m}}$ ，使得其 $Gram$ 矩阵就是 $A$

---

下面三个例题反映了 $Gram-Schmidt$ 正交加方法对向量组的 $Gram$ 矩阵的影响

9.15 证明：若有 $Gram-Schmidt$ 方法将线性无关的向量组 $u_{1},u_{2},⋯,u_{m}$ 变成正交向量组 $v_{1},v_{2},⋯,v_{m}$ ，则这两组向量的 $Gram$ 矩阵的行列式值不变，即

$$ |G(u_{1},u_{2},⋯,u_{m})| = |G(v_{1},v_{2},⋯,v_{m})| = ||v_{1}||^{2} ||v_{2}||^{2} ⋯ ||v_{m}||^{2} $$

9.16 证明下列不等式：

$$ 0 ≤ |G(u_{1},u_{2},⋯,u_{m})| ≤ ||v_{1}||^{2} ||v_{2}||^{2} ⋯ ||v_{m}||^{2} $$

后一个等号成立的充要条件是 $u_{i}$ 两两正交或者某个 $u_{i} = 0$

9.17 设 $A = (a_{ij})$ 是 $n$ 阶实矩阵，证明：下列 $Hadamard$ 不等式：

$$ |A|^{2} ≤ \mathop{∏}\limits_{j=1}^{n} \mathop{∑}\limits_{i=1}^{n} |a_{ij}|^{2} $$

---

有限维内积空间 $V$ 是任一子空间 $U$ 与其正交补空间 $U^{⊥}$ 的正交直和，因此我们经常利用正交补空间配合数学归纳法证明关于内积空间以及线性算子的某些重要命题. 关于正交补空间的验证，常常利用有限维空间的维数关系，它可以使证明更加简洁. 我们先来看正交补空间性质的两道例题

9.18 设 $U_{1},U_{2},U$ 是 $n$ 维内积空间 $V$ 的子空间，求证：

（1） $ (U^{⊥})^{⊥} = U $;

（2）$ (U_{1} + U_{2})^{⊥} = U_{1}^{⊥} ∩ U_{2}^{⊥} $;

（3）$ (U_{1} ∩ U_{2})^{⊥} = U_{1}^{⊥} + U_{2}^{⊥} $;

（4） $ V^{⊥} = 0, 0^{⊥} = V $;

9.19 设 $S$ 是 $n$ 维内积空间 $V$ 的子集，证明：

（1）$S^{⊥} = {α ∈ V | (α,S) = 0 }$ 是 $V$ 的子空间

（2）$(S^{⊥})^{⊥}$ 等于由 $S$ 生成的子空间

---

下面四个例题是正交补空间的一些应用，其中例9.20和例3.103，例9.21与例3.99之间由密切的联系

9.20 设 $A$ 为 $m × n$ 实矩阵，齐次线性方程组 $Ax=0$ 的解空间为 $U$ ，求 $U^{⊥}$ 适合的线性方程组

9.21 设 $A$ 为 $m × n$ 实矩阵，求证：非齐次线性方程组 $Ax = β$ 的有解的充要条件是向量 $β$ 属于齐次线性方程组 $Ay’ = 0$ 解空间的正交补空间

9.22 设 $V$ 为 $n$ 阶实矩阵全体构成的欧氏空间（取 $Frobenius$ 内积），$V_{1},V_{2}$ 分别为 $n$ 阶实对称矩阵全体和 $n$ 阶实反对称矩阵全体构成的子空间，求证：

$$ V = V_{1} ⟂ V_{2} $$

9.11 证法2