目录
记号约定
| 记号 | 含义 | 例 |
|---|---|---|
| $B_\alpha,\ B_\beta,\ B_1,\ B_2,\ B_\varepsilon$ | 基(下标) | $B_\alpha=\{\alpha_1,\dots,\alpha_n\}$ |
| $\alpha_i,\ \beta_i,\ \varepsilon_i,\ x_i,\ \lambda_i$ | 向量 / 坐标 / 特征值的序号(下标) | $x=\sum k_i\alpha_i$ |
| $W_1,\ W_2,\ V_1,\ V_2$ | 子空间 / 两个空间(下标) | $W_1\cap W_2=\{0\}$ |
| $V^{n},\ V^{m},\ \mathbb{R}^{m\times n}$ | 空间的维数(上标) | $V^{n}$ |
| $a_{ij},\ p_{ij}$ | 矩阵元素(下标) | $A=[a_{ij}]_{m\times n}$ |
| $A^{T},\ A^{-1}$ | 转置 / 逆(上标) | $(AB)^{T}=B^{T}A^{T}$ |
| $t^{2},\ \lvert{\cdot}\rvert^{2}$ | 幂 / 平方(上标) | $P_{2}(t)$ 是下标,$t^{2}$ 是上标 |
第一讲 线性空间
一、线性空间的定义
定义 1(线性空间)
设 $V$ 为非空集合,$F$ 为数域。对 $V$ 中任意两个元素定义加法「$+$」,对 $F$ 中的元素与 $V$ 中的元素定义数乘「$\cdot$」,满足加法与数乘封闭,此外(其中 $\alpha,\beta,\gamma\in V$,$k,l\in F$):
加法的四条规则
| # | 名称 | 式子 |
|---|---|---|
| (1) | 交换律 | $\alpha+\beta=\beta+\alpha$ |
| (2) | 结合律 | $(\alpha+\beta)+\gamma=\alpha+(\beta+\gamma)$ |
| (3) | 存在零元 | $0\in V$,使对一切 $\alpha\in V$,$\alpha+0=\alpha$ |
| (4) | 存在负元 | 对一切 $\alpha\in V$,存在 $\beta\in V$ 使得 $\alpha+\beta=0$ |
数乘的四条规则
| # | 名称 | 式子 |
|---|---|---|
| (5) | 单位元 | $1\alpha=\alpha$ |
| (6) | 数乘结合律 | $\alpha(\beta\gamma)=(\alpha\beta)\gamma$ |
| (7) | 数乘对加法分配 | $(\alpha+\beta)\gamma=\alpha\gamma+\beta\gamma$ |
| (8) | 加法对数乘分配 | $\alpha(\beta+\gamma)=\alpha\beta+\alpha\gamma$ |
称 $(V,F,+,\cdot)$ 为线性空间(简记 $V$ 或 $V(F)$);上述两种运算统称为线性运算。
- $V$ 中的元 $a$ 称为向量(不一定是数组,也可以是矩阵、多项式、函数)。
- $F=R$ 时称实线性空间;$F=C$ 时称复线性空间。
性质 1(线性空间的简单性质)
设 $V$ 是线性空间:
$V$ 的零元是唯一的;
$\alpha$ 的负元 $-\alpha$ 是唯一的;
在 $V$ 中可定义减法运算:$\alpha-\beta=\alpha+(-\beta)$;
任意 $\alpha\in V$,$k\in F$:
$$0\cdot\alpha=0,\qquad (-1)\alpha=-\alpha,\qquad k\cdot 0=0,\qquad \alpha+\beta=0\iff \alpha=-\beta$$
例 1
$\mathbb{R}^{m\times n}$($R$ 上 $m\times n$ 矩阵的全体)与 $\mathbb{C}$(复数全体)均为 $R$ 上的线性空间。
例 2
记 $P_n(t)$ 表示所有次数不超过 $n$ 的实系数多项式及零的全体,按通常的多项式加法和数乘多项式运算,$P_n(t)$ 构成实线性空间。
例 3
记 $C_{[a,b]}$ 表示闭区间 $[a,b]$ 上连续函数的全体,按通常的函数加法和数乘函数运算,$C_{[a,b]}$ 构成实线性空间。
例 4
次数等于 $n$ 关于 $x$ 的所有多项式构成的集合,对上述运算不能构成线性空间。
(零多项式不在该集合中,违反定义 1 的 (3) 存在零元。)
二、线性空间的维数与基
定义 2(线性组合与线性表示)
给定 $V$ 中的向量组 $\{\alpha_1,\alpha_2,\cdots,\alpha_m\}$,称
$$\beta=k_1\alpha_1+k_2\alpha_2+\cdots+k_m\alpha_m,\qquad k_1,k_2,\cdots,k_m\in F$$为该向量组的线性组合(线性表示);称 $\beta$ 是向量组 $\{\alpha_1,\cdots,\alpha_m\}$ 的线性组合。
若存在一组数 $\lambda_1,\lambda_2,\dots,\lambda_m\in F$ 使得 $\beta=\sum_{i=1}^m\lambda_i\alpha_i$,则称 $\beta$ 为向量组 $\{\alpha_1,\dots,\alpha_m\}$ 的线性组合,或称该向量组线性表示 $\beta$。
定义 3(线性相关与线性无关)
设 $\{\alpha_1,\alpha_2,\cdots,\alpha_m\}\;(m\ge1)$ 是线性空间 $V$ 中的向量组:
若存在一组不全为零的数 $k_1,k_2,\cdots,k_m\in F$,使得
$$k_1\alpha_1+k_2\alpha_2+\cdots+k_m\alpha_m=0$$则称向量组 $\{\alpha_1,\alpha_2,\cdots,\alpha_m\}$ 线性相关;
若上式只有 $k_1=k_2=\cdots=k_m=0$ 才成立,则称该向量组线性无关。
性质 2(线性相关性的四条结论)
| # | 结论 |
|---|---|
| ⑴ | $m\ge2$ 时:线性相关 ⟹ 某向量是其余下 $m-1$ 个向量的线性组合 |
| ⑵ | 线性无关组的部分向量组也线性无关 |
| ⑶ | 部分向量组线性相关 ⟹ 整个向量组线性相关 |
| ⑷ | 单个非零向量线性无关;单个零向量线性相关 |
定义 4(基与维数)
设 $\{\alpha_1,\alpha_2,\cdots,\alpha_n\}$ 是线性空间 $V$ 中线性无关的向量组,如果 $\forall\beta\in V$ 都存在 $k_1,k_2,\cdots,k_n\in F$ 使
$$\beta=k_1\alpha_1+k_2\alpha_2+\cdots+k_n\alpha_n$$则称 $\{\alpha_1,\alpha_2,\cdots,\alpha_n\}$ 是 $V$ 的一组基,$n$ 称为 $V$ 的维数,记 $\dim V=n$,$V$ 称为 $n$ 维线性空间。
定理 1(基的个数唯一性)
线性空间中的基不唯一,可有多个基;但基中所含向量的个数唯一(即维数唯一)。
若 $V$ 中存在无穷多个线性无关向量,则称 $V$ 为无穷维线性空间;本课程只研究有限维线性空间。
例 5(各空间的维数)
| 空间 | 维数 |
|---|---|
| $\mathbb{R}^n$ | $n$ |
| $P_n(t)$(次数 $\le n$ 的实多项式) | $n+1$ |
| $\mathbb{R}^{m\times n}$ | $mn$ |
| $P(t)$(所有实多项式) | 无穷维 |
定义 5(坐标)
设 $B=\{\alpha_1,\alpha_2,\cdots,\alpha_n\}$ 是 $V$ 的基,若
$$\beta=x_1\alpha_1+x_2\alpha_2+\cdots+x_n\alpha_n,\qquad x=(x_1,x_2,\cdots,x_n)^T\in F^n$$则称 $x$ 为 $\beta$ 在基 $B$ 下的坐标(向量)。由定义 4,存在唯一的线性表示,故坐标唯一确定。
例 6
在 $R^{2\times2}$ 中求矩阵 $A$ 在基 $B$ 下的坐标。(做法:把 $A$ 用 $B$ 线性表示,比较各分量系数,列方程组求解。)
例 7
取 $P_2(t)$ 的两个基
$$B_1=\{1,t,t^2\},\qquad B_2=\{t+1,t+2,t^2\}$$求 $p(t)=2t^2-t+1$ 在两个基下的坐标。
解 用两个基分别表示 $p(t)$,比较同次项系数:
对 $B_1$($p(t)=x_1+x_2t+x_3t^2$,常数项、一次项、二次项分别为 $1,-1,2$):
$$\begin{cases}x_1=1 \\ x_2=-1 \\ x_3=2\end{cases}$$对 $B_2$($p(t)=x_1(t+1)+x_2(t+2)+x_3t^2$;一次项 $x_1+x_2=-1$,常数项 $x_1+2x_2=1$,二次项 $x_3=2$):
$$\begin{cases}x_1+x_2=-1 \\ x_1+2x_2=1 \\ x_3=2\end{cases} \Longrightarrow x_1=-3,\ x_2=2,\ x_3=2$$答 $p(t)$ 在 $B_1$ 下的坐标为 $(1,-1,2)^T$;在 $B_2$ 下的坐标为 $(-3,2,2)^T$。
三、不同基之间的过渡矩阵
定义 6(基变换矩阵 / 过渡矩阵)
设 $B_\alpha=\{\alpha_1,\alpha_2,\cdots,\alpha_n\}$,$B_\beta=\{\beta_1,\beta_2,\cdots,\beta_n\}$ 是 $V$ 的两个基。由 $B_\beta$ 是基,$\forall j$ 有
$$\beta_j=\sum_{i=1}^{n}p_{ij}\alpha_i,\qquad i,j=1,2,\cdots,n$$记 $P=[p_{ij}]^{n\times n}$,称为基 $B_\alpha$ 到基 $B_\beta$ 的基变换矩阵(过渡矩阵),矩阵形式记作
$$B_\beta=B_\alpha P$$定理 2(坐标变换公式)
设 $\xi\in V$,在 $B_\alpha$ 下的坐标为 $x$,在 $B_\beta$ 下的坐标为 $y$,则
$$\xi=B_\alpha x=B_\beta y\quad\Longrightarrow\quad x=Py\quad\Longrightarrow\quad y=P^{-1}x$$证明 由 $\xi=B_\alpha x=B_\beta y$ 及 $B_\beta=B_\alpha P$,得
$$B_\alpha x=B_\alpha Py\quad\Longrightarrow\quad x=Py\quad\Longrightarrow\quad y=P^{-1}x$$推论 1 设基 $B_\alpha\to B_\beta$ 的变换矩阵为 $P$,则基 $B_\beta\to B_\alpha$ 的变换矩阵为 $P^{-1}$。
定理 3(过渡矩阵必可逆)
基变换矩阵 $P$ 是满秩矩阵(即可逆)。
证明 若 $P$ 不满秩,则齐次方程组 $Px=0$ 有非零解 $x_0\neq0$,即 $Px_0=0$(等价于 $\lvert P\rvert=0$)。 又 $B_\beta=B_\alpha P$,于是 $B_\beta x_0=B_\alpha Px_0=0$;而 $B_\beta$ 是基(列向量线性无关),故 $x_0=0$,与 $x_0\neq0$ 矛盾。故 $P$ 满秩。
推论 2 下列三条等价: ① 方程组 $Px=0$ 有非零解;② $P$ 的列向量线性相关;③ $\lvert P\rvert=0$。
例 8
已知 $\mathbb{R}^3$ 的两个基
$$B_1=\left\{\begin{bmatrix}-1\\1\\1\end{bmatrix},\begin{bmatrix}1\\0\\-1\end{bmatrix},\begin{bmatrix}0\\1\\1\end{bmatrix}\right\},\quad B_2=\left\{\begin{bmatrix}1\\0\\1\end{bmatrix},\begin{bmatrix}0\\0\\1\end{bmatrix},\begin{bmatrix}1\\1\\1\end{bmatrix}\right\}$$求 $B_1\to B_2$ 的过渡矩阵 $P$(即使 $B_2=B_1P$)。
解 由 $B_2=B_1P$ 得 $P=(B_1)^{-1}B_2$。视 $B_1,B_2$ 为 3 阶方阵,对 $\begin{bmatrix}B_1\vdots I_3\end{bmatrix}$ 施行行初等变换求逆:
$$\begin{bmatrix}-1&1&0&1&&\\1&0&1&&1&\\1&-1&1&&&1\end{bmatrix} \ \longrightarrow\ \begin{bmatrix}-1&1&0&1&&\\0&1&1&1&1&\\0&0&1&1&0&1\end{bmatrix}$$于是
$$P=(B_1)^{-1}B_2= \begin{bmatrix}-1&1&-1\\0&1&-1\\1&0&1\end{bmatrix} \begin{bmatrix}1&0&1\\0&0&1\\1&1&1\end{bmatrix} =\begin{bmatrix}-2&-1&-1\\-1&-1&0\\2&1&2\end{bmatrix}$$答 $P=\begin{bmatrix}-2&-1&-1\\-1&-1&0\\2&1&2\end{bmatrix}$。
例 9
取 $P_2(t)$ 的两个基 $B_1=\{1,t,t^2\}$,$B_2=\{t+1,t+2,t^2\}$,求 $B_2\to B_1$ 的过渡矩阵 $P$ 及 $p(t)=2t^2-t+1$ 在 $B_1$ 下的坐标。
解 本例求的是"$B_2\to B_1$“方向,即 $B_1=B_2P$,故
$$P=(B_2)^{-1}B_1=(B_2)^{-1}=\begin{bmatrix}-1&2&0\\1&-1&0\\0&0&1\end{bmatrix}$$又 $p(t)=2t^2-t+1=B_1\begin{bmatrix}1\\-1\\2\end{bmatrix}$,故
$$y=Px=\begin{bmatrix}-1&2&0\\1&-1&0\\0&0&1\end{bmatrix}\begin{bmatrix}1\\-1\\2\end{bmatrix}=\begin{bmatrix}-3\\2\\2\end{bmatrix}$$答 $P=\begin{bmatrix}-1&2&0\\1&-1&0\\0&0&1\end{bmatrix}$。 其中 $x=(1,-1,2)^T$ 是 $p(t)$ 在 $B_1=\{1,t,t^2\}$ 下的坐标,$y=(-3,2,2)^T$ 是它在 $B_2=\{t+1,t+2,t^2\}$ 下的坐标。
例 10
已知 $\mathbb{R}^n$ 的两个基,求"在这两个基下有相同坐标的所有向量”。
解 设 $\xi$ 在两基下坐标都是 $x$,则 $B_\alpha x=B_\beta x$;又 $B_\beta=B_\alpha P$,故
$$B_\alpha x=B_\alpha Px\quad\Longrightarrow\quad (I-P)x=0$$答 所求向量为 $\xi=B_\alpha x$,其中 $x\in N(I-P)$,即 $\xi\in\{B_\alpha x:(I-P)x=0\}$。
四、子空间
定义 7(线性子空间)
设 $V$ 为线性空间,$W$ 是 $V$ 的子集。若 $W$ 中的元按 $V$ 中的运算也构成线性空间,则称 $W$ 为 $V$ 的线性子空间(简称子空间),记 $W\subset V$。
判别法
$$W\neq\varnothing,\quad \forall\alpha,\beta\in W,\ \forall k\in F:\quad \alpha+\beta\in W,\quad k\alpha\in W$$推论 3 ① $\{0\}$ 与 $V$ 是任何 $V$ 的平凡子空间;② $\dim\{0\}=0$;③ $\dim W\le\dim V$。
例 11(两个最重要的子空间)
给定 $A\in\mathbb{R}^{m\times n}$($r=\operatorname{rank}A$):
| 名称 | 定义 | 维数 |
|---|---|---|
| 列空间(值域) | $R(A)=\{y\mid y=Ax,\ x\in\mathbb{R}^n\}$ | $\dim R(A)=\operatorname{rank}A=r$ |
| 零空间(核) | $N(A)=\{x\mid Ax=0\}$ | $\dim N(A)=n-r$ |
其中 $Ax=x_1A_1+x_2A_2+\cdots+x_nA_n$,即 $R(A)$ 是 $A$ 的列向量的线性组合全体。
答 线性方程组 $Ax=0$ 的线性无关解的个数 $=n-\operatorname{rank}A$。
定义 8(张成的子空间)
设 $\{\alpha_1,\alpha_2,\cdots,\alpha_m\}$ 是线性空间 $V$ 的一个向量组,记
$$W=\operatorname{span}\{\alpha_1,\alpha_2,\cdots,\alpha_m\} =\{\alpha=\textstyle\sum_{i=1}^{m}k_i\alpha_i\mid k_1,k_2,\cdots,k_m\in F\}$$则 $W$ 是 $V$ 的子空间,称为由该向量组张成的子空间。
若 $\{\alpha_1,\alpha_2,\cdots,\alpha_r\}$ 是子空间 $W$ 的基,则 $\{\alpha_1,\cdots,\alpha_m\}$ 张成 $W$($r\le m$)。
引理 1(基扩充定理)
设 $\{\alpha_1,\alpha_2,\cdots,\alpha_r\}$ 是 $V$ 中一组线性无关向量,则存在 $V$ 中 $n-r$ 个向量 $\alpha_{r+1},\alpha_{r+2},\cdots,\alpha_n$,使得 $\{\alpha_1,\alpha_2,\cdots,\alpha_n\}$ 构成 $V$ 的基。
证明 若 $r=n$ 则结论显然成立。以下设 $r<n$。
必存在 $\alpha_{r+1}\in V$ 不能由 $\{\alpha_1,\cdots,\alpha_r\}$ 线性表出(否则由定义 3,$\{\alpha_1,\cdots,\alpha_r,\alpha_{r+1}\}$ 线性相关)。从而 $\{\alpha_1,\cdots,\alpha_r,\alpha_{r+1}\}$ 线性无关。
继续上述过程:每次都能再加入一个使线性无关性保持的向量。由于 $V$ 是 $n$ 维的,线性无关向量个数不超过 $n$,故过程必在有限步后终止,得到 $n-r$ 个向量 $\alpha_{r+1},\cdots,\alpha_n$,使 $\{\alpha_1,\cdots,\alpha_n\}$ 线性无关且含 $n$ 个向量,即构成 $V$ 的基。∎
定义 9(交空间与和空间)
设 $W_1,W_2$ 都是 $V$ 的子空间:
| 名称 | 定义 |
|---|---|
| 交空间 | $W_1\cap W_2=\{\xi\in V\mid \xi\in W_1,\ \xi\in W_2\}$ |
| 和空间 | $W_1+W_2=\{\xi\in V\mid \xi=\xi_1+\xi_2,\ \xi_1\in W_1,\ \xi_2\in W_2\}$ |
性质 3(交空间与和空间的性质) ① $W_1\cap W_2$ 是 $V$ 的子空间,且等于两集合在"交"运算下的结果; ② $W_1+W_2$ 是 $V$ 的子空间,但与集合的"并"不同(和空间中可以有 $W_1\cup W_2$ 之外的向量); ③ 若 $W_1=\operatorname{span}\{\alpha_1,\cdots,\alpha_r\}$,$W_2=\operatorname{span}\{\beta_1,\cdots,\beta_s\}$,则
$$W_1+W_2=\operatorname{span}\{\alpha_1,\cdots,\alpha_r,\beta_1,\cdots,\beta_s\}$$定理 4(维数公式)
设 $W_1,W_2$ 是线性空间 $V$ 的子空间,则
$$\dim(W_1\cap W_2)+\dim(W_1+W_2)=\dim W_1+\dim W_2$$证明 设 $\dim W_1=n_1,\ \dim W_2=n_2,\ \dim(W_1\cap W_2)=m$。取 $W_1\cap W_2$ 的一个基
$$B_\xi=\{\xi_1,\xi_2,\cdots,\xi_m\}$$由引理 1(基扩充定理),可将 $B_\xi$ 分别扩充为 $W_1$、$W_2$ 的基:
$$W_1=\operatorname{span}\{\xi_1,\cdots,\xi_m,\alpha_1,\cdots,\alpha_{n_1-m}\}$$$$W_2=\operatorname{span}\{\xi_1,\cdots,\xi_m,\beta_1,\cdots,\beta_{n_2-m}\}$$这两组向量合在一起线性无关(注意:此处不能用维数公式来证,否则循环论证;用基扩充定理的标准结论),于是
$$W_1+W_2=\operatorname{span}\{\xi_1,\cdots,\xi_m,\alpha_1,\cdots,\alpha_{n_1-m},\beta_1,\cdots,\beta_{n_2-m}\}$$从而
$$\dim(W_1+W_2)=m+(n_1-m)+(n_2-m)=n_1+n_2-m=\dim W_1+\dim W_2-\dim(W_1\cap W_2)$$即 $\dim(W_1\cap W_2)+\dim(W_1+W_2)=\dim W_1+\dim W_2$。∎
例 16(和空间的表示不唯一)
设 $W_1,W_2$ 是 $V$ 的子空间,$\forall\xi\in W_1+W_2$ 可表为 $\xi=\xi_1+\xi_2$,$\xi_i\in W_i$,但表示法可能不唯一:
$$0=0+0 \quad\text{也可表为}\quad 0=\left(\begin{bmatrix}1\\0\\0\end{bmatrix}+\begin{bmatrix}0\\1\\1\end{bmatrix}\right)+\left(-\begin{bmatrix}1\\0\\0\end{bmatrix}-\begin{bmatrix}0\\1\\1\end{bmatrix}\right)$$这正是引入"直和"的动机:直和要求分解唯一。
例 13
设 $W_1,W_2$ 是 $R^3$ 中不平行的两个平面。
解 $W_1\cap W_2=L$ 是一条交线,$\dim(W_1\cap W_2)=1$;$W_1+W_2=R^3$,$\dim(W_1+W_2)=3$。 答 $\dim(W_1\cap W_2)+\dim(W_1+W_2)=1+3=2+2=\dim W_1+\dim W_2$ ✓
例 15
设 $R^4$ 中两个子空间
$$W_1=\operatorname{span}\{\alpha_1=[1\ 1\ 0\ 0]^T,\ \alpha_2=[0\ 1\ 1\ 0]^T\},\qquad W_2=\operatorname{span}\{\alpha_3=[0\ 0\ 1\ 1]^T,\ \alpha_4=[1\ 0\ 0\ 1]^T\}$$求 $W_1+W_2$ 与 $W_1\cap W_2$ 的基和维数。
解 采用行初等变换法(矩阵的行初等变换不改变矩阵列向量之间的线性组合关系)。
对 $\begin{bmatrix}\alpha_1&\alpha_2&\alpha_3&\alpha_4\end{bmatrix}$ 施行行初等变换,$\alpha_1,\alpha_2,\alpha_3$ 线性无关,故
$$W_1+W_2=\operatorname{span}\{\alpha_1,\alpha_2,\alpha_3\},\qquad \dim(W_1+W_2)=3$$再设 $\xi=k_1\alpha_1+k_2\alpha_2=k_3\alpha_3+k_4\alpha_4$,比较各分量得
$$k_1=t,\ k_2=-t,\ k_3=-t,\ k_4=t\quad\Longrightarrow\quad \xi=t(\alpha_1-\alpha_2)$$答 $W_1\cap W_2=\operatorname{span}\{\alpha_1-\alpha_2\}$,$\dim(W_1\cap W_2)=1$; $W_1+W_2=\operatorname{span}\{\alpha_1,\alpha_2,\alpha_3\}$,$\dim(W_1+W_2)=3$。
五、子空间的直和
定义 10(直和)
若 $\forall\xi\in W_1+W_2$ 有唯一的分解式
$$\xi=\xi_1+\xi_2,\qquad \xi_i\in W_i\ (i=1,2)$$则称 $W_1+W_2$ 为 $W_1$ 与 $W_2$ 的直接和(直和),记
$$W_1+W_2=W_1\oplus W_2$$定理 5(直和的四个等价条件)
设 $W_1,W_2$ 是 $V$ 的子空间,下列条件等价:
| # | 条件 |
|---|---|
| ① | $W_1\oplus W_2$(直和) |
| ② | $W_1\cap W_2=\{0\}$ |
| ③ | $\dim(W_1+W_2)=\dim W_1+\dim W_2$ |
| ④ | $0=\xi_1+\xi_2\ (\xi_i\in W_i)$ 只有唯一分解式 |
证明
①→② 若 $\xi\in W_1\cap W_2$,则 $\xi\in W_1$ 且 $\xi\in W_2$;又 $-\xi\in W_2$,于是
$$0=0+0=\xi+(-\xi)$$是同一个 $0$ 的两种分解。由分解唯一性得 $\xi=0$,即 $W_1\cap W_2=\{0\}$。
②→③ 由维数公式
$$\dim(W_1+W_2)=\dim W_1+\dim W_2-\dim(W_1\cap W_2)=\dim W_1+\dim W_2$$③→④ 由维数公式知 $\dim(W_1\cap W_2)=0$,故 $W_1\cap W_2=\{0\}$,再由 ①→② 的逆否命题得分解唯一。
④→① 若 $\xi=\xi_1+\xi_2=\eta_1+\eta_2$,则
$$(\xi_1-\eta_1)+(\xi_2-\eta_2)=0$$由 ④,$\xi_1=\eta_1,\ \xi_2=\eta_2$,即分解唯一,故 $W_1\oplus W_2$。∎
定理 6(补空间的存在性)
设 $V_1$ 是 $V$ 的子空间,则必存在子空间 $V_2$ 使得 $V=V_1\oplus V_2$。
证明 设 $\dim V_1=r (1\le r<n)$。由引理 1(基扩充定理),可将 $V_1$ 的一组基扩充为 $V$ 的基:
$$\{\alpha_1,\alpha_2,\cdots,\alpha_r,\alpha_{r+1},\alpha_{r+2},\cdots,\alpha_n\}$$令 $V_2=\operatorname{span}\{\alpha_{r+1},\alpha_{r+2},\cdots,\alpha_n\}$。则 $V_1\cap V_2=\{0\}$(两组基向量互不重叠且合起来线性无关),且
$$V=V_1\oplus V_2,\qquad \dim V=r+(n-r)=\dim V_1+\dim V_2$$故 $V=V_1\oplus V_2$。∎
定义 11(有限多个子空间的交与和)
对 $s$ 个子空间 $W_1,\cdots,W_s$:
$$\sum_{i=1}^{s}W_i=\{\xi\in V\mid \xi=\textstyle\sum_{i=1}^{s}\xi_i,\ \xi_i\in W_i,\ i=1,2,\cdots,s\}$$$$\bigcap_{i=1}^{s}W_i=\{\xi\in V\mid \xi\in W_i,\ i=1,2,\cdots,s\}$$若 $\xi=\xi_1+\xi_2+\cdots+\xi_s\ (\xi_i\in W_i)$ 的表示唯一,则称该和为直和。
例 17
设 $V_1,V_2$ 分别是齐次线性方程组
$$\begin{cases}x_1+x_2+\cdots+x_n=0\end{cases}\qquad \begin{cases}x_1=x_2=\cdots=x_n\end{cases}$$的解空间,试证 $R=V_1\oplus V_2$。
解 由方程组 (1) 的系数矩阵秩为 1,得 $\dim V_1=n-1$; 由方程组 (2) 化阶梯形后系数矩阵秩为 $n-1$,得 $\dim V_2=1$。
再证 $V_1\cap V_2=\{0\}$:联立两方程组,把 (2) 改写为
$$x_1-x_2=0,\ x_2-x_3=0,\ \dots,\ x_{n-1}-x_n=0$$其系数行列式
$$\begin{vmatrix}1&1&\cdots&1\\1&-1&&&\\&1&\ddots&&\\&&\ddots&\ddots&\\&&&1&-1\end{vmatrix} =\begin{vmatrix}1&2&\cdots&n-1&n\\1&0&&&\\&1&0&&\\&&\ddots&\ddots&\\&&&1&0\end{vmatrix}\neq0$$故方程组 (1)+(2) 只有零解,即 $V_1\cap V_2=\{0\}$。
答 $\dim(V_1+V_2)=\dim V_1+\dim V_2=n=\dim R$,且 $V_1\cap V_2=\{0\}$,故 $R=V_1\oplus V_2$。
第二讲 线性变换及其矩阵表示
一、线性变换的定义
定义(变换)
称空间 $V_{1}$ 到空间 $V_{2}$ 上的映射 $f$ 为 $f$ 的变换:按照某种法则 $f$,存在唯一 $\eta=f(\xi)$($\forall\,\xi\in V_{1},\ \eta\in V_{2}$)与之对应,则记为
$$x\xrightarrow{f}y\quad(\text{或}\ (x,y)\xrightarrow{f}z),$$其中 $x$(或 $(x,y)$)是原像,$y$(或 $z$)是像。一元函数 $y=f(x),\ x\in\mathbb{R}=(-\infty,+\infty),\ D\to\mathbb{R}$;二元函数 $z=f(x,y),\ (x,y)\in D$。
定义 1(线性变换)
设 $V_{1}(F),V_{2}(F)$ 为线性空间,若 $V_{1}\to V_{2}$ 的映射 $T$ 满足
$$\forall\,\alpha,\beta\in V_{1},\ k\in F:\qquad T(\alpha+\beta)=T\alpha+T\beta,\qquad T(k\alpha)=kT\alpha,$$则称 $T$ 为 $V_{1}\to V_{2}$ 的线性变换。两式分别称可加性与齐次性;二者等价于保持任意线性组合
$$T\left(\sum_{i=1}^{m}k_{i}\alpha_{i}\right)=\sum_{i=1}^{m}k_{i}T\alpha_{i}.$$性质 1(零与相反数)
$$T0=0,\qquad T(-\alpha)=-T\alpha.$$证明 由 $T(0)=T(0+0)=T0+T0$ 移项得 $T0=0$;$T(-\alpha)=T((-1)\alpha)=-T\alpha$。
性质 2(保持线性组合)
$$T\left(\sum_{i=1}^{m}k_{i}\alpha_{i}\right)=\sum_{i=1}^{m}k_{i}T\alpha_{i}.$$证明(归纳法) $m=1$ 由齐次性;$m=2$ 由可加性与齐次性;$m>2$ 用归纳假设并借助性质 1 拆开末项。 推论:$T(\alpha-\beta)=T\alpha-T\beta$。
性质 3(线性相关保持)
若 $\{\alpha_{1},\alpha_{2},\cdots,\alpha_{m}\}$ 线性相关,则 $\{T\alpha_{1},T\alpha_{2},\cdots,T\alpha_{m}\}$ 也线性相关。
证明 设 $\sum_{i=1}^{m}c_{i}\alpha_{i}=0$($c_{i}$ 不全为 0),则 $\sum c_{i}T\alpha_{i}=T\sum c_{i}\alpha_{i}=T0=0$。
反例 若 $\{\alpha_{1},\alpha_{2},\cdots,\alpha_{m}\}$ 线性无关,$\{T\alpha_{1},T\alpha_{2},\cdots,T\alpha_{m}\}$ 不一定线性无关:零变换 $T=0$、投影 $T(x_{1},x_{2})=(x_{1},0)$ 均为反例。正确说法:无关组线性无关 $\iff$ $T$ 在 $\operatorname{span}\{\alpha_{1},\dots,\alpha_{m}\}$ 上单射。
例 1(微分变换)
例 1 在 $P_{n}(t)$ 中定义 $Tp(t)=\dfrac{d}{dt}p(t),\ \forall\,p(t)\in P_{n}(t)$。
解 由矩阵的运算法则可知 $T$ 是 $P_{n}(t)\to P_{n-1}(t)$ 的线性变换。
答 $T$ 是微分变换:$P_{n}(t)\to P_{n-1}(t)$ 的线性变换;核为常数多项式空间,故不可逆。
例 2(矩阵变换)
例 2 给定 $A\in C^{m\times n}$。
解 令 $T:C^{n}\to C^{m},\ Tx=Ax\in C^{m}$。
答 $T$ 是 $C^{n}\to C^{m}$ 的线性变换(矩阵变换);$m=n$ 时 $T$ 可逆 $\iff A$ 非奇异。
例 3(两个特殊的线性变换)
例 3 单位变换与零变换。
解 $I\alpha=\alpha$,$0\alpha=0$,$(\forall\,\alpha\in V)$。
答 二者都是线性变换;单位变换可逆($I^{-1}=I$),零变换在 $V\neq\{0\}$ 时不可逆。
二、线性变换的矩阵表示
定义(基偶下的矩阵)
设 $B_{\alpha}=\{\alpha_{1},\alpha_{2},\cdots,\alpha_{n}\}$ 是 $V$ 的一个基,$B_{\beta}=\{\beta_{1},\beta_{2},\cdots,\beta_{m}\}$ 是 $V'$ 的一个基。则 $T\alpha_{j}$ 可由 $B_{\beta}$ 唯一线性表出:
$$T\alpha_{j}=\sum_{i=1}^{m}a_{ij}\beta_{i}\qquad (j=1,2,\cdots,n).$$称 $A=[a_{ij}]_{m\times n}$ 为 $T$ 在基偶 $\{B_{\alpha},B_{\beta}\}$ 下的矩阵,记
$$TB_{\alpha}=B_{\beta}A,\qquad TB_{\alpha}=[\,T\alpha_{1}\ \ T\alpha_{2}\ \cdots\ \ T\alpha_{n}\,],\qquad B_{\beta}=[\,\beta_{1}\ \ \beta_{2}\ \cdots\ \beta_{m}\,].$$矩阵的第 $j$ 列是 $T\alpha_{j}$ 在 $B_{\beta}$ 下的坐标列。
特别情形 若 $T$ 是 $V$ 到自身的线性变换,这时取 $B_{\alpha}=B_{\beta}$,则称 $A$ 为 $T$ 在基 $B_{\alpha}$ 下的矩阵(唯一的 $n$ 阶矩阵),此时 $TB_{\alpha}=B_{\alpha}A$。
推论(坐标公式)
设 $\alpha\in V$ 在 $B_{\alpha}$ 下的坐标为 $x$,即 $\alpha=B_{\alpha}x,\ x\in F^{n}$,则
$$T\alpha=T(B_{\alpha}x)=TB_{\alpha}x=B_{\beta}Ax,$$即 $T\alpha=B_{\beta}(Ax)$,即 $T\alpha$ 在 $B_{\beta}$ 下的坐标是 $Ax$(自同态情形:$\xi=B_{\alpha}x\Rightarrow T\xi=B_{\alpha}Ax$)。
例 4(换基求矩阵)
例 4 设 $T$ 是 $\mathbb{R}^{3}$ 的线性变换,
$$Tx=\begin{bmatrix}5&4&2\\4&5&2\\2&2&2\end{bmatrix}x,$$试求 $T$ 在基 $B=\{\alpha_{1},\alpha_{2},\alpha_{3}\}$ 下的矩阵,其中
$$\alpha_{1}=\begin{bmatrix}2\\2\\1\end{bmatrix},\qquad \alpha_{2}=\begin{bmatrix}-1\\1\\0\end{bmatrix},\qquad \alpha_{3}=\begin{bmatrix}-1\\0\\2\end{bmatrix}.$$解 记 $P=[\,P\alpha_{1}\ \ P\alpha_{2}\ \ P\alpha_{3}\,]=\begin{bmatrix}2&-1&-1\\2&1&0\\1&0&2\end{bmatrix}$(即 $\alpha_{1},\alpha_{2},\alpha_{3}$ 在标准基下的坐标,$|P|=9$),$A=\begin{bmatrix}5&4&2\\4&5&2\\2&2&2\end{bmatrix}$ 为 $T$ 在标准基下的矩阵。则
$$TB=[\,T\alpha_{1}\ \ T\alpha_{2}\ \ T\alpha_{3}\,]=[\,P\alpha_{1}\ \ P\alpha_{2}\ \ P\alpha_{3}\,]B=PB .$$而 $TB=AP$,故 $AP=PB$,于是
$$B=P^{-1}AP=\begin{bmatrix}2&-1&-1\\2&1&0\\1&0&2\end{bmatrix}^{-1}\begin{bmatrix}5&4&2\\4&5&2\\2&2&2\end{bmatrix}\begin{bmatrix}2&-1&-1\\2&1&0\\1&0&2\end{bmatrix}=\begin{bmatrix}10&0&0\\0&1&0\\0&0&1\end{bmatrix}.$$答 $T$ 在基 $B$ 下的矩阵为 $\operatorname{diag}\{10,1,1\}$,即 $T\alpha_{1}=10\alpha_{1}$,$T\alpha_{2}=\alpha_{2}$,$T\alpha_{3}=\alpha_{3}$(故 $\alpha_{1}$ 是特征向量,特征值 10)。
三、线性变换与矩阵的对应关系
定理(基偶矩阵与线性变换的唯一对应)
对于线性空间 $V,V'$,基分别为 $B_{\alpha}=\{\alpha_{1},\dots,\alpha_{n}\}$、$B_{\beta}=\{\beta_{1},\dots,\beta_{m}\}$,$A\in F^{m\times n}$ 是给定的矩阵,则存在唯一的线性变换 $T:V\to V'$ 使
$$TB_{\alpha}=B_{\beta}A\qquad\text{且}\qquad \forall x\in F^{n},\quad T(B_{\alpha}x)=B_{\beta}Ax .$$证明
- 构造 $T$:令 $T\alpha_{j}=\sum_{i=1}^{m}a_{ij}\beta_{i}\quad (j=1,2,\cdots,n)$,并按 $T\left(\sum_{j}c_{j}\alpha_{j}\right)=\sum_{j}c_{j}T\alpha_{j}$ 定义 $T$ 对一切 $\alpha\in V$ 的作用(因 $B_{\alpha}$ 是基,定义唯一)。
- 证 $T$ 是线性变换:由 $T$ 的定义知 $T$ 保持线性组合,故 $T(\alpha+\beta)=T\alpha+T\beta$、$T(k\alpha)=kT\alpha$。
- 证 $TB_{\alpha}=B_{\beta}A$:由 $T$ 的定义知 $T\alpha_{j}=\sum_{i=1}^{m}a_{ij}\beta_{i}$,即有 $TB_{\alpha}=B_{\beta}A$(即得 $T$ 的表示矩阵是 $A$)。
- 证唯一性:若还存在线性变换 $\tilde T$ 使 $\tilde TB_{\alpha}=B_{\beta}A$,则对每个 $j$ 有 $\tilde T\alpha_{j}=T\alpha_{j}$;因 $B_{\alpha}$ 是基,$\tilde T$ 与 $T$ 在 $V$ 上处处相等,唯一性得证。
结论 线性变换的特性完全由基偶矩阵刻画,故对线性变换的研究可转为对基偶矩阵的研究。
四、不同基偶下矩阵的关系
定理 1(换基偶:等价)
设 $B_{\alpha},B_{\alpha'}$ 是 $V$ 的两个基,$B_{\beta},B_{\beta'}$ 是 $V'$ 的两个基,设基过渡矩阵为 $P,Q$:
$$B_{\alpha'}=B_{\alpha}P,\qquad B_{\beta'}=B_{\beta}Q .$$在基偶 $\{B_{\alpha},B_{\beta}\}$ 下有 $TB_{\alpha}=B_{\beta}A$;在基偶 $\{B_{\alpha'},B_{\beta'}\}$ 下有 $TB_{\alpha'}=B_{\beta'}B$。因为 $B_{\alpha'}$ 是基($P$ 可逆),故
$$TB_{\alpha'}=T(B_{\alpha}P)=(TB_{\alpha})P=B_{\beta}AP,$$另一方面
$$TB_{\alpha'}=T(B_{\alpha}P)=B_{\beta}AP,\qquad TB_{\alpha'}=B_{\beta'}B=B_{\beta}QB .$$比较($B_{\beta}$ 可逆)得
$$\boxed{AP=QB}\qquad\Longleftrightarrow\qquad \boxed{B=Q^{-1}AP},$$即两个矩阵等价。
定理 2(换基:相似)
设 $T$ 是 $V$ 到自身的线性变换,$B_{\alpha},B_{\alpha'}$ 是 $V$ 的两个基。在基 $B_{\alpha}$ 下矩阵为 $A$($TB_{\alpha}=B_{\alpha}A$);在基 $B_{\alpha'}$ 下矩阵为 $B$($TB_{\alpha'}=B_{\alpha'}B$)。令 $B_{\alpha'}=B_{\alpha}P$,于是
$$B_{\alpha'}B=TB_{\alpha'}=T(B_{\alpha}P)=B_{\alpha}AP\ \Longrightarrow\ PB=AP\ \Longrightarrow\ \boxed{B=P^{-1}AP}.$$即线性空间到自身的线性变换在不同基下的矩阵是相似的;相似 $\Rightarrow$ 等价,但等价 $\nRightarrow$ 相似(同型方阵下等价 $\Leftrightarrow$ 秩相同)。
例 5(换基求矩阵)
例 5 设 $T$ 是 $\mathbb{R}^{3}$ 的线性变换,在基 $\alpha_{1},\alpha_{2},\alpha_{3}$ 下的矩阵为
$$A=\begin{bmatrix}1&2&3\\-1&0&3\\2&1&5\end{bmatrix},$$求 $T$ 在基 $\beta_{1}=\alpha_{1},\ \beta_{2}=\alpha_{1}+\alpha_{2},\ \beta_{3}=\alpha_{1}+\alpha_{2}+\alpha_{3}$ 下的矩阵表示。
解 过渡矩阵 $P$ 的第 $j$ 列是 $\beta_{j}$ 在基 $\{\alpha_{1},\alpha_{2},\alpha_{3}\}$ 下的坐标,且 $B_{\beta}=B_{\alpha}P$,即
$$P=\begin{bmatrix}1&1&1\\0&1&1\\0&0&1\end{bmatrix},\qquad P^{-1}=\begin{bmatrix}1&-1&0\\0&1&-1\\0&0&1\end{bmatrix}.$$由前面的理论知 $B=P^{-1}AP$,于是
$$B=\begin{bmatrix}1&-1&0\\0&1&-1\\0&0&1\end{bmatrix}\begin{bmatrix}1&2&3\\-1&0&3\\2&1&5\end{bmatrix}\begin{bmatrix}1&1&1\\0&1&1\\0&0&1\end{bmatrix}=\begin{bmatrix}2&4&4\\-3&-4&-6\\2&3&8\end{bmatrix}.$$答 $T$ 在基 $\{\beta_{1},\beta_{2},\beta_{3}\}$ 下的矩阵为 $B=\begin{bmatrix}2&4&4\\-3&-4&-6\\2&3&8\end{bmatrix}$。
五、线性变换的核和值域
定义(零空间、值空间、零度、秩)
设 $A$ 是 $T$ 在基偶 $\{B_{\alpha},B_{\beta}\}$ 下的矩阵,即 $TB_{\alpha}=B_{\beta}A$。称
$$N(T)\ \text{为}\ T\ \text{的零空间(核)},\qquad R(T)\ \text{为}\ T\ \text{的值空间(值域)},$$$$N(T)=\{\xi\in V^{n}\mid T\xi=0\},\qquad R(T)=\{\eta\in V^{m}\mid \eta=T\xi,\ \xi\in V^{n}\}=\{\,B_{\beta}y\mid y\in R(A)\,\}.$$类似地定义矩阵的核空间与列空间:
$$N(A)=\{x\mid Ax=0,\ x\in C^{n}\},\qquad R(A)=\{y\mid y=Ax,\ x\in C^{n}\}.$$并定义零度与秩:
$$\operatorname{null}T=\dim N(T),\qquad \operatorname{rank}T=\dim R(T).$$定理(秩–零度公式)
设 $T:V^{n}\to V^{m}$,$A$ 是其在基偶 $\{B_{\alpha},B_{\beta}\}$ 下的矩阵,则
$$\operatorname{null}T=\dim N(T)=\dim N(A)=n-\operatorname{rank}A,$$$$\operatorname{rank}T=\dim R(T)=\dim R(A)=\operatorname{rank}A,$$$$\operatorname{null}T+\operatorname{rank}T=n .$$证明(借助同构)
- 因 $N(A)$ 中的向量线性无关,故 $N(A)$ 与 $N(T)$ 是一一对应的;进而可以验证二者是同构的,于是 $\operatorname{null}(T)=\dim N(T)=\dim N(A)=n-\operatorname{rank}A$。
- 因 $R(T)=\{\,\eta\mid \eta=T\alpha\,\}=\{\,B_{\beta}y\mid y\in R(A)\,\}$,由此容易验证 $R(A)$ 与 $R(T)$ 同构,于是 $\operatorname{rank}(T)=\dim R(T)=\dim R(A)=\operatorname{rank}A$。
- 注:因为存在同构关系,$N(A)$ 的基与 $N(T)$ 的基、$R(T)$ 的基与 $R(A)$ 的基分别一一对应。
求 $N(T)$、$R(T)$ 的基的一般步骤
- 零空间:设 $T$ 是 $V^{n}\to V^{m}$ 的线性变换,$V^{n},V^{m}$ 的基分别是 $B_{\alpha},B_{\beta}$;① 求出在基偶 $\{B_{\alpha},B_{\beta}\}$ 下的矩阵 $A$;② 求 $Ax=0$ 的基础解系 $\{x_{1},x_{2},\cdots,x_{n-r}\}$;③ 零空间 $N(T)$ 的基为 $\{B_{\alpha}x_{1},B_{\alpha}x_{2},\cdots,B_{\alpha}x_{n-r}\}$。
- 值空间:① 求出在基偶 $\{B_{\alpha},B_{\beta}\}$ 下的矩阵 $A$;② 利用除列交换外的初等列变换将 $A$ 化为非零列最少的形式;③ 设非零列对应的列号为 $i_{1},i_{2},\cdots,i_{r}$,则 $R(T)$ 的基为 $\{T\alpha_{i_{1}},T\alpha_{i_{2}},\cdots,T\alpha_{i_{r}}\}$(等价地 $\{B_{\beta}A_{i_{1}},B_{\beta}A_{i_{2}},\cdots,B_{\beta}A_{i_{r}}\}$,其中 $A_{i_{1}},\dots,A_{i_{r}}$ 是 $A$ 的极大无关列)。
性质 4(核与值域在 $T$ 下不变)
$$TN(T)\subset N(T),\qquad TR(T)\subset R(T).$$证明
- $\forall\xi\in N(T),\ T\xi=0\Rightarrow T(T\xi)=0\Rightarrow T\xi\in N(T)$;
- $\forall\eta\in R(T),\ \eta=T\xi,\ \xi\in V\Rightarrow T\eta=T(T\xi),\ T\xi\in V\Rightarrow T\eta\in R(T)$。
例 6(求核和值域)
例 6 设 $T$ 是实线性空间 $V^{3}$ 的线性变换,$B=\{\alpha_{1},\alpha_{2},\alpha_{3}\}$ 是 $V^{3}$ 的基,$T$ 在基 $B$ 下的矩阵为
$$A=\begin{pmatrix}1&2&3\\-1&0&2\\2&6&11\end{pmatrix},$$试求 $T$ 的核 $N(T)$ 和值域 $R(T)$。
解 对 $A$ 作初等行变换:
$$A=\begin{pmatrix}1&2&3\\-1&0&2\\2&6&11\end{pmatrix}\xrightarrow{R_{2}+R_{1},\ R_{3}-2R_{1}}\begin{pmatrix}1&2&3\\0&2&5\\0&2&5\end{pmatrix}\xrightarrow{R_{3}-R_{2}}\begin{pmatrix}1&2&3\\0&2&5\\0&0&0\end{pmatrix}.$$故 $r(A)=2$。解 $Ax=0$:$2x_{2}+5x_{3}=0,\ x_{1}+2x_{2}+3x_{3}=0$,取 $x_{3}=2$ 得基础解系 $x=(4,-5,2)^{T}$,故 $N(A)=\operatorname{span}\{(4,-5,2)^{T}\}$;$A$ 的极大无关列为第 1、2 列,故 $R(A)=\operatorname{span}\{(1,-1,2)^{T},(2,0,6)^{T}\}$。
答 $N(T)=\{\,B_{\alpha}x\mid x\in N(A)\,\}=\operatorname{span}\{(4,-5,2)^{T}\}$(坐标形式,$\dim N(T)=1$);$R(T)=\{\,B_{\beta}y\mid y\in R(A)\,\}=\operatorname{span}\{(1,-1,2)^{T},(2,0,6)^{T}\}$($\dim R(T)=2$);且 $\operatorname{null}T=1,\ \operatorname{rank}T=2,\ \operatorname{null}T+\operatorname{rank}T=3$。
六、不变子空间
定义 2(不变子空间)
设 $T\in L(V)$,$W$ 是 $V$ 的子空间,若 $\forall\xi\in W$ 有 $T\xi\in W$,则称 $W$ 是 $T$ 的不变子空间,记为 $TW\subset W$。
例 7(核与值域是不变子空间)
例 7 设 $T\in L(V)$,记 $T$ 的核与值域分别为 $N(T),R(T)$。
解 由 $TN(T)\subset N(T)$、$TR(T)\subset R(T)$,“显然”。
答 $N(T),R(T)$ 均是 $V$ 的不变子空间。
例 8(不变子空间的判别准则)
例 8 设 $W=\operatorname{span}\{\alpha_{1},\alpha_{2},\cdots,\alpha_{s}\}\ (s\ge1)$ 是 $V$ 的子空间。
证明 ($\Rightarrow$)若 $W$ 不变,则对 $\xi=\sum_{i=1}^{s}k_{i}\alpha_{i}\in W$ 有 $T\xi=\sum_{i=1}^{s}k_{i}T\alpha_{i}\in W$; ($\Leftarrow$)若 $\forall i,\ T\alpha_{i}\in W$,则 $\forall\xi\in W,\ T\xi=\sum k_{i}T\alpha_{i}\in W$,从而 $TW\subset W$; 并且
$$TB_{i}=\{T\alpha_{i_{1}},T\alpha_{i_{2}},\cdots,T\alpha_{i_{n_{i}}}\}\subset\operatorname{span}\{\alpha_{i_{1}},\alpha_{i_{2}},\cdots,\alpha_{i_{n_{i}}}\}=\operatorname{span}\{B_{i}\}.$$答 $W$ 是 $T$ 的不变子空间 $\iff T\alpha_{i}\in W\quad (i=1,2,\cdots,s)$。
定理(分块对角阵的充要条件)
设 $T\in L(V)$,$B_{\alpha}=\{\alpha_{11},\cdots,\alpha_{1n_{1}};\ \alpha_{21},\cdots,\alpha_{2n_{2}};\ \cdots;\ \alpha_{s1},\cdots,\alpha_{sn_{s}}\}$ 是 $V$ 的基,记
$$B_{i}=\{\alpha_{i_{1}},\alpha_{i_{2}},\cdots,\alpha_{i_{n_{i}}}\}\quad (i=1,2,\cdots,s),$$$$W_{i}=\operatorname{span}\{\alpha_{i_{1}},\alpha_{i_{2}},\cdots,\alpha_{i_{n_{i}}}\},$$则 $T$ 在 $B_{\alpha}$ 下的矩阵是分块对角阵
$$A=\operatorname{diag}\{A_{1},A_{2},\cdots,A_{s}\}$$的充要条件是 $W_{1},W_{2},\cdots,W_{s}$ 均是 $T$ 的不变子空间(其中 $A_{i}$ 是 $n_{i}$ 阶方阵)。
证明 $TB_{\alpha}=\{TB_{1},TB_{2},\cdots,TB_{s}\}=\{B_{1},B_{2},\cdots,B_{s}\}\operatorname{diag}\{A_{1},A_{2},\cdots,A_{s}\}=B_{\alpha}A$;而 $TB_{i}=B_{i}A_{i}\subset W_{i}\ (i=1,2,\cdots,s)$,即每个 $W_{i}$ 都在 $T$ 下封闭。
构造 取 $N(T)$ 的一个基并扩充为 $V$ 的一个基,则 $TB_{i}=B_{i}A_{i}$,$T$ 在该基偶下的矩阵为分块对角阵 $\operatorname{diag}\{A_{1},A_{2},\cdots,A_{s}\}$。
推论(对角阵的充要条件)
设 $B_{\alpha}=\{\alpha_{1},\cdots,\alpha_{n}\}$ 是 $V$ 的基,则 $T$ 在 $B_{\alpha}$ 下的矩阵是对角阵
$$A=\operatorname{diag}\{\lambda_{1},\lambda_{2},\cdots,\lambda_{n}\}$$的充要条件是存在数 $\lambda_{1},\lambda_{2},\cdots,\lambda_{n}$ 使得
$$T\alpha_{i}=\lambda_{i}\alpha_{i}\qquad (i=1,2,\cdots,n).$$证明 令 $\xi=B_{\alpha}x$,则 $T\xi=TB_{\alpha}x=B_{\alpha}Ax=B_{\alpha}\lambda x=\lambda\xi$,即 $Ax=\lambda x$;反向由 $TB_{i}=\{T\alpha_{i_{1}},\dots\}\subset\operatorname{span}\{\alpha_{i_{1}},\dots\}$ 逐块得到。
等价说法:$T$ 在 $B_{\alpha}$ 下的矩阵是对角阵的充要条件是 $\operatorname{span}\{\alpha_{1},\cdots,\alpha_{n}\}$(以及各 $\operatorname{span}\{\alpha_{i_{1}},\dots,\alpha_{i_{n_{i}}}\}$)均为 $T$ 的不变子空间;或者说:当且仅当 $T\alpha_{i}=\lambda_{i}\alpha_{i}$(对一切 $i$ 成立)。
例 9(微分变换的不变子空间与矩阵)
例 9 $V^{4}=\operatorname{span}\{e^{x},xe^{x},x^{2}e^{x},e^{2x}\}=\operatorname{span}\{B\}$,$Tp(t)=\dfrac{d}{dt}p(t),\ p(t)\in V^{4}$。求 $T$ 的不变子空间及 $T$ 在基 $B$ 下的矩阵。
解 $T(e^{x})=e^{x}$,$T(xe^{x})=(1+x)e^{x}=e^{x}+xe^{x}$,$T(x^{2}e^{x})=(2x+x^{2})e^{x}=2xe^{x}+x^{2}e^{x}$,$T(e^{2x})=2e^{2x}$。 故 $W_{1}=\operatorname{span}\{e^{x},xe^{x},x^{2}e^{x}\}$ 与 $W_{2}=\operatorname{span}\{e^{2x}\}$ 都是 $T$ 的不变子空间。 又 $TB=[\,T\alpha_{1}\ T\alpha_{2}\ T\alpha_{3}\ T\alpha_{4}\,]$,在基 $B=\{e^{x},xe^{x},x^{2}e^{x},e^{2x}\}$ 下
$$A=\begin{pmatrix}1&1&0&0\\0&1&2&0\\0&0&1&0\\0&0&0&2\end{pmatrix}.$$答 不变子空间 $W_{1}=\operatorname{span}\{e^{x},xe^{x},x^{2}e^{x}\}$、$W_{2}=\operatorname{span}\{e^{2x}\}$;$T$ 在基 $B$ 下的矩阵如上。
七、线性变换的特征值和特征向量
定义 3(特征值与特征向量:矩阵形式)
设 $T\in L(V)$,若存在基 $B_{\alpha}=\{\alpha_{1},\cdots,\alpha_{n}\}$ 使得 $T$ 在 $B_{\alpha}$ 下的矩阵 $A=\operatorname{diag}\{\lambda_{1},\lambda_{2},\cdots,\lambda_{n}\}$ 是对角阵,则称 $\lambda$ 是 $T$ 的特征值,$\alpha_{i}$ 是相应的特征向量;则称 $T$ 可对角化。
定义 4(特征值与特征向量:方程形式)
设 $T\in L(V)$,若存在数 $\lambda$ 及 $\xi\in V\ (\xi\neq0)$ 使得
$$T\xi=\lambda\xi,$$则称 $\lambda$ 是 $T$ 的特征值,$\xi$ 是 $T$ 关于 $\lambda$ 的特征向量。特征向量不唯一(任何非零倍数仍是特征向量;$\xi=0$ 不是特征向量)。定义 3 与定义 4 等价。
证明(特征问题归结为矩阵特征问题)
设 $\lambda$ 是 $T$ 的特征值,$\xi$ 是相应的特征向量,即 $T\xi=\lambda\xi$。记 $\xi=B_{\alpha}x$,则
$$T\xi=TB_{\alpha}x=B_{\alpha}Ax=\lambda\xi=\lambda B_{\alpha}x=B_{\alpha}\lambda x,$$于是
$$Ax=\lambda x .$$即 $\lambda$ 是 $T$ 的特征值 $\iff$ $\lambda$ 是 $A$ 的特征值;$\xi$ 是 $T$ 的特征向量 $\iff$ $x$ 是 $A$ 的对应特征向量,且 $\xi=B_{\alpha}x$。
特征值与特征向量的求解步骤
- 任取 $V$ 的基 $B=\{\alpha_{1},\alpha_{2},\cdots,\alpha_{n}\}$;
- 计算 $T$ 在 $B$ 下的矩阵(方阵)$A$;
- 求出 $A$ 的特征值和对应的特征向量 $x_{1},x_{2},\cdots,x_{k}$;
- $x_{i}$ 就是 $T$ 的(对应 $\lambda_{i}$ 的)特征向量在 $B_{\alpha}$ 下的坐标;由 $\xi=B_{\alpha}x$ 还原出 $T$ 的与 $\lambda_{i}$ 对应的特征向量 $\xi_{i}$。
定理(特征多项式与基的选取无关)
线性变换 $T$ 的特征多项式(也即表示矩阵 $A$ 的特征多项式)为
$$f_T(\lambda)=|\lambda I-A|=\lambda^{n}+b_{1}\lambda^{n-1}+\cdots+b_{n}.$$证明 设 $T$ 是 $V$ 到自身的线性变换,$B_{\alpha},B_{\alpha'}$ 是 $V$ 的两个基,在基 $B_{\alpha}$ 下矩阵为 $A$($TB_{\alpha}=B_{\alpha}A$),在基 $B_{\alpha'}$ 下矩阵为 $B$($TB_{\alpha'}=B_{\alpha'}B$),令 $B=P^{-1}AP$,从而
$$|\lambda I-B|=|\lambda I-P^{-1}AP|=|P^{-1}(\lambda I-A)P|=|\lambda I-A|.$$即特征多项式(从而特征值集合)与基的选取无关。
定理(不同特征值的特征向量)
定理 1 线性变换 $T$ 关于不同特征值的特征向量必线性无关。
定理 2 设 $\lambda_{1},\lambda_{2},\cdots,\lambda_{k}$ 是 $T$ 的不同特征值,$\alpha_{i,1},\alpha_{i,2},\cdots,\alpha_{i,r_{i}}$($i=1,2,\cdots,k$,第 $i$ 组)是由 $T$ 关于 $\lambda_{i}$ 的 $r_{i}$ 个线性无关的特征向量,则向量组
$$\alpha_{1,1},\cdots,\alpha_{1,r_{1}},\ \alpha_{2,1},\cdots,\alpha_{2,r_{2}},\ \cdots,\ \alpha_{k,1},\cdots,\alpha_{k,r_{k}}$$必线性无关。
例 10(特征值与特征向量)
例 10 $P_{2}(t)$ 上的线性变换 $T$ 定义为
$$Tp(t)=p(t)+(t+1)\frac{d}{dt}p(t),\qquad p(t)\in P_{2}(t).$$试求 $T$ 的特征值和特征向量。
解 取 $P_{2}(t)$ 的基 $B=\{1,t,t^{2}\}$,则
$$TB=\{T(1),T(t),T(t^{2})\}=\{1,\ 2t+1,\ 3t+2t^{2}\}=\{1,t,t^{2}\}A=BA,$$$$A=\begin{pmatrix}1&1&0\\0&2&2\\0&0&3\end{pmatrix}.$$关于 $\lambda_{1}=1$ 解 $(A-I_{3})X=0$,$A-I_{3}=\begin{pmatrix}0&1&0\\0&1&2\\0&0&2\end{pmatrix}$,解得 $X_{1}=[\,1\ \ 0\ \ 0\,]$; 关于 $\lambda_{2}=2$ 解 $(A-2I_{3})X=0$,$A-2I_{3}=\begin{pmatrix}-1&1&0\\0&0&2\\0&0&1\end{pmatrix}$,解得 $X_{2}=[\,1\ \ 1\ \ 0\,]$; 关于 $\lambda_{3}=3$ 解 $(A-3I_{3})X=0$,$A-3I_{3}=\begin{pmatrix}-2&1&0\\0&-1&2\\0&0&0\end{pmatrix}$,解得 $X_{3}=[\,1\ \ 2\ \ 1\,]$。
答 特征值 $\lambda_{1}=1,\lambda_{2}=2,\lambda_{3}=3$(均为单根);相应特征向量
$$\xi_{1}=BX_{1}=\{1,t,t^{2}\}\begin{pmatrix}1\\0\\0\end{pmatrix}=1,\qquad \xi_{2}=BX_{2}=\{1,t,t^{2}\}\begin{pmatrix}1\\1\\0\end{pmatrix}=1+t,$$$$\xi_{3}=BX_{3}=\{1,t,t^{2}\}\begin{pmatrix}1\\2\\1\end{pmatrix}=(1+t)^{2}.$$八、线性变换的可对角化定理
定义 5(特征子空间与几何重数)
对于线性变换 $T$ 的特征值 $\lambda$,把 $T$ 的属于 $\lambda$ 的全部特征向量连同零向量组成的集合记为 $V_{\lambda}$。易知 $V_{\lambda}$ 是 $V$ 的一个子空间,且是 $T$ 的不变子空间;称 $V_{\lambda}$ 为 $T$ 关于 $\lambda$ 的特征子空间,$\dim V_{\lambda}$ 称为 $\lambda$ 的几何重数,即 $T$ 关于 $\lambda$ 的线性无关特征向量的最大个数。
定义 6(代数重数)
设 $\lambda_{1},\lambda_{2},\cdots,\lambda_{k}$ 是 $T$ 的所有不同特征值,$T$ 的特征多项式为
$$p_T(\lambda)=\prod_{i=1}^{k}\left(\lambda-\lambda_{i}\right)^{m_{i}},\qquad m_{1}+m_{2}+\cdots+m_{k}=n,$$则称 $m_{i}$ 为 $\lambda_{i}$ 的代数重数。
定义 7(可对角化)
对于 $T\in L(V)$,若存在 $V$ 的一组基,使 $T$ 在该基下的矩阵为对角矩阵,则称 $T$ 是可对角化的。
定理(几何重数不超过代数重数)
对于 $T\in L(V)$,则几何重数不超过代数重数,即
$$\dim V_{\lambda_{i}}=d_{i}\le m_{i}.$$线性变换可对角化定理
设 $\lambda_{1},\cdots,\lambda_{k}$ 是 $T$ 的所有不同特征值,代数重数分别为 $m_{1},\cdots,m_{k}$,则 $T$ 是可对角化的,下列条件之一成立:
- $T$ 有 $n$ 个线性无关的特征向量;
- $\dim V_{\lambda_{i}}=m_{i}$,对每个 $i$ 成立(即几何重数 = 代数重数);
- $V_{\lambda_{1}}\oplus V_{\lambda_{2}}\oplus\cdots\oplus V_{\lambda_{s}}=V^{n}$(各特征子空间的直和为全空间)。
推论
若 $T$ 有 $n$ 个不同特征值,则 $T$ 可对角化。
证明 $n$ 个不同特征值各取一个特征向量,由定理 1(不同特征值的特征向量线性无关)得 $n$ 个线性无关的特征向量。
例 11(可对角化并求基)
例 11 $P_{2}(t)$ 上的线性变换 $Tp(t)=p(t)+(t+1)\dfrac{d}{dt}p(t),\ p(t)\in P_{2}(t)$。试证 $T$ 可对角化,求一个基使得 $T$ 在该基下矩阵为对角阵。
解 取 $B=\{1,t,t^{2}\}$,$TB=\{1,2t+1,3t+2t^{2}\}=\{1,t,t^{2}\}A=BA$,$A=\begin{pmatrix}1&1&0\\0&2&2\\0&0&3\end{pmatrix}$;特征值 $\lambda_{1}=1,\lambda_{2}=2,\lambda_{3}=3$ 均为单根,故 $T$ 可对角化。用过渡矩阵右乘 $A$ 可视为对 $A$ 进行一系列列变换。
- 由例 10,$T$ 关于 $\lambda_{1}=1,\lambda_{2}=2,\lambda_{3}=3$ 的特征向量分别为 $\xi_{1}=1,\ \xi_{2}=1+t,\ \xi_{3}=(1+t)^{2}$;
- 这三个向量线性无关(不同特征值的特征向量线性无关),故可作 $P_{2}(t)$ 的一组基,拼成 $B_{1}=\{\xi_{1},\xi_{2},\xi_{3}\}=\{1,\ 1+t,\ (1+t)^{2}\}$;
- 验证:$T\xi_{1}=T(1)=1=\xi_{1}$,$T\xi_{2}=T(1+t)=1+(1+2t)=2(1+t)=2\xi_{2}$,$T\xi_{3}=T(1+2t+t^{2})=1+2(1+2t)+(2t+3t^{2})=3+6t+3t^{2}=3(1+t)^{2}=3\xi_{3}$;
- 于是 $TB_{1}=B_{1}\operatorname{diag}\{1,2,3\}$,即 $T$ 在基 $B_{1}$ 下的矩阵为对角阵 $\operatorname{diag}\{1,2,3\}$。
答 $B_{1}=\{\xi_{1},\xi_{2},\xi_{3}\}=\{1,\ 1+t,\ (1+t)^{2}\}$ 是 $P_{2}(t)$ 的一个基,且
$$TB_{1}=B_{1}\operatorname{diag}\{1,2,3\},\qquad T\xi_{1}=\xi_{1},\ T\xi_{2}=2\xi_{2},\ T\xi_{3}=3\xi_{3}.$$第三讲 内积空间
一、内积和内积空间
定义 1(内积与内积空间)
设 $V$ 为 $\mathbb{R}$ 上的实线性空间,若 $\langle \alpha,\beta\rangle$ 存在唯一实数与之对应,且满足下述性质:
- ① 正定性:$\langle \alpha,\alpha\rangle \geq 0$,且 $\langle\alpha,\alpha\rangle = 0 \Leftrightarrow \alpha = 0$
- ② 对称性:$\langle \alpha,\beta\rangle = \langle \beta,\alpha\rangle$
- ③ 可加性:$\langle \alpha+\beta,\gamma\rangle = \langle\alpha,\gamma\rangle + \langle\beta,\gamma\rangle$
- ④ 齐次性:$\langle k\alpha,\beta\rangle = k\langle\alpha,\beta\rangle,\ \forall k \in \mathbb{R}$
且 $\langle \alpha,\beta\rangle \in \mathbb{R},\ \forall \alpha,\beta \in V$,则称实数 $\langle\alpha,\beta\rangle$ 为 $\alpha$ 与 $\beta$ 的内积,$V$ 称为**(实)内积空间**(亦称欧氏空间 Euclid 空间)。
性质(内积的简单性质)
① 内积空间的子空间仍是内积空间;
② $\langle \alpha,\beta+\gamma\rangle = \langle\alpha,\beta\rangle + \langle\alpha,\gamma\rangle$;
③(齐次性的求和展开形式)
$$\langle\sum_{i=1}^{n} x_{i}\alpha_{i},\ \sum_{j=1}^{n} y_{j}\beta_{j}\rangle = \sum_{i=1}^{n}\sum_{j=1}^{n} x_{i}y_{j}\langle\alpha_{i},\beta_{j}\rangle$$
(同一式也可把元素序号排为上标:$\langle\sum_{i=1}^{n} x^{i}\alpha^{i},\ \sum_{j=1}^{n} y^{j}\beta^{j}\rangle = \sum_{i=1}^{n}\sum_{j=1}^{n}x^{i}y^{j}\langle\alpha^{i},\beta^{j}\rangle$。)
- ④ $\langle \alpha,k\beta\rangle = k\langle\alpha,\beta\rangle,\ k\in \mathbb{R}$;
- ⑤ $\langle \alpha,0\rangle = \langle0,\alpha\rangle = 0$。
性质(Gram 矩阵表示)
记 $\alpha = \{\alpha_{1},\alpha_{2},\cdots,\alpha_{n}\}$,$x = [x_{1}\ x_{2}\ \cdots\ x_{n}]^{T}$,$y = [y_{1}\ y_{2}\ \cdots\ y_{n}]^{T}$,则
$$\langle \alpha,\beta\rangle = x^{T}G(B_{\alpha})y$$其中
$$G(B_{\alpha}) = \left[ \begin{matrix} \langle\alpha_{1},\alpha_{1}\rangle & \langle\alpha_{1},\alpha_{2}\rangle & \cdots & \langle\alpha_{1},\alpha_{n}\rangle \\ \langle\alpha_{2},\alpha_{1}\rangle & \langle\alpha_{2},\alpha_{2}\rangle & \cdots & \langle\alpha_{2},\alpha_{n}\rangle \\ \vdots & \vdots & \ddots & \vdots \\ \langle\alpha_{n},\alpha_{1}\rangle & \langle\alpha_{n},\alpha_{2}\rangle & \cdots & \langle\alpha_{n},\alpha_{n}\rangle \end{matrix} \right]$$称为基 $B_{\alpha}$ 的度量矩阵或 Gram 矩阵(对称、正定);同一线性空间可以定义多个不同的内积(例 1 与例 2 即在 $\mathbb{R}^{n}$ 上给出两个不同的内积)。
例 1 $\mathbb{R}^{n}$ 上的标准内积
例 1 在 $\mathbb{R}^{n}$ 上定义内积。
解 $\forall x,y \in \mathbb{R}^{n}$,定义 $\langle x,y\rangle = x^{T}y$。(“容易验证 $\langle x,y\rangle = x^{T}y$ 是内积,即 $\mathbb{R}^{n}$ 是欧氏空间”。)
答 $\langle x,y\rangle = x^{T}y$。
例 2 正定矩阵诱导的内积
例 2 给定正定矩阵 $A = [a_{ij}]^{n\times n}$,$\forall x,y \in \mathbb{R}^n$,定义一个内积。
解 令 $\langle x,y\rangle = y^{T}Ax$。(展开式为 $\sum_{i=1}^{n}\sum_{j=1}^{n}x_{i}a_{ij}y_{j}$。)
答 $\langle x,y\rangle = y^{T}Ax = \sum_{i=1}^{n}\sum_{j=1}^{n}x_{i}a_{ij}y_{j}$。
例 3 函数空间上的内积
例 3 在 $C_{[a,b]}$(闭区间 $[a,b]$ 上连续函数全体)上定义内积。
解 $\forall f(x),g(x)\in C_{[a,b]}$,定义 $\langle f,g\rangle = \int_{a}^{b} f(x)g(x)\,dx$。
答 $\langle f,g\rangle = \int_{a}^{b}f(x)g(x)\,dx$。
二、正交
定义 2(长度、单位向量、单位化向量)
设 $V$ 为内积空间,$\forall \alpha \in V$,
$$|\alpha| = \sqrt{\langle\alpha,\alpha\rangle},\qquad |\alpha| \geq 0,\quad |\alpha| = 0 \Leftrightarrow \alpha = 0$$若 $|\alpha| = 1$,称 $\alpha$ 为单位向量;若 $|\alpha| \neq 0$,记 $\dfrac{\alpha}{|\alpha|}$,称为 $\alpha$ 的单位化向量。
性质(长度的三条性质)
- ① 正定性:$|\alpha| \geq 0$,$|\alpha| = 0 \Leftrightarrow \alpha = 0$;
- ② 齐次性:$|k\alpha| = |k|\cdot|\alpha|,\ (\forall k \in \mathbb{R})$;
- ③ 三角不等式:$|\alpha+\beta| \leq |\alpha|+|\beta|$。
(① ② 显然成立,③ 是下述定理 Cauchy-Schwarz 不等式的推论。)
定理(Cauchy-Schwarz 不等式 / 柯西-许瓦兹不等式)
设 $V$ 为欧氏空间,$\forall \alpha,\beta \in V$ 有
$$|\langle\alpha,\beta\rangle| \leq |\alpha|\cdot|\beta|,\qquad \text{且等号成立}\ \iff\ \alpha,\beta \text{ 线性相关}$$证明 设 $\beta \neq 0$,令
$$\xi = \alpha - \frac{\langle\alpha,\beta\rangle}{|\beta|^{2}}\beta$$则
$$\langle\xi,\beta\rangle = \left\langle \alpha - \frac{\langle\alpha,\beta\rangle}{|\beta|^{2}}\beta,\ \beta\right\rangle = \langle\alpha,\beta\rangle - \langle\alpha,\beta\rangle = 0$$于是
$$0 \leq \langle\xi,\xi\rangle = \left\langle \xi,\ \alpha - \frac{\langle\alpha,\beta\rangle}{|\beta|^{2}}\beta\right\rangle = \langle\xi,\alpha\rangle = \left\langle \alpha - \frac{\langle\alpha,\beta\rangle}{|\beta|^{2}}\beta,\ \alpha\right\rangle = |\alpha|^{2} - \frac{|\langle\alpha,\beta\rangle|^{2}}{|\beta|^{2}}$$$\therefore\ |\langle\alpha,\beta\rangle| \leq |\alpha|\cdot|\beta|$。
若等号成立,则 $\xi = \alpha - \frac{\langle\alpha,\beta\rangle}{|\beta|^{2}}\beta = 0$,即 $\alpha,\beta$ 线性相关;反之若 $\alpha,\beta$ 线性相关,等号显然成立。$\blacksquare$
应用
- 在 $\mathbb{R}^{n}$ 中:$\left| \sum_{i=1}^{n} x_{i}y_{i} \right| \leq \sqrt{\sum_{i=1}^{n} x_{i}^{2}}\cdot\sqrt{\sum_{i=1}^{n} y_{i}^{2}}$
- 在 $C_{[a,b]}$ 中:$\left| \int_{a}^{b} f(x)g(x)dx \right| \leq \sqrt{\int_{a}^{b} f^{2}(x)dx}\cdot\sqrt{\int_{a}^{b} g^{2}(x)dx}$
定理(三角不等式)
设 $V$ 为欧氏空间,$\forall \alpha,\beta \in V,\ \alpha\neq0,\ \beta\neq0$ 有 $|\alpha+\beta| \leq |\alpha| + |\beta|$。
证明
$$|\alpha+\beta|^{2} = \langle\alpha+\beta,\alpha+\beta\rangle = \langle\alpha,\alpha\rangle + 2\langle\alpha,\beta\rangle + \langle\beta,\beta\rangle \leq |\alpha|^{2} + 2|\alpha|\cdot|\beta| + |\beta|^{2} = (|\alpha|+|\beta|)^{2}$$$\therefore\ |\alpha+\beta| \leq |\alpha|+|\beta|$。$\blacksquare$
推论(等号成立的条件)
设 $V$ 为欧氏空间,$\forall \alpha,\beta \in V$:
- 若 $\alpha \perp \beta$,则 $\langle\alpha,\beta\rangle = 0$,从而 $|\alpha+\beta|^{2} = \langle\alpha,\alpha\rangle + 2\langle\alpha,\beta\rangle + \langle\beta,\beta\rangle = |\alpha|^{2}+|\beta|^{2}$;
- 三角不等式取等号 $\ |\alpha+\beta| = |\alpha|+|\beta|\ \iff\ \alpha,\beta$ 同向(非负数倍)。
定义 3(夹角)
设 $\alpha,\beta$ 为欧氏空间中两非零向量,若 $\cos\theta = \dfrac{\langle\alpha,\beta\rangle}{|\alpha|\cdot|\beta|}$,则称 $\theta$ 为 $\alpha$ 与 $\beta$ 的夹角。
若 $\langle\alpha,\beta\rangle = 0$,即 $\cos\theta = 0$,$\theta = \pi/2$,则称 $\alpha,\beta$ 相互正交,记为 $\alpha \perp \beta$。
定理(勾股定理)
若 $\alpha \perp \beta$,则 $|\alpha+\beta|^{2} = |\alpha|^{2}+|\beta|^{2}$。
定义 4(正交向量组)
若非零向量 $\alpha_{1},\alpha_{2},\cdots,\alpha_{m}$ 两两正交,即 $\langle \alpha_{i},\alpha_{j}\rangle = 0,\quad i \neq j,\ \forall i,j = 1,2,\cdots,m$,则称 $\{\alpha_{1},\alpha_{2},\cdots,\alpha_{m}\}$ 为正交向量组。
定理(正交向量组必线性无关)
若 $\{\alpha_{1},\alpha_{2},\cdots,\alpha_{m}\}$ 是正交向量组,则 $\{\alpha_{1},\alpha_{2},\cdots,\alpha_{m}\}$ 必线性无关。
证明 设 $k_{1}\alpha_{1}+k_{2}\alpha_{2}+\cdots+k_{m}\alpha_{m} = 0$,则对每个 $i$ 取内积:
$$0 = \left\langle \alpha_{i},\ \sum_{j=1}^{m}k_{j}\alpha_{j}\right\rangle = \sum_{j=1}^{m} k_{j}\langle\alpha_{i},\alpha_{j}\rangle = k_{i}|\alpha_{i}|^{2}$$故 $k_{i} = 0\ (i=1,\cdots,m)$,故线性无关。$\blacksquare$
定义 5(正交基与标准正交基)
在欧氏空间 $V$ 中,若 $B_{\alpha} = \{\alpha_{1},\alpha_{2},\cdots,\alpha_{n}\}$ 是正交向量组,则称 $B_{\alpha}$ 为 $V$ 的正交基;又若 $\{\alpha_{1},\alpha_{2},\cdots,\alpha_{n}\}$ 均为单位向量,则称 $B_{\alpha}$ 为标准正交基,即
$$\langle\alpha_{i},\alpha_{j}\rangle = \begin{cases} 0, & i \neq j\\ 1, & i = j\end{cases}\quad (i,j = 1,2,\cdots,n)$$判别准则(标准正交基的 Gram 判据)
基 $B_{\alpha}$ 为标准正交基 $\iff$ 其 Gram 矩阵为单位阵:$G(B_{\alpha}) = [\langle\alpha_{i},\alpha_{j}\rangle]_{n\times n} = I_{n}$($G(B_{\alpha})$ 的展开式见"一、内积和内积空间"的 Gram 矩阵表示)。
定理(标准正交基的存在性)
欧氏空间 $V$ 必存在标准正交基。
证明 任取 $V$ 的一个基 $B_{\beta}=\{\beta_{1},\beta_{2},\cdots,\beta_{n}\}$(推导中以 $\alpha_{i}$ 表示原基向量),令
$$\varepsilon_{1} = \frac{\beta_{1}}{|\beta_{1}|} = \frac{\alpha_{1}}{|\alpha_{1}|},\qquad \beta_{1} = \alpha_{1},\qquad \beta_{2} = \alpha_{2} - \langle\alpha_{2},\varepsilon_{1}\rangle\varepsilon_{1},\qquad \cdots,\qquad \beta_{m} = \alpha_{m} - \sum_{j=1}^{m-1}\langle\alpha_{m},\varepsilon_{j}\rangle\varepsilon_{j},\qquad \varepsilon_{m} = \frac{\beta_{m}}{|\beta_{m}|}\ (m=2,3,\cdots,n)$$则 $\{\varepsilon_{1},\varepsilon_{2},\cdots,\varepsilon_{n}\}$ 构成 $V$ 的标准正交基。(此处记号 $\alpha,\beta$ 混用,具体过程见下条 Schmidt 标准正交化法。)
方法(Schmidt 标准正交化法)
由普通基 $\{\alpha_{1},\alpha_{2},\cdots,\alpha_{n}\}$ 出发构造标准正交基的方法称为 Schmidt 标准正交化法:
$$\beta_{1} = \alpha_{1},\qquad \beta_{k} = \alpha_{k} - \sum_{j=1}^{k-1}\langle\alpha_{k},\varepsilon_{j}\rangle\varepsilon_{j}\ (k = 2,3,\cdots,n),\qquad \varepsilon_{k} = \frac{\beta_{k}}{|\beta_{k}|}\ (k = 1,2,\cdots,n)$$同时给出反解(把 $\alpha_{k}$ 用 $\beta,\varepsilon$ 表出):$\alpha_{1} = \beta_{1},\qquad \alpha_{k} = \beta_{k} + \sum_{j=1}^{k-1}\frac{\langle\alpha_{k},\varepsilon_{j}\rangle}{|\beta_{j}|}\,\beta_{j},\quad (k=2,3,\cdots,n)$。⚠️ 分母是 $|\beta_{j}|$,不是 $|\beta_{k}|$。(同一式也可把元素序号排为上标:$\alpha^{k}=\beta^{k}+\sum_{j=1}^{k-1}\frac{\langle\alpha^{k},\varepsilon^{j}\rangle}{|\beta^{j}|}\beta^{j}$,指同一公式。)
由 $\beta_{k} = \alpha_{k} - \sum_{j=1}^{k-1}\langle\alpha_{k},\varepsilon_{j}\rangle\varepsilon_{j}$ 反解得 $\begin{matrix} \alpha_{1} = \beta_{1} \\ \alpha_{k} = \beta_{k} + \sum_{j=1}^{k-1}\frac{\langle\alpha_{k},\varepsilon_{j}\rangle}{|\beta_{j}|}\beta_{j}, (k=2,3,\cdots,n) \end{matrix}$(⚠️ 分母是 $|\beta_{j}|$,不是 $|\beta_{k}|$),于是
$$\{\alpha_{1},\alpha_{2},\cdots,\alpha_{n}\} = \{\beta_{1},\beta_{2},\cdots,\beta_{n}\}\left[ \begin{matrix} 1 & \frac{\langle\alpha_{2},\varepsilon_{1}\rangle}{|\beta_{1}|} & \cdots & \frac{\langle\alpha_{n},\varepsilon_{1}\rangle}{|\beta_{1}|} \\ & 1 & \ddots & \vdots \\ & & \ddots & \frac{\langle\alpha_{n},\varepsilon_{n-1}\rangle}{|\beta_{n-1}|} \\ & & & 1 \end{matrix} \right]$$以及
$$\{\alpha_{1},\alpha_{2},\cdots,\alpha_{n}\} = \{\varepsilon_{1},\varepsilon_{2},\cdots,\varepsilon_{n}\}\left[ \begin{matrix} |\beta_{1}| & \langle\alpha_{2},\varepsilon_{1}\rangle & \cdots & \langle\alpha_{n},\varepsilon_{1}\rangle \\ & |\beta_{2}| & \ddots & \vdots \\ & & \ddots & \langle\alpha_{n},\varepsilon_{n-1}\rangle \\ & & & |\beta_{n}| \end{matrix} \right]$$$\therefore\ B_{\alpha} = B_{\varepsilon}R,\quad$($R$ 为上三角阵)。
结论(五条) 设 $B_{\alpha} = \{\alpha_{1},\alpha_{2},\cdots,\alpha_{n}\}$ 为 $V$ 的基,用 Schmidt 标准正交化方法可求得标准正交基 $B_{\varepsilon} = \{\varepsilon_{1},\varepsilon_{2},\cdots,\varepsilon_{n}\}$:
- 张成空间逐级相同:$span\{\alpha_{1},\cdots,\alpha_{k}\} = span\{\varepsilon_{1},\cdots,\varepsilon_{k}\},\ (k=1,2,\cdots,n)$;
- 基变换矩阵上三角:$B_{\alpha} = B_{\varepsilon}R,\ (R$ 为上三角阵$)$;
- $B_{\varepsilon}$ 是标准正交基;
- 化简坐标计算:$\forall \alpha = B_{\varepsilon}x \in V\ (x \in \mathbb{R})$,$\langle\alpha,\varepsilon_{i}\rangle = \langle B_{\varepsilon}x,\ \varepsilon_{i}\rangle = \sum_{j=1}^{n}x_{j}\langle\varepsilon_{j},\varepsilon_{i}\rangle = x_{i}\langle\varepsilon_{i},\varepsilon_{i}\rangle = x_{i}$;
- 内积化为自然内积:$\forall \alpha = B_{\varepsilon}x \in V,\ \beta = B_{\varepsilon}y \in V\ (x,y \in \mathbb{R})$,$\langle\alpha,\beta\rangle = \langle B_{\varepsilon}x,\ B_{\varepsilon}y\rangle = \sum_{i=1}^{n}\sum_{j=1}^{n}x_{i}y_{j}\langle\varepsilon_{i},\varepsilon_{j}\rangle = x^{T}y$(同构关系 $\alpha \leftrightarrow x$ 在标准正交基下保持内积不变,称 $x^{T}y$ 为自然内积)。
例 4 在 $\mathbb{R}^{4}$ 中求一单位向量与下列三个向量都正交
例 4 在 $\mathbb{R}^{4}$ 中求一个单位向量,使其与下列三个向量都正交:
$$v_{1} = (1,1,-1,1)^{T},\qquad v_{2} = (1,-1,-1,1)^{T},\qquad v_{3} = (2,1,1,3)^{T}$$解 设所求向量为 $x = (x_{1},x_{2},x_{3},x_{4})^{T}$,正交条件为
$$\begin{cases} x_{1}+x_{2}-x_{3}+x_{4}=0\\ x_{1}-x_{2}-x_{3}+x_{4}=0\\ 2x_{1}+x_{2}+x_{3}+3x_{4}=0\end{cases}$$由前两式相减得 $x_{2}=0$;由前两式相加得 $x_{1}-x_{3}+x_{4}=0$;代入第三式得 $3x_{3}+x_{4}=0$,故 $x_{4}=-3x_{3}$、$x_{1}=4x_{3}$。于是 $x = k(4,0,1,-3)^{T}$,$k$ 为任意非零实数($k=0$ 时 $x=0$,不是单位向量)。再单位化:$|x| = |k|\sqrt{26}$。
答 所求单位向量为 $\pm\dfrac{1}{\sqrt{26}}(4,0,1,-3)^{T}$。
例 5 用 Schmidt 标准正交化方法求 $\mathbb{R}^{3}$ 的标准正交基
例 5 设 $\mathbb{R}^{3}$ 的基是
$$B_{\alpha} = \left\{\ \alpha_{1} = \begin{bmatrix} 0\\0\\2 \end{bmatrix},\quad \alpha_{2} = \begin{bmatrix} 4\\3\\1 \end{bmatrix},\quad \alpha_{3} = \begin{bmatrix} 2\\1\\-2 \end{bmatrix}\ \right\}$$用 Schmidt 标准正交化方法求 $\mathbb{R}^{3}$ 的标准正交基。
解
- $\beta_{1} = \alpha_{1} = [0\ 0\ 2]$,$\varepsilon_{1} = \dfrac{\alpha_{1}}{|\alpha_{1}|} = [0\ 0\ 1]$;
- $\beta_{2} = \alpha_{2} - \langle\alpha_{2},\varepsilon_{1}\rangle\varepsilon_{1} = \alpha_{2} - \varepsilon_{1} = [4\ 3\ 0]$,$\varepsilon_{2} = \dfrac{\beta_{2}}{|\beta_{2}|} = \left[\frac{4}{5}\ \frac{3}{5}\ 0\right]$;
- $\beta_{3} = \alpha_{3} - \langle\alpha_{3},\varepsilon_{1}\rangle\varepsilon_{1} - \langle\alpha_{3},\varepsilon_{2}\rangle\varepsilon_{2} = \left[\frac{6}{25}\ -\frac{8}{25}\ 0\right]$,$\varepsilon_{3} = \dfrac{\beta_{3}}{|\beta_{3}|} = \left[\frac{3}{5}\ -\frac{4}{5}\ 0\right]$。
答 求得标准正交基为
$$B_{\varepsilon} = \left\{\ \varepsilon_{1} = \begin{bmatrix} 0\\0\\1 \end{bmatrix},\quad \varepsilon_{2} = \begin{bmatrix} 4/5\\3/5\\0 \end{bmatrix},\quad \varepsilon_{3} = \begin{bmatrix} 3/5\\-4/5\\0 \end{bmatrix}\ \right\}$$三、子空间的正交
定义 6(子空间正交)
设 $W_{1},W_{2}$ 都是欧氏空间的子空间,若 $\forall \alpha \in W_{1},\ \forall \beta \in W_{2},\ \langle\alpha,\beta\rangle = 0\ \ (\text{即 } \alpha \perp \beta)$,则称 $W_{1},W_{2}$ 相互正交,记为 $W_{1} \perp W_{2}$。
提醒:在 $\mathbb{R}^{3}$ 中,两平面 $W_{1},W_{2}$ 相互垂直,不代表其中一个平面内的任一向量与另一个平面内的任一向量都正交——垂直平面指的是法向量互相正交;平面内的向量只有在"该平面 $\perp$ 另一个平面"(按定义 6 的代数意义正交)时才互相正交。
定理(正交子空间必直和)
若 $W_{1} \perp W_{2}$,则 $W_{1}\cap W_{2} = \{0\}\ \Longrightarrow\ W_{1}+W_{2} = W_{1}\oplus W_{2}$。
证明 设 $\xi \in W_{1}\cap W_{2}$。因 $W_{1}\perp W_{2}$,故 $\langle\xi,\xi\rangle = 0$,故 $\xi = 0$,从而 $W_{1}\cap W_{2} = \{0\}$,于是 $W_{1}+W_{2} = W_{1}\oplus W_{2}$。$\blacksquare$
定义 7(正交补与正交直和分解)
设 $W_{1},W_{2}$ 都是欧氏空间 $V$ 的子空间,若 $V = W_{1}\oplus W_{2},\qquad W_{1}\perp W_{2}$,则称 $W_{1},W_{2}$ 互为正交补,记为 $W_{1} = W_{2}^{\perp},\qquad W_{2} = W_{1}^{\perp}$,称 $V = W_{1}\oplus W_{1}^{\perp} = W_{2}\oplus W_{2}^{\perp}$ 为 $V$ 的正交直和分解。
定理(正交补的存在唯一性)
欧氏空间 $V^{n}$ 的任一子空间 $W$ 都有唯一正交补。
证明
- 存在性:设 $\dim W = r \geq 0$($r=0$ 时 $W=\{0\}$、$W^{\perp}=V$,结论同样成立),取 $\{\varepsilon_{1},\varepsilon_{2},\cdots,\varepsilon_{r}\}$ 为 $W$ 的标准正交基,将其扩充为 $V^{n}$ 的标准正交基 $\{\varepsilon_{1},\cdots,\varepsilon_{r},\ \varepsilon_{r+1},\cdots,\varepsilon_{n}\}$,令 $W^{\perp} = span\{\varepsilon_{r+1},\cdots,\varepsilon_{n}\}$,则 $V = W\oplus W^{\perp}$ 且 $W \perp W^{\perp}$,即 $W$ 的正交补存在。
- 唯一性:设 $W_{1}^{\perp},W_{2}^{\perp}$ 都是 $W$ 的正交补,即 $V^{n} = W\oplus W_{1}^{\perp} = W\oplus W_{2}^{\perp}$。对任意 $\xi \in W_{2}^{\perp}\subset W\oplus W_{1}^{\perp}$,因 $W_{2}^{\perp}\perp W$,故 $\xi \perp W$,即 $\langle\alpha,\varepsilon_{i}\rangle = \langle B_{\varepsilon}x,\ \varepsilon_{i}\rangle = 0\ \Rightarrow\ W_{2}^{\perp}\subset W_{1}^{\perp}$;同理 $W_{1}^{\perp}\subset W_{2}^{\perp}$,故 $W_{1}^{\perp}=W_{2}^{\perp}$,唯一性得证。$\blacksquare$
例($\mathbb{R}^{3}$ 中两平面相互垂直)
例 在 $\mathbb{R}^{3}$ 中,两平面 $W_{1},W_{2}$ 相互垂直的含义是什么?若直线 $L$ 垂直平面 $W_{1}$,是否有 $L \perp W_{1}$?是否总存在 $W_{2}\perp W_{1}$?
解 两平面 $W_{1},W_{2}$ 都是欧氏空间($\mathbb{R}^{3}$)的子空间,$\alpha\in W_{1}$,$\beta\in W_{2}$。两平面相互垂直指其法向量互相正交;这与定义 6 的 $W_{1}\perp W_{2}$(一个平面内的任一向量与另一个平面内的任一向量都正交)不是一回事。直线 $L$ 垂直平面 $W_{1}$ 时,$L$ 的方向向量与 $W_{1}$ 中任一向量正交,故 $L\perp W_{1}$。
答 由定义 6、定义 7 与正交补存在唯一性定理:与 $W_{1}$ 正交的 $W_{2}$ 存在且唯一(即 $W_{1}$ 的唯一正交补)。
例 5 固定向量 $\alpha$ 的正交补空间:子空间性与维数
(本例与上一例同编号"例 5"。)
例 5 设 $\alpha$ 是欧氏空间 $V$ 中的一个非零固定向量($\alpha \neq 0$),求证:1) $W = \{\beta\in V \mid \langle\alpha,\beta\rangle = 0\}$ 是 $V$ 的子空间;2) $\dim W = n-1$。
解
显然(子空间性):对 $\beta_{1},\beta_{2}\in W$ 与 $k\in\mathbb{R}$,
$$\langle\alpha,\beta_{1}+\beta_{2}\rangle = \langle\alpha,\beta_{1}\rangle + \langle\alpha,\beta_{2}\rangle = 0,\qquad \langle\alpha,k\beta_{1}\rangle = k\langle\alpha,\beta_{1}\rangle = 0$$故 $W$ 是 $V$ 的子空间。
先证 $W^{\perp} = span\{\alpha\}$(以下用 $\alpha \neq 0$;若 $\alpha = 0$,则 $W = V$、$\dim W = n$,命题不成立)。显然 $span\{\alpha\}\subset W^{\perp}$:对任意 $\lambda\alpha\in span\{\alpha\}$ 与 $\beta\in W$,$\langle\lambda\alpha,\beta\rangle = \lambda\langle\alpha,\beta\rangle = 0$。反之,任取 $\gamma\in W^{\perp}$,按 $span\{\alpha\}$ 与 $span\{\alpha\}^{\perp} = W$ 作正交分解 $\gamma = \gamma_{1}+\gamma_{2}$,$\gamma_{1}\in span\{\alpha\}$,$\gamma_{2}\in W$。由于 $\gamma\perp W$ 而 $\gamma_{2}\in W$,有
$$0 = \langle\gamma,\gamma_{2}\rangle = \langle\gamma_{1},\gamma_{2}\rangle + |\gamma_{2}|^{2} = 0 + |\gamma_{2}|^{2}$$故 $\gamma_{2}=0$,即 $\gamma = \gamma_{1}\in span\{\alpha\}$。于是 $W^{\perp} = span\{\alpha\}$。再由正交直和分解 $V = W\oplus W^{\perp}$ 得
$$\dim W = n - \dim W^{\perp} = n-1.$$
答 $W = \{\beta\mid\langle\alpha,\beta\rangle = 0\}$ 是 $V$ 的子空间,且 $\dim W = n-1$。
四、正交变换
定义 8(正交变换)
设 $T$ 是欧氏空间 $V^{n}$ 的线性变换,若 $\forall \alpha,\beta \in V^{n}$ 有 $\langle T\alpha, T\beta\rangle = \langle\alpha,\beta\rangle$,则称 $T$ 为正交变换。
性质(正交变换的几何性质)
- 正交变换保持向量的长度不变:$|T\alpha|^{2} = \langle T\alpha,T\alpha\rangle = \langle\alpha,\alpha\rangle = |\alpha|^{2}$;
- 正交变换保持向量间的夹角不变:$\dfrac{\langle T\alpha,T\beta\rangle}{|T\alpha|\cdot|T\beta|} = \dfrac{\langle\alpha,\beta\rangle}{|\alpha|\cdot|\beta|}$。
定理(正交变换的四个等价条件)
设 $T$ 是欧氏空间 $V^{n}$ 的线性变换,则下列条件等价:① $T$ 是正交变换;② 保持向量长度不变,即 $\forall \alpha \in V^{n},\ |T\alpha| = |\alpha|$;③ 将标准正交基映射为标准正交基;④ 在标准正交基下的矩阵为正交阵。
证明
① → ②:因为 $T$ 是正交变换,即 $\langle T\alpha,T\beta\rangle = \langle\alpha,\beta\rangle$,故 $|T\alpha|^{2} = \langle T\alpha,T\alpha\rangle = \langle\alpha,\alpha\rangle = |\alpha|^{2}$。
② → ③:设 $B_{\varepsilon}=\{\varepsilon_{1},\varepsilon_{2},\cdots,\varepsilon_{n}\}$ 为标准正交基,则 $|T\varepsilon_{i}| = |\varepsilon_{i}| = 1\ (i=1,2,\cdots,n)$;又由链式写法 $|T\varepsilon_{i}|^{2}+|T\varepsilon_{j}|^{2} = |\varepsilon_{i}|^{2}+|\varepsilon_{j}|^{2} = |\varepsilon_{i}+\varepsilon_{j}|^{2} = |T(\varepsilon_{i}+\varepsilon_{j})|^{2} = |T\varepsilon_{i}+T\varepsilon_{j}|^{2}$ 得 $\langle T\varepsilon_{i},T\varepsilon_{j}\rangle = 0\ (i,j = 1,2,\cdots,n,\ i\neq j)$。故 $\{T\varepsilon_{1},\dots,T\varepsilon_{n}\}$ 仍为标准正交基。
③ → ④:设 $T$ 在标准正交基 $B_{\varepsilon}$ 下的矩阵为 $A = [A_{1}\ A_{2}\ \cdots\ A_{n}]$,即 $TB_{\varepsilon} = B_{\varepsilon}A$。因 $B_{\varepsilon}$ 为标准正交基,
$$G(B_{\varepsilon}A) = G(TB_{\varepsilon}) = I_{n},\qquad L = \left[ A_{i}^{T}G(B_{\varepsilon})A_{j} \right]_{n\times n} = \left[ A_{i}^{T}A_{j} \right]_{n\times n} = A^{T}A$$
(由 $G(B_{\varepsilon}A)=G(TB_{\varepsilon})=I_{n}$ 即得 $L=A^{T}A$,故 $A$ 为正交阵。)
④ → ①:设 $TB_{\varepsilon} = B_{\varepsilon}A$,$A^{T}A = I_{n}$。则对 $\alpha = B_{\varepsilon}x$,$\beta = B_{\varepsilon}y$:
$$\langle\alpha,\beta\rangle = x^{T}I_{n}y = x^{T}A^{T}G(B_{\varepsilon})Ay = x^{T}A^{T}Ay = x^{T}G(B_{\varepsilon})y = \langle B_{\varepsilon}x,\ B_{\varepsilon}y\rangle = \langle\alpha,\beta\rangle$$故 $T$ 是正交变换。$\blacksquare$
性质(正交阵)
- 若 $A = [A_{1}\ A_{2}\ \cdots\ A_{n}]$ 在标准正交基下表示正交变换 $T$,则 $A$ 为正交阵:$A^{T}A = AA^{T} = I_{n}$,$\det A = \pm 1$(列向量组为标准正交组)。
- 正交阵的逆仍是正交阵,$A^{-1} = A^{T}$;正交阵与转置之积仍是正交阵。
定义(旋转变换)
二维平面上的旋转:$x' = x\cos\theta + y\sin\theta,\qquad y' = y\cos\theta - x\sin\theta$,对应的旋转矩阵为
$$\begin{bmatrix} \cos\theta & \sin\theta \\ -\sin\theta & \cos\theta \end{bmatrix}$$与之等价的逆时针旋转矩阵为 $\begin{bmatrix} \cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{bmatrix}$(两者互为逆阵:$M^{-1} = M^{T}$),故真正的反解式为 $x = x'\cos\theta - y'\sin\theta$,$y = x'\sin\theta + y'\cos\theta$。
⚠️ 注意:上式的逆是 $M^{-1}=M^{T}$,不要用前向矩阵当反解。
二维欧氏空间中的旋转变换:取定二维欧氏空间中的标准正交基 $B = \{\varepsilon_{1},\varepsilon_{2}\}$,绕零向量顺时针旋转 $\theta$ 角的线性变换 $T$ 在 $B$ 下的矩阵为
$$\begin{bmatrix} \cos\theta & \sin\theta \\ -\sin\theta & \cos\theta \end{bmatrix}$$顺时针方向即由 $\varepsilon_{1}$ 指向 $\varepsilon_{2}$ 的方向;绕零向量逆时针旋转 $\theta$ 的变换 $T'$ 的矩阵为 $\begin{bmatrix} \cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{bmatrix}$(旋转矩阵是正交阵:$M^{T}M = I$)。
定义(初等旋转变换)
取定 $V$ 的标准正交基 $B = \{\varepsilon_{1},\varepsilon_{2},\cdots\}$,子空间 $\mathrm{span}\{\varepsilon_{1},\varepsilon_{2}\}$ 中绕零向量顺时针旋转 $\theta$ 角的变换称为初等旋转变换,其在 $B$ 下的矩阵为
$$\begin{bmatrix} \cos\theta & \sin\theta & 0 \\ -\sin\theta & \cos\theta & 0 \\ 0 & 0 & I_{n-2} \end{bmatrix}$$定义(Givens 变换)
旋转变换也称为 Givens 变换或 Givens 旋转,是多个初等旋转变换的叠加。
例(Givens 变换:把第二个元素变为零)
例 构造 Givens 变换,将向量 $a = [a_{1}\ a_{2}\ \cdots]^{T}$ 的第二个元素变为零。
解 令 $c = \dfrac{a_{1}}{\sqrt{a_{1}^{2}+a_{2}^{2}}}$,$s = \dfrac{a_{2}}{\sqrt{a_{1}^{2}+a_{2}^{2}}}$,$G = \begin{bmatrix} c & s \\ -s & c \end{bmatrix}$。
答 $Ga = \begin{bmatrix} \sqrt{a_{1}^{2}+a_{2}^{2}} \\ 0 \end{bmatrix}$,即第二个元素被消为 0。
例(Givens 旋转:把向量旋到 $\varepsilon_{1}$ 方向)
例 利用 Givens 旋转构造正交变换,将向量 $a = [3\ 4\ 12]^{T}$ 旋转到方向与 $\varepsilon_{1}$ 一致。
解 先在 $(\varepsilon_{1},\varepsilon_{2})$ 平面内旋转消去第二个分量:
$$G_{12} = \begin{bmatrix} \frac{3}{5} & \frac{4}{5} & 0 \\ -\frac{4}{5} & \frac{3}{5} & 0 \\ 0 & 0 & 1 \end{bmatrix},\qquad G_{12}a = \begin{bmatrix} 5 \\ 0 \\ 12 \end{bmatrix}$$再在 $(\varepsilon_{1},\varepsilon_{3})$ 平面内旋转消去第三个分量($\cos\theta = \frac{5}{13},\ \sin\theta = \frac{12}{13}$):
$$G_{13} = \begin{bmatrix} \frac{5}{13} & 0 & \frac{12}{13} \\ 0 & 1 & 0 \\ -\frac{12}{13} & 0 & \frac{5}{13} \end{bmatrix},\qquad G_{13}G_{12}a = \begin{bmatrix} 13 \\ 0 \\ 0 \end{bmatrix} = 13\varepsilon_{1}$$答 所求正交变换为
$$G = G_{13}G_{12} = \begin{bmatrix} \frac{3}{13} & \frac{4}{13} & \frac{12}{13} \\ -\frac{4}{5} & \frac{3}{5} & 0 \\ -\frac{36}{65} & -\frac{48}{65} & \frac{5}{13} \end{bmatrix}$$(自洽检验:$|a| = \sqrt{9+16+144} = 13$,且 $Ga = 13\varepsilon_{1}$。)
定义(镜像变换与 Householder 矩阵)
在欧氏空间中,取定过原点的直线 $l$,取 $u$ 为 $l$ 的单位法向量,向量 $a$ 关于直线 $l$ 对称的向量 $Ta$ 满足 $Ta = a - 2\langle a, u\rangle u$(几何上,$\langle a,u\rangle u$ 表示 $a$ 在 $u$ 方向上的投影长度)。
在欧氏空间中,若定义 $u = \dfrac{a}{\lvert a\rvert}$,则镜像变换可表示为 $Ha = a - 2\langle a,u\rangle u$,可以验证 $H^{T} = H,\qquad H^{2} = I,\qquad H \text{ 是正交阵}$,其中 $H = I - 2uu^{T}$($H$ 称为 Householder 矩阵)。
例(Householder 变换矩阵)
例 已知向量 $a = (1,2,0,0,4)^{T}$,求 Householder 变换矩阵 $H$,使得 $Ha = (\lambda,0,0,0,0)^{T}$,其中 $\lambda$ 为正实数,并给出 $\lambda$ 的值。
解 $|a| = \sqrt{1+4+16} = \sqrt{21}$。由 $H$ 正交且 $Ha = \lambda\varepsilon_{1}$ 知 $\lambda^{2} = |Ha|^{2} = |a|^{2} = 21$,又 $\lambda > 0$,故 $\lambda = \sqrt{21}$。取
$$u = \frac{a - \lambda\varepsilon_{1}}{|a - \lambda\varepsilon_{1}|} = \frac{(1-\sqrt{21},\ 2,\ 0,\ 0,\ 4)^{T}}{\sqrt{42-2\sqrt{21}}},\qquad H = I - 2uu^{T}$$则 $H^{T} = H$、$H^{2} = I$(因 $u^{T}u = 1$),$H$ 是正交阵,且
$$Ha = a - 2(u^{T}a)u = a - \bigl(a - \lambda\varepsilon_{1}\bigr) = \lambda\varepsilon_{1} = \sqrt{21}\,\varepsilon_{1}$$答 $\lambda = \sqrt{21}$,$H = I - 2uu^{T}$,$u = \dfrac{(1-\sqrt{21},\,2,\,0,\,0,\,4)^{T}}{\sqrt{42-2\sqrt{21}}}$。
五、对称变换
定义 9(对称变换)
设 $T$ 是欧氏空间 $V^{n}$ 的线性变换,若 $\forall \alpha,\beta \in V^{n}$ 有 $\langle T\alpha,\beta\rangle = \langle\alpha,T\beta\rangle$,则称 $T$ 为对称变换。
定理(对称变换 ⇔ 实对称阵)
$T$ 是欧氏空间 $V^{n}$ 的对称变换的充要条件是:$T$ 在任一标准正交基下的矩阵为对称阵。
证明(思路同"四、正交变换"的 ④ → ①) 标准正交基下 $\langle\alpha,\beta\rangle = x^{T}G(B_{\varepsilon})y = x^{T}y$,对称性即 $x^{T}Ay = \langle\alpha,\beta\rangle = \langle T\alpha,\beta\rangle = \langle\alpha,T\beta\rangle = (Ay)^{T}x = y^{T}A^{T}x$ 对一切 $x,y\in\mathbb{R}^{n}$ 成立 $\Rightarrow\ A = A^{T}$;反之若 $A=A^{T}$,上式反向成立,故对称性成立。$\blacksquare$
附:对任意正交阵 $Q$,$(Q^{T}AQ)^{T} = Q^{T}A^{T}Q = Q^{T}AQ$,即实对称阵在正交相似变换下仍为对称阵,故"在任一标准正交基下"与"在某一标准正交基下"等价。
定理(对称变换的特征值性质)
对称变换的特征值都是实数,且关于不同特征值的特征向量必正交。
证明
特征值为实数:因为线性变换的特征值与对应某基下的矩阵的特征值是一致的,对称变换在某标准正交基下矩阵表示为实对称矩阵,而实对称矩阵的特征值均为实数。故前一个结论成立。
不同特征值的特征向量正交:设 $\alpha,\beta\neq 0$,$T\alpha = \lambda\alpha$,$T\beta = \mu\beta$,且 $\lambda \neq \mu$。则
$$\langle\alpha,T\beta\rangle = \langle\alpha,\mu\beta\rangle = \mu\langle\alpha,\beta\rangle,\qquad \langle T\alpha,\beta\rangle = \langle\lambda\alpha,\beta\rangle = \lambda\langle\alpha,\beta\rangle$$由 $T$ 的对称性 $\langle\alpha,T\beta\rangle = \langle T\alpha,\beta\rangle$,故 $\mu\langle\alpha,\beta\rangle = \lambda\langle\alpha,\beta\rangle$,即 $(\mu-\lambda)\langle\alpha,\beta\rangle = 0$。由于 $\lambda\neq\mu$,故 $\langle\alpha,\beta\rangle = 0$,从而 $\alpha \perp \beta$。
$\blacksquare$
定理(对称变换一定可对角化)
对称变换 $T$ 一定可对角化。
证明 由上一定理,并结合"实对称阵的每个特征值的几何重数等于其代数重数":特征值全为实数、且可取到 $n$ 个线性无关且两两正交的特征向量,故可取其标准正交化构成标准正交基,在该基下矩阵为对角阵。$\blacksquare$
附录 矩阵基础(定义与定理)
一、行列式
定义 1(行列式)
$n$ 阶方阵 $A=[a_{ij}]$ 的行列式 $\det A$ 定义如下:
$$\det A=\sum_{\sigma\in S_n}\operatorname{sgn}(\sigma)\prod_{i=1}^{n}a_{i,\sigma(i)}$$二阶、三阶的展开式:
$$\begin{vmatrix}a&b\\c&d\end{vmatrix}=ad-bc,\qquad \begin{vmatrix}a&b&c\\d&e&f\\g&h&i\end{vmatrix}=a(ei-fh)-b(di-fg)+c(dh-eg)$$定理 1(行列式的性质)
| # | 性质 | 公式 |
|---|---|---|
| 1 | 转置不变 | $\det A^T=\det A$ |
| 2 | 交换两行(列) | 行列式变号 |
| 3 | 某行乘 $k$ | 该行对应的行列式乘 $k$ |
| 4 | 某行倍加 | 某行加另一行的 $k$ 倍,行列式不变 |
| 5 | 三角矩阵 | $\det A=$ 对角元之积 |
| 6 | 乘法 | $\det(AB)=\det A\cdot\det B$ |
| 7 | 相似 | $A\sim B\Rightarrow \det A=\det B$ |
| 8 | 数乘 | $\det(kA)=k^{n}\det A$ |
| 9 | 逆矩阵 | $\det A^{-1}=1/\det A$ |
定理 2($\det A=0$ 的等价刻画)
$$\det A=0\iff A\ \text{不可逆}\iff Ax=0\ \text{有非零解}\iff A\ \text{的列向量线性相关}$$二、矩阵
定义 2(矩阵及其运算)
- $m\times n$ 矩阵:$m$ 行 $n$ 列的数表 $A=[a_{ij}]$;
- 方阵:$m=n$;单位矩阵 $I_n$;对角矩阵 $\operatorname{diag}(d_1,\dots,d_n)$;零矩阵 $\mathbf 0$;
- 加法 $C=A+B\iff c_{ij}=a_{ij}+b_{ij}$(同型);
- 数乘 $c_{ij}=ka_{ij}$;
- 乘法 $c_{ij}=\displaystyle\sum_{k=1}^{s}a_{ik}b_{kj}$($A:m\times s$,$B:s\times n$ ⟹ $C:m\times n$);
- 转置 $A^T=[a_{ji}]$。
定理 3(矩阵运算律)
$$A+B=B+A,\quad A+B+C=(A+B)+C$$$$kA=Ak,\quad k(A+B)=kA+kB$$$$A(B+C)=AB+AC,\quad (A+B)C=AC+BC,\quad (kA)B=k(AB)=A(kB)$$$$(AB)^T=B^TA^T,\qquad (A^T)^T=A$$定理 4(乘法的"列"直觉)
设 $A$ 为 $m\times n$,$B$ 为 $n\times p$,则
$$(AB)_j=A\,B_j\qquad (j=1,2,\dots,p)$$即 $AB$ 的第 $j$ 列 = $A$ 作用在 $B$ 的第 $j$ 列上。
定理 5(分块矩阵乘法)
设 $A=\begin{bmatrix}A_{11}&A_{12}\\A_{21}&A_{22}\end{bmatrix}$,$B=\begin{bmatrix}B_{11}&B_{12}\\B_{21}&B_{22}\end{bmatrix}$,则
$$AB=\begin{bmatrix}A_{11}B_{11}+A_{12}B_{21} & A_{11}B_{12}+A_{12}B_{22}\\ A_{21}B_{11}+A_{22}B_{21} & A_{21}B_{12}+A_{22}B_{22}\end{bmatrix}$$定理 6(分块矩阵求逆)
设 $A=\begin{bmatrix}A_{11}&A_{12}\\0&A_{22}\end{bmatrix}$,$A_{11},A_{22}$ 可逆,则
$$A^{-1}=\begin{bmatrix}A_{11}^{-1}&-A_{11}^{-1}A_{12}A_{22}^{-1}\\0&A_{22}^{-1}\end{bmatrix}$$定义 3(可逆矩阵与逆矩阵)
若存在矩阵 $B$ 使 $AB=BA=I$,则称 $A$ 可逆,$B$ 称为 $A$ 的逆矩阵,记 $A^{-1}$。
定理 7(可逆的等价条件)
$A$ 可逆 ⟺ 下列任一条成立:
- $\det A\neq0$
- $Ax=0$ 只有零解
- $Ax=b$ 对任意 $b$ 有唯一解
- $A$ 的列向量(行向量)线性无关
- $r(A)=n$
- $A$ 的特征值全不为 $0$
- $A$ 是初等矩阵的乘积
定理 8(逆矩阵的性质)
$$(AB)^{-1}=B^{-1}A^{-1},\qquad (A^T)^{-1}=(A^{-1})^T,\qquad (A^{-1})^{-1}=A$$$A$ 对称 $\Rightarrow A^{-1}$ 对称;$A$ 反对称 $\Rightarrow A^{-1}$ 反对称。
定义 4(初等矩阵与初等变换)
初等矩阵:由单位矩阵经一次初等变换(行交换、某行乘非零数、某行加另一行的 $k$ 倍)得到的矩阵。 初等变换:上述三种行(列)变换。
定理 9(初等矩阵的基本性质)
- 初等矩阵可逆,且 $E^{-1}$ 仍是初等矩阵;
- 初等矩阵左乘 $A$ ⟺ 对 $A$ 作初等行变换;右乘 $A$ ⟺ 对 $A$ 作初等列变换;
- 初等变换不改变矩阵的秩;
- $A\sim B\iff$ 存在可逆 $P,Q$ 使 $PAQ=B$;同阶方阵时 $A\sim B\iff$ 存在可逆 $P$ 使 $PA=B$;
- 初等行变换不改变零空间:$Ax=0\iff PAx=0\iff (PA)x=0$;
- 初等行变换不改变列向量之间的线性组合关系:$\sum_j c_jA_j=0\iff\sum_j c_j(PA)_j=0$。
定义 5(矩阵的秩)
$r(A)$ = 矩阵 $A$ 的行向量组的极大线性无关向量组的向量个数(= 列空间维数 = 行阶梯形中非零行数),且 $r(A)=r(A^T)$。
定理 10(秩的运算公式)
$$r(A+B)\le r(A)+r(B),\qquad r(AB)\le\min\{r(A),r(B)\}$$$$r(A)+r(B)-n\le r(AB)\le\min\{r(A),r(B)\}$$$A$ 列满秩时 $r(AB)=r(B)$;$B$ 行满秩时 $r(AB)=r(A)$。
定理 11(秩–零化度定理)
设 $A\in F^{m\times n}$,$r=r(A)$,则
$$\dim N(A)=n-r,\qquad \dim R(A)=r$$其中 $N(A)=\{x\mid Ax=0\}$ 为零空间,$R(A)=\{y\mid y=Ax\}$ 为列空间。
三、向量与线性方程组
定义 6(极大线性无关组)
向量组 $\alpha_1,\dots,\alpha_m$ 的极大线性无关组:线性无关,且不能再加入组中任何向量。
定理 12(极大无关组与秩)
向量组的极大线性无关组的个数 $r$ = 该向量组张成子空间的维数;其余向量均可由它线性表出。求法:排成列作行初等变换,取非零行。
定理 13(线性方程组的解结构)
| 方程组 | 结论 |
|---|---|
| $Ax=0$ | 有非零解 ⟺ $r(A)<n$;基础解系含 $n-r(A)$ 个解向量 |
| $Ax=b$,$b\neq0$ | 有解 ⟺ $r(A)=r(A\mid b)$;唯一解 ⟺ $r(A)=n$;无穷多解 ⟺ $r(A)<n$ |
四、相似矩阵与二次型
定义 7(特征值、特征向量、特征多项式)
设 $A$ 是 $n$ 阶方阵:
- 特征值 $\lambda$:使 $(A-\lambda I)x=0$ 有非零解的数 $\lambda$,即 $\det(A-\lambda I)=0$;
- 特征向量:与 $\lambda$ 对应的非零解;
- 特征多项式:$p_A(\lambda)=\det(\lambda I-A)$。
定理 14(特征值的性质)
- 不同特征值对应的特征向量必线性无关(故 $n$ 个互异特征值 ⟹ 可对角化);反之不成立;
- $\lambda$ 是 $A$ 的特征值 ⟺ $\lambda^{k}$ 是 $A^{k}$ 的特征值($k\in\mathbb{N}^{+}$);
- $AB$ 与 $BA$ 有相同的非零特征值;
- $A$ 可逆 ⟺ $0$ 不是 $A$ 的特征值;
- $\operatorname{tr}A=\sum\lambda_i$,$\det A=\prod\lambda_i$;
- 实对称矩阵:特征值全为实数,不同特征值的特征向量正交,特征向量组可正交化。
定义 8(相似矩阵)
若存在可逆矩阵 $P$ 使 $B=P^{-1}AP$,则称 $A$ 与 $B$ 相似,记 $A\sim B$。
定理 15(相似不变量与可对角化)
- 相似矩阵有相同的特征值、特征多项式、迹、行列式、秩、可对角化性;
- $A$ 可对角化 ⟺ $A$ 有 $n$ 个线性无关的特征向量 ⟺ 每个特征值的几何重数 = 代数重数;
- 实对称矩阵必可对角化,且可正交对角化;
- 若 $P=[\alpha_1\,\cdots\,\alpha_n]$ 的第 $j$ 列是 $\lambda_j$ 对应的特征向量,则 $P^{-1}AP=\operatorname{diag}(\lambda_1,\dots,\lambda_n)$。
定义 9(二次型、合同)
二次型 $f(x)=x^TAx$($A$ 对称);若 $B=P^TAP$($P$ 可逆),称 $A$ 与 $B$ 合同,记 $A\simeq B$。
定理 16(惯性定理与正定判别)
- 任何实对称二次型都可用可逆线性变换化为标准形 $f=\sum_{i=1}^{r}d_iy_i^{2}$($d_i\neq0$),进而化为规范形 $f=\sum_{i=1}^{p}y_i^{2}-\sum_{i=p+1}^{r}y_i^{2}$;
- 惯性定理:正惯性指数 $p$、负惯性指数 $q$ 由 $A$ 唯一确定,与合同变换无关;
- 实对称矩阵 $A$ 正定 ⟺ 下列任一条成立:$A$ 的所有特征值 $>0$;$A$ 的所有顺序主子式 $>0$;$A$ 可合同于单位阵 $E$。

说些什么吧!