本章在全册中的位置
本册从向量的线性组合开始,经矩阵运算、方程组、行列式、核与像,最终来到线性算子自身的内部结构。前几章回答“方程是否有解”“映射丢失哪些方向”“换一组坐标后矩阵怎样变化”;本章进一步寻找一组坐标,使算子的反复作用尽可能简单。特征向量提供保持直线不变的方向,对角化把这些方向组织成一组基,实对称谱定理则保证正交基存在,并把二次型化为平方项之和。
应会计算矩阵乘法、零空间和行列式,理解线性映射与换基。求特征向量需要解齐次方程
(A−λI)v=0;若自由变量和主元列尚不熟悉,可先复习
线性方程组 与
高斯消元。
本章主要讨论实方阵,并在需要时明确转入复数域。特征值只对同一空间上的线性算子定义,矩形矩阵没有通常意义下的特征方程。实矩阵可能具有复特征值,例如非平凡平面旋转没有实不变直线;此时应扩展到复向量空间,而不是声称矩阵“没有特征值”。
最后一章同时承担综合复习。每次计算都应保留四类核验:矩阵尺寸是否相容;特征对是否满足残差
Av−λv=0;独立特征向量是否足以成基;结论是否依赖对称、可对角化或正定等额外条件。
不变方向的直觉
把一张带网格的纸经过剪切,大多数箭头会转向,但沿横轴的箭头可能仍留在横轴上;把平面沿两个坐标方向分别缩放,每条坐标轴都是不变方向。目标是寻找变换前后位于同一直线的非零向量,向量的位置或长度可以改变。
比例可以为正、负或零。正特征值保持方向并缩放,负特征值翻转方向,零特征值把非零特征向量压到零。若比例绝对值大于一,反复作用会在该方向放大;小于一则衰减。
定义与特征空间
特征值、特征向量与特征空间
设 A∈Rn×n。若存在非零向量
v 和标量 λ 使
Av=λv, 则称 λ 是 A 的特征值,v 是对应特征向量。所有满足该等式的向量连同零向量构成特征空间
Eλ=ker(A−λI).
定义排除零向量作为特征向量,因为零向量对任意
λ 都满足等式,无法提供方向信息;特征空间为了保持子空间结构必须包含零向量。若
v 是特征向量,则任何非零倍数
cv 也是同一特征值的特征向量,所以真正重要的是由它张成的方向或更高维特征子空间。
从方向条件到特征多项式
把定义移项得到
(A−λI)v=0.
要存在非零解,矩阵 A−λI 必须不可逆。由行列式判据,必要且充分条件为
pA(λ)=det(A−λI)=0.
pA 称为特征多项式。它是 n 次多项式,因此在复数域计重数恰有
n 个根。求根只给出候选特征值;对每个根仍须求
A−λI 的零空间,才能得到特征向量。
有些教材采用 det(λI−A)。两种约定相差常数因子
(−1)n,根完全相同;同一计算中不要来回切换符号约定。对二阶矩阵,使用
det(λI−A) 时有
det(λI−A)=λ2−(trA)λ+detA.
因此两个复特征值按代数重数计算时,其和等于迹,积等于行列式。这是复算特征根的快速检查,不是求特征向量的替代。若
C=P−1AP,则
det(C−λI)=det(P−1(A−λI)P)=det(A−λI),所以相似矩阵具有同一特征多项式;这与上一章“同一算子的不同坐标记录”一致。
示例一:计算二阶矩阵的特征对
计算二阶矩阵的特征对
设
A=[4213]. 特征方程为
det(A−λI)=(4−λ)(3−λ)−2=λ2−7λ+10=(λ−5)(λ−2)=0. 对 λ=5,方程
(A−5I)v=0 给出 −x+y=0,可取
v1=(1,1)T。对 λ=2,有
2x+y=0,可取
v2=(1,−2)T。直接相乘可核对
Av1=5v1、
Av2=2v2。
代数重数与几何重数
代数重数与几何重数
特征值 λ 作为特征多项式根出现的次数称为代数重数,记作
ma(λ);特征空间维数称为几何重数,记作
mg(λ)=dimEλ=dimker(A−λI).
重数界与不同特征值的独立性
对每个特征值都有
1≤mg(λ)≤ma(λ). 属于互异特征值 λ1,…,λk 的特征向量
v1,…,vk 线性无关。
证明
几何重数至少为一来自特征值定义。设
mg(λ)=r,取 Eλ 的一组基并扩充为整个空间的基。在这组基下,矩阵前
r 列分别是 λe1,…,λer,因而具有分块形状
[λIr0∗B]. 其特征多项式含因子
(t−λ)r,故 r≤ma(λ)。
再证不同特征值的独立性。对向量个数归纳。若
c1v1+⋯+ckvk=0, 对等式作用 A−λkI,最后一项消失,得到
i=1∑k−1ci(λi−λk)vi=0. 归纳假设给出
ci(λi−λk)=0。因特征值互异,前
k−1 个系数全为零,原式再推出 ck=0。
因此,一个 n×n 矩阵若拥有 n 个互异特征值,就自动拥有
n 个线性无关特征向量。但特征值重复时,是否有足够特征向量还需检查几何重数。
重复特征值并不等于缺陷。例如
diag(2,2,3) 中,特征值 2 的代数重数和几何重数都是
2,对应平面由前两支标准基张成;矩阵仍有三支独立特征向量。只有当某个特征值贡献的几何重数小于完成特征基所需的数量时,对角化才失败。
对角化
对角化判据
对 A∈Fn×n,以下条件等价:
- 存在可逆矩阵 P 与对角矩阵 D,使 A=PDP−1;
- 空间存在一组由 A 的特征向量组成的基;
- 所有不同特征值的特征空间维数之和为 n;
- 对每个特征值,几何重数等于代数重数,并且特征多项式在标量域
F 上完全分裂。
证明
若存在特征向量基
v1,…,vn,把它们作为列组成
P,并令
D=diag(λ1,…,λn),则
AP=[Av1 ⋯ Avn]=[λ1v1 ⋯ λnvn]=PD. P 可逆,所以 A=PDP−1。反过来,若
A=PDP−1,则 AP=PD;比较第 j 列可知
Apj=djjpj。P 的列线性无关,因此它们组成特征向量基。这证明前两项等价。
不同特征值的特征空间直和,其维数是几何重数之和;维数达到
n 当且仅当可从中选出一组全空间基。结合
mg(λ)≤ma(λ),并注意完全分裂时所有代数重数之和为
n,得到后两项与前两项等价。
对角化表示换到特征向量基后,复杂线性变换只剩各坐标独立缩放。判据中的“在标量域上完全分裂”不能省略:一个实平面旋转矩阵可能在
C 上可对角化,在 R 上却没有实特征向量。
反例
矩阵
J=[1011] 的特征多项式为 (1−λ)2,唯一特征值
1 的代数重数为二。但
J−I=[0010] 的零空间只有所有
(x,0)T,几何重数为一。它缺少第二个独立特征向量,因此不可对角化。重复特征值本身不会导致失败;失败来自特征空间维数不足。
这类没有完整特征向量基的矩阵称为缺陷矩阵。上例可写成
J=I+N,其中
N=[0010],N2=0.
二项式展开立即给出
Jk=(I+N)k=I+kN=[10k1].
虽然唯一特征值的绝对值等于一,矩阵幂仍含线性增长因子
k。这解释了为什么稳定性边界不能只看特征值绝对值:不可对角化时,广义特征方向会产生多项式因子。更高阶 Jordan 块会产生
k2,k3 等更高次项;本章只需掌握二阶缺陷矩阵的直接复算,不把 Jordan 标准形当作已建立定理。
示例二:用对角化计算矩阵幂
用对角化计算矩阵幂
沿用前例的矩阵 A。取
P=[111−2],D=[5002], 则 A=PDP−1。因此
Ak=PDkP−1=P[5k002k]P−1. 这里
P−1=31[211−1], 所以可写成闭式
Ak=31[2⋅5k+2k2(5k−2k)5k−2k5k+2k+1]. 取 k=3 得
A3=[86783947]. 直接复算
A2=[1814711],再乘一次 A 得到同一结果。对角形式把逐次矩阵乘法改成两个标量乘方。随着
k 增大,若初始向量在 λ=5 的特征方向上分量非零,该方向通常以
5k 主导;若该分量恰好为零,则不能凭最大特征值断言轨迹沿该方向增长。
实对称矩阵的谱定理
实对称矩阵谱定理
若 A∈Rn×n 且
A=AT,则 A 的全部特征值都是实数,并存在由单位特征向量组成的正交矩阵
Q 与实对角矩阵 Λ,使
A=QΛQT,QTQ=QQT=I.
证明
先说明实特征向量存在。把 A 暂时看成复矩阵,特征多项式在
C 上有根;取非零复特征向量
z,满足 Az=λz。由于实对称矩阵也是 Hermitian 矩阵,
z∗Az 为实数,于是
λ=z∗zz∗Az∈R. 写 z=x+iy。因 A 与 λ 都是实的,比较实部和虚部得
Ax=λx、
Ay=λy;二者至少一个非零,从而得到实特征向量。将其归一化为
u。
对任意 w⊥u,对称性给出
uTAw=(Au)Tw=λuTw=0. 所以正交补 u⊥ 在 A 下保持不变,限制在该
(n−1) 维空间上的算子仍对称。对维数归纳,可在正交补中选出正交归一特征基;与
u 合并便得到整个空间的正交归一特征基。把这些向量作为
Q 的列,即得 AQ=QΛ,从而
A=QΛQT。
这比一般对角化更强:换基矩阵的逆就是转置,长度、夹角和内积在坐标转换中保持。不同特征值对应向量的正交性也可单独验证。若
Au=λu、
Av=μv,则
λuTv=(Au)Tv=uTAv=μuTv.
当 λ=μ 时,只能有
uTv=0。重复特征值的特征空间内部还可用正交化选出正交基。
二次型把谱方向变成主轴
二次型只读取矩阵的对称部分。令
S=(A+AT)/2、
K=(A−AT)/2,则 KT=−K,且标量
xTKx 等于自身转置
−xTKx,所以它为零。因此
xTAx=xTSx.
研究二次型时可先把矩阵对称化,而不会改变函数值。
对实对称 A=QΛQT,令
y=QTx,正交变换保持长度,并有
qA(x)=yTΛy=i=1∑nλiyi2.
于是:全部特征值为正当且仅当 A 正定;全部非负当且仅当半正定;同时出现正负特征值当且仅当不定。在单位球面上,二次型的最小值和最大值分别是最小、最大特征值,因为
∑iyi2=1 时它是这些特征值的加权平均。
对比矩阵
B=[122−2]。其迹为
−1、行列式为 −6,特征值是 2,−3,故二次型不定。直接取标准基也能看见
qB(1,0)=1>0、qB(0,1)=−2<0。特征值判据给出完整分类,测试向量则提供快速反证。
动力系统与稳定性
离散线性系统
xk+1=Axk 满足
xk=Akx0。若矩阵可对角化,把初始状态分解为特征向量
x0=∑icivi,则
xk=i∑ciλikvi.
每个方向独立按 λik 演化。全部特征值绝对值小于一时,各方向衰减;存在绝对值大于一且初始状态含该方向分量时,状态增长;负特征值还会引入逐步翻转。等于一或不可对角化的边界情况需要进一步分析,不能只看最大绝对值后立刻断言所有轨迹行为。
二维系统的长期方向
令
A=diag(0.5,1.2),初始状态
x0=(4,1)T。第 k 步为
xk=(4⋅0.5k,1.2k)T. 第一坐标趋于零,第二坐标增长,所以归一化后的方向逐渐靠近纵轴。若初始状态恰为
(4,0)T,增长方向没有分量,轨迹反而衰减。主导特征值描述一般方向的长期趋势,不会凭空产生初始状态中完全缺失的特征分量。
全册综合:同一矩阵的七个读法
从方程可解性走到正交谱分解
考虑
C=210120004. 第一步看方程与映射。左上二阶块行列式为
3,故 detC=3⋅4=12=0。因此
kerC={0}、
imC=R3、秩为 3,每个方程
Cx=b 都有唯一解。迹为
2+2+4=8,之后应与特征值之和核对。
第二步求特征结构。左上二阶块沿
(1,1)T 与 (1,−1)T 分别缩放
3 与 1,第三坐标轴缩放 4。取正交归一向量
q1=21(1,1,0)T,q2=21(1,−1,0)T,q3=(0,0,1)T. 于是
Q=[q1 q2 q3],C=Qdiag(3,1,4)QT. 特征值和为 3+1+4=8,积为
3⋅1⋅4=12,与迹、行列式一致。矩阵对称,谱定理保证存在正交特征基;上述三支向量给出了这一保证的具体实现。
第三步计算矩阵幂。对角形式给出
Ck=23k+123k−1023k−123k+10004k. 取 k=2 得
C2=5404500016,与直接乘法相同。
第四步读二次型:
qC(x,y,z)=2x2+2xy+2y2+4z2. 在谱坐标 (u,v,w)=QT(x,y,z) 下,它变为
qC=3u2+v2+4w2. 三个系数都正,所以 C 正定;单位球面上的最小值为
1,最大值为 4。同一组特征方向同时简化了矩阵幂、线性演化和二次型,这正是本册最后一章把各部分汇合起来的原因。
面对新的方阵,可以按以下顺序组织答案,而不必把所有工具同时堆上去:
- 先写矩阵代表的线性算子、标量域和维数。
- 用消元求秩、核与像,判断方程解的自由度。
- 对方阵再用行列式判断可逆性,并以迹、行列式保存数值检查点。
- 求特征多项式和每个特征空间,分别记录代数、几何重数。
- 用对角化判据检查独立特征向量数量;失败时明确指出缺陷,而不是强行构造不可逆的 P。
- 若矩阵实对称,优先使用正交谱分解;矩阵幂和二次型都在同一谱坐标中处理。
- 最后把结果代回原问题:复算特征残差、矩阵幂的小指数情形、方程解或二次型符号。
并非每道题都需要七步。流程的意义是把条件与结论对应起来:行列式非零不能自动提供正交特征基;拥有实特征值也不能自动保证可对角化;正定性首先是对称二次型的符号结论,而不是任意非对称矩阵的标签。
应用与解释边界
主成分分析对协方差矩阵作特征分解,最大特征值对应数据方差最大的正交方向;耦合振动把简正模写成矩阵特征向量;Markov 链用特征值一对应平稳方向,并由其他特征值控制收敛速度。这些应用共享同一代数结构,但矩阵的来源、内积、单位和归一化各不相同。
特征向量不是“数据中最重要的特征”的通用同义词。非对称矩阵的特征向量可能不正交,病态矩阵的特征向量对扰动可能非常敏感,缺陷矩阵甚至没有完整特征基。矩阵近似对称或数据含噪时,应报告算法、误差和稳定性,而不是只给出若干小数。
常见误区
常见误区
“任意非零向量都是某个特征向量。”一个向量只有在输出与自身共线时才是特征向量。对固定矩阵,满足条件的方向通常只是整个空间中的少数子空间。
常见误区
“特征值就是矩阵对角线元素。”三角矩阵的特征值确实是对角元素;一般矩阵必须求特征多项式。相似变换可以改变对角元素,却保持特征值。
常见误区
“拥有重复特征值就不能对角化。”单位矩阵只有一个重复特征值,却有整个空间作为特征空间,当然可对角化。应比较代数重数和几何重数,而不是只看是否重复。
代码:幂迭代估计主导特征方向
数值程序输出一组小数时,不能只看迭代是否停止。对候选
(λ,v),应至少报告特征残差
r=∥Av−λv∥2.
残差接近零说明这组数近似满足特征方程;它不保证已经找到题目关心的全部特征值,也不单独衡量特征向量对矩阵扰动的敏感程度。矩阵整体缩放很大时,还应比较相对残差,例如用
r/(∥A∥2+∣λ∣);下面的短程序只返回绝对残差。
export function powerIteration(
matrix: readonly (readonly number[])[],
initial: readonly number[],
steps: number,
): { value: number; vector: number[]; residual: number } {
if (
matrix.length === 0 ||
matrix.some((row) => row.length !== matrix.length) ||
initial.length !== matrix.length
) {
throw new Error("Power iteration requires a square matrix and matching vector.");
}
if (!Number.isInteger(steps) || steps < 1) {
throw new Error("Iteration count must be a positive integer.");
}
let vector = [...initial];
for (let step = 0; step < steps; step += 1) {
const next = matrix.map((row) =>
row.reduce((sum, value, index) => sum + value * vector[index], 0),
);
const norm = Math.hypot(...next);
if (norm === 0) throw new Error("Iteration reached the zero vector.");
vector = next.map((value) => value / norm);
}
const applied = matrix.map((row) =>
row.reduce((sum, value, index) => sum + value * vector[index], 0),
);
const value = vector.reduce((sum, entry, index) => sum + entry * applied[index], 0);
const residual = Math.hyp(...applied.map((entry, index) => entry - value * vector[index]));
return { value, vector, residual };
}
幂迭代只有在主导特征值按绝对值严格占优、初始向量含相应方向分量等条件下才可靠收敛。对实对称矩阵,代码中的 Rayleigh 商
vTAv 与单位向量的方向解释尤其清楚;对一般非对称矩阵,收敛条件和误差行为更复杂。该程序不能替代通用特征值算法;缺陷矩阵、谱间隔很小或绝对值相同的多个主导特征值都可能让方向收敛缓慢、振荡或失败。
综合练习:特征结构、矩阵幂与二次型
八道题从直接特征对逐步进入重数、缺陷、矩阵幂、谱定理、二次型和长期演化。解答中的小指数矩阵乘法、迹、行列式和特征残差都是必须保留的复算点。
练习 1:读取对角矩阵的特征方向
- 所属知识
- 特征值与特征空间
- 难度
- 2/5
求
A=[300−2] 的全部特征值和特征空间,并解释反复作用时两个坐标方向的行为。
查看提示
分别让
(A−λI)v=0;负特征值会在每次作用时翻转方向。
查看解答
特征值为 3 与 −2,对应特征空间分别为
span{(1,0)} 和
span{(0,1)}。横向分量每步乘三并保持方向;纵向分量每步乘负二,大小加倍且每步翻转。对一般含两个分量的初始向量,长期大小由绝对值较大的
3 方向主导;若横向分量为零,则不会出现该方向。
练习 2:构造一个二阶对角化
- 所属知识
- 特征向量基与相似变换
- 难度
- 3/5
对
B=[1012],求特征值和特征向量,并给出
B=PDP−1。
查看提示
三角矩阵的特征值在对角线上;把对应特征向量作为 P 的列。
查看解答
特征值为 1,2。当 λ=1 时可取
v1=(1,0)T;当
λ=2 时,方程 −x+y=0,可取
v2=(1,1)T。因此
P=[1011],D=[1002],P−1=[10−11]. 直接相乘 PDP−1 得
[1012]=B,完成核验。
练习 3:相同特征多项式,不同几何重数
- 所属知识
- 代数重数、几何重数与缺陷
- 难度
- 3/5
比较
D=200020003,J=200120003. 写出特征值 2 的代数、几何重数,并判断两矩阵是否可对角化。
查看提示
分别求
λ=2 时两个矩阵的零空间维数。
查看解答
两矩阵的特征多项式都是
(2−λ)2(3−λ),所以
2 的代数重数均为 2。对 D,
E2=span{e1,e2},几何重数为
2,再加 e3 即得特征基,故可对角化。对 J,方程
(J−2I)v=0 强制第二坐标为零,故
E2=span{e1},几何重数为
1;全部特征空间维数只有 2,所以不可对角化。
练习 4:缺陷矩阵幂中的多项式因子
- 所属知识
- 幂零部分与矩阵幂
- 难度
- 4/5
设
J=[2012]。求一般的
Jk,并计算 J4。
查看提示
写成 2I+N,其中
N2=0,再用二项式展开。
查看解答
写成 J=2I+N,其中
N=[0010] 且
N2=0。二项式展开只留下前两项:
Jk=2kI+k2k−1N=[2k0k2k−12k]. 令 k=4 得
J4=[1603216]. 直接平方两次也可核验:
J2=[4044],再平方即得到上述结果。
练习 5:用正交特征方向计算高次幂
- 所属知识
- 对角化与矩阵幂
- 难度
- 4/5
对
A=[3113],推导
Ak 的闭式,并计算 A5。
查看提示
矩阵沿 (1,1) 与 (1,-1) 的特征值分别为 4 与 2。
查看解答
单位特征向量
(1,1)T/2、
(1,−1)T/2 对应特征值
4,2。由正交谱分解
Ak=21[4k+2k4k−2k4k−2k4k+2k]. 45=1024、25=32,所以
A5=[528496496528]. 取 k=1 时闭式退回原矩阵,是另一项结构核验。
查看解答
左上块的特征值为 1,3,第三个特征值为 5,所以全部特征值是
1,3,5。它们均为正,故 S 正定。迹为
1+3+5=9,也等于对角线之和;行列式为
1⋅3⋅5=15。在单位球面上,二次型取值范围为
[1,5],端点分别沿最小和最大特征值的单位特征向量取得。
练习 7:坐标交换算子的全册综合
- 所属知识
- 核像、特征空间、矩阵幂与二次型
- 难度
- 4/5
考虑
C=100001010. 求核、像、特征空间,判断是否可正交对角化,计算
Ck,并分类二次型 xTCx。
查看提示
该矩阵交换第二、三坐标,并满足
C2=I。分别解
λ=1 与
λ=−1。
查看解答
C 是置换矩阵,行列式为 −1,所以核为零、像为
R3。特征值 1 的特征空间是
E1={(x,y,y):x,y∈R}, 维数为 2;特征值 −1 的特征空间是
E−1=span{(0,1,−1)}。矩阵实对称,两个特征空间正交,可选正交归一基完成正交对角化。又因
C2=I,故偶数次幂为 I,奇数次幂为 C。二次型为
它沿 (1,0,0) 取正值,沿 (0,1,−1) 取负值,因此不定;这也与特征值同时含正、负一致。
练习 8:把初始状态分解到长期模式
- 所属知识
- 离散线性系统与谱分解
- 难度
- 4/5
令
A=[3/41/41/43/4],x0=(3,1)T,xk+1=Axk. 求 xk 的闭式和极限。
查看提示
(1,1) 与 (1,-1) 分别是特征值 1 与 1/2 的方向。
查看解答
A(1,1)T=(1,1)T,
A(1,−1)T=21(1,−1)T,并且
x0=2(1,1)T+(1,−1)T. 因此
xk=2(1,1)T+2−k(1,−1)T=[2+2−k2−2−k]. 令 k→∞ 得极限
(2,2)T。代入 k=0 恢复
(3,1)T,代入 k=1 得
(2.5,1.5)T=Ax0,数值核验一致。
与其他知识的关系
已核实资源
课程 · 2011MIT 18.06SC Linear Algebra
Gilbert Strang
提供线性代数核心概念的完整课程顺序、例题、习题和考试材料。
打开官方来源
MIT OpenCourseWare 18.06SC 系统讲解特征值、特征向量、对角化、微分方程和对称矩阵,是本章计算方法与结构结论的主要延伸材料。
书籍 · 2019Interactive Linear Algebra
Dan Margalit, Joseph Rabinoff
章节含几何解释、交互图、例题、练习提示和部分解答,可用于交叉核对本册六章的代数与几何主线。
打开官方来源
Georgia Tech 的 Interactive Linear Algebra 以交互图、例题和证明连接特征空间、重数、对角化与对称矩阵,可用于独立复核本章的判据和几何解释。
下一步
继续学习 奇异值分解,比较特征分解与任意矩形矩阵的主方向;若关注曲率与优化,则进入
正定矩阵 和
Hessian 矩阵。在物理方向,可把特征向量解释为
耦合振子 的简正模。