本科数学 · 特征值与特征向量：数据的性格

特征值与特征向量：数据的性格

Eigenvalue & Eigenvector · Av = λv

【章首引子】矩阵 A 是个变形操作，大多数向量被它转得七扭八歪。但有少数特殊方向，变形后方向纹丝不动、只被拉长了 λ 倍——这个方向就是特征向量，λ 就是特征值。Google 起家的 PageRank、人脸压缩的 PCA、大桥的共振频率，全靠它。

① 是什么：Av = λv

啥方向不变只拉伸

定义：Av = λv。v 叫特征向量，λ 叫特征值。大白话：变形后方向不变的那个方向 v，在那个方向上被拉了 λ 倍。

求法：(A−λI)v = 0 要有非零解 ⇔ det(A−λI) = 0（特征方程）。解出 λ，再代回求 v。

② 怎么想到的

思解题心法

列 A−λI：把对角线减 λ。

算行列式令其为 0：解出所有特征值 λ。

代回求特征向量：把每个 λ 代入 (A−λI)v=0，解出 v。

③ 完整解法：三个例题

证特征值与特征向量：数据的性格的核心定理与公式

核心定理：①$Av=\lambda v$（$v\neq 0$）有解 $\Leftrightarrow\det(A-\lambda I)=0$，此即特征方程。②迹与行列式：$\sum\limits_{i=1}^{n}\lambda_i=\mathrm{tr}(A)$，$\prod\limits_{i=1}^{n}\lambda_i=\det(A)$。③可对角化条件：$A$ 有 $n$ 个线性无关的特征向量；此时 $A=PDP^{-1}$，且 $A^{k}=PD^{k}P^{-1}$。④实对称矩阵必可正交对角化：$A=Q\Lambda Q^{\top}$，特征值全为实数，不同特征值的特征向量自动正交。⑤瑞利商：$\lambda_{\min}\leq\frac{x^{\top}Ax}{x^{\top}x}\leq\lambda_{\max}$（$A$ 对称）。

推导思路：①把特征多项式写成按根分解的形式：$p(\lambda)=\det(A-\lambda I)=(\lambda_1-\lambda)(\lambda_2-\lambda)\cdots(\lambda_n-\lambda)$，其中 $\lambda_i$ 是全部特征值。②把这个乘积展开，$\lambda^{n-1}$ 项只能来自"取 $n-1$ 个 $\lambda_i$、再从剩下的括号里取一个 $-\lambda$"，系数是 $-(\lambda_1+\cdots+\lambda_n)$。③另一方面，按行列式的完全展开定义，$\det(A-\lambda I)$ 里能凑出 $\lambda^{n-1}$ 的只有对角元之积 $(a_{11}-\lambda)(a_{22}-\lambda)\cdots(a_{nn}-\lambda)$，其 $\lambda^{n-1}$ 系数为 $-(a_{11}+\cdots+a_{nn})=-\mathrm{tr}(A)$。④同一个多项式的同次幂系数必须相等，故 $\sum\lambda_i=\mathrm{tr}(A)$（令 $\lambda=0$ 代入即得 $\prod\lambda_i=\det A$）。

直觉把握：特征向量是"被这个变换变形时方向纹丝不动"的那几个方向，特征值就是"在那个方向上被拉长了多少倍"。就像揉面团时总有几条线只是被拉长、没被扭歪。AI/工程里：PageRank 的主特征向量就是网页重要性排序；PCA 取协方差矩阵最大的几个特征向量当主成分；Hessian 的特征值刻画局部曲率、决定学习率能开多大；谱归一化用最大特征值把 Lipschitz 常数压在 $1$ 以内，让 GAN 训练稳住。

例题1：对角矩阵 diag(2,3) 的特征值

【审题】对角矩阵。

思路：对角元就是特征值。

逐步解法：λ=2 和 3，对应特征向量 (1,0)、(0,1)。x 方向拉 2 倍、y 方向拉 3 倍，方向都没变。

例题2：A = [1 2; 2 1] 的特征值

【审题】解特征方程。

思路：det(A−λI)=0。

逐步解法：det[1−λ, 2; 2, 1−λ] = (1−λ)²−4 = λ²−2λ−3 = 0 → (λ−3)(λ+1)=0。λ=3 和 λ=−1。

例题3：为什么"扔小特征值"能压缩图片

【审题】PCA 降维原理。

思路：大特征值 = 主方向。

逐步解法：大特征值对应方差大、信息高的主方向（轮廓），小特征值多是噪声。保留前 k 个大特征值，就用少量维度重建大部分信息——这就是有损压缩的数学原理。

特征值核心公式 $Av = \lambda v$ | $\text{特征方程} det(A − \lambda I) = 0$
对角化：$\text{若} A \text{有} n \text{个线性无关特征向量}, \text{则} A = PDP^{-1}(D \text{是对角特征值阵})$
对称矩阵必可正交对角化，特征值全为实数

④ 用途与案例

Google PageRank

网页链接矩阵的最大特征值对应特征向量 = 网页重要性排名。谷歌起家算法。

PCA 人脸压缩

协方差矩阵大特征值 = 主成分，扔掉小特征值实现降维——人脸特征提取、图像降噪。

振动模态

结构刚度/质量矩阵求特征值 = 固有频率。塔科马大桥被风振塌，就是没躲开那个频率。

量子力学

哈密顿算符的特征值 = 能量本征值——能级量子化的数学根源。

⑤ 延展

展知识衔接地图

往研究生走：矩阵特征值 → 算子的谱理论（泛函分析）；对称矩阵的正交对角化是谱定理。往 AI 走：PCA、LDA、谱聚类、Google PageRank——特征值是数据科学的心脏。

思维陷阱

以为特征向量"固定不变"。它是"在这个矩阵变换下方向不变"的向量。换个矩阵，同样的向量可能被转歪。

特征向量乘任何非零倍数还是同一个。方向没变，长度无所谓——它只定方向。

练习

【基础】A = [3 0; 0 5] 的特征值？

查看思路与解答

对角矩阵：λ=3 和 5。

【自评反馈】和答案对得上 → 继续下一题；对不上 → 回到本页"是什么"和例题区，把卡住的那步再推一遍。

【进阶】为什么对称矩阵的特征值一定是实数？

查看思路与解答

这是谱定理的结论：实对称矩阵可以正交对角化，正交矩阵保长度保角度，特征值必为实数，不同特征值的特征向量正交。这也是 PCA 能跑的保证。

【自评反馈】和答案对得上 → 继续下一题；对不上 → 回到本页"是什么"和例题区，把卡住的那步再推一遍。

费曼学习法：讲给别人听

① 用自己的话讲：特征向量是被矩阵变换后"方向纹丝不动"的向量，特征值就是它被拉长或压扁的倍数。

② 举个反例（什么条件下不成立）：实矩阵可能根本没有实特征值（旋转 90° 的矩阵）；特征值重根时未必凑得够特征向量来对角化。

③ 哪里还说不清：为什么 PCA、SVD、PageRank 都在绕着特征值打转？

记

小结卡

① Av=λv：方向不变只拉伸；特征方程 det(A−λI)=0。

② 特征值 = 数据的性格：大值是主趋势、小值是噪声；PageRank、PCA、振动模态全靠它。