本科数学 · 二次型与正定矩阵

二次型与正定矩阵

Quadratic Form · 曲面是碗还是马鞍

【章首引子】你在多元函数的某个驻点附近，弯成的曲面是一只碗（只有一个最低点），还是一个倒扣的碗（只有一个最高点），还是一座马鞍（两头翘两头塌）？这个形状由海森矩阵的正定性决定。AI 训练判断"是不是真到了谷底"，靠的就是它。

① 是什么：二次多项式塞进矩阵

啥二次型与正定

二次型：把二次多项式（ax²+bxy+cy²）写成矩阵形式 xᵀAx。正定矩阵：对任何非零向量 x，都有 xᵀAx > 0。对应的曲面是"开口向上的碗"，只有一个最低点。

判据：正定 ⇔ 所有特征值都 > 0（或顺序主子式全 > 0）。负定全 < 0（倒扣的碗）；不定就是马鞍。

② 怎么想到的

思解题心法

写矩阵：平方项系数放对角线，交叉项 xy 的系数一半放 (1,2)、一半放 (2,1)。

证二次型与正定矩阵的核心定理与公式

核心定理：①任意二次型 $f(x)=x^{\top}Ax$（$A$ 对称）都可经正交变换 $x=Qy$ 化成标准形 $f=\lambda_1y_1^{2}+\cdots+\lambda_ny_n^{2}$，$\lambda_i$ 是 $A$ 的特征值。②正定的四个等价说法：所有特征值 $>0$ $\Leftrightarrow$ 所有顺序主子式 $>0$（Sylvester 准则）$\Leftrightarrow$ 对一切 $x\neq 0$ 有 $x^{\top}Ax>0$ $\Leftrightarrow$ 存在可逆 $C$ 使 $A=C^{\top}C$。③惯性定理：标准形中正项、负项、零项的个数在可逆线性变换下不变。④正定矩阵有唯一的 Cholesky 分解 $A=LL^{\top}$（$L$ 下三角且对角元为正）。

推导思路：①设 $A$ 正定，$\lambda$ 是它的任一特征值，$v\neq 0$ 是对应的特征向量，即 $Av=\lambda v$。②在等式两边左乘 $v^{\top}$，得 $v^{\top}Av=\lambda\,v^{\top}v$。③正定的定义给出左边 $v^{\top}Av>0$（因为 $v\neq 0$）；而右边 $v^{\top}v=\|v\|^{2}>0$。④于是 $\lambda=\frac{v^{\top}Av}{\|v\|^{2}}>0$，即正定矩阵的每个特征值都为正。反过来若所有特征值为正，把任意 $x$ 按正交特征向量基展开成 $x=\sum c_iq_i$，则 $x^{\top}Ax=\sum\lambda_ic_i^{2}>0$，故正定。

直觉把握：正定矩阵对应一个碗口朝上的抛物面：$x^{\top}Ax$ 就是碗的高度，除了碗底之外处处为正，所以一定有唯一的最低点。半正定则是碗底可能有一条平沟（沿沟走高度不变）。AI/工程里，损失函数 Hessian 正定 $\Leftrightarrow$ 该点是严格局部极小；高斯分布的协方差矩阵必须正定，否则采样不出合法概率；二阶优化（牛顿法）也只在 Hessian 正定时才敢迈那一步。

算特征值或顺序主子式：全正=正定，全负=负定，有正有负=不定。

海森判极值：正定=极小，负定=极大，不定=鞍点。

③ 完整解法：三个例题

例题1：diag(2,5) 正定吗？

【审题】对角元 2、5。

思路：特征值就是对角元。

逐步解法：特征值 2、5 全 > 0。xᵀAx = 2x²+5y² > 0。正定，开口向上的碗。

例题2：海森特征值 3 和 −1

【审题】一正一负。

思路：不定。

逐步解法：一正一负 = 不定 = 鞍点，沿一个方向是碗底、另一方向是拱顶。既不是极大也不是极小。

例题3：协方差矩阵为什么半正定

【审题】xᵀΣx 是方差。

思路：方差不可能为负。

逐步解法：xᵀΣx 是"数据在 x 方向投影后的方差"，≥0，所以 Σ 半正定。这也是 PCA 特征值非负的保证。

正定性判据 $\text{正定} \Leftrightarrow \text{所有特征值} > 0 \Leftrightarrow \text{所有顺序主子式} > 0$
$\text{海森矩阵} H \text{正定} \rightarrow \text{极小点}$ | $\text{负定} \rightarrow \text{极大点}$ | $\text{不定} \rightarrow \text{鞍点}$

④ 用途与案例

优化：海森判极值

多元函数驻点处海森正定 = 真极小值点——牛顿法、凸优化的核心判据。

二次曲面分类

椭球面、双曲面、抛物面——用二次型正负定分类，解析几何的统一语言。

协方差矩阵

统计里协方差矩阵半正定，是所有多元统计（PCA、马氏距离）的数学地基。

机器学习凸性

损失函数海森半正定 = 凸函数 = 局部极小即全局极小，保证优化收敛。

⑤ 延展

展知识衔接地图

往研究生走：二次型 → 凸优化（凸集、凸函数、拉格朗日对偶），是运筹学与机器学习优化的理论核心。

思维陷阱

把"正定"当成"矩阵里所有数都是正数"。错！正定是二次型性质，不是元素正负。正定矩阵完全可以出现负数元素。判据看特征值或顺序主子式，别看元素。

练习

【基础】diag(−1, −3) 正定吗？

查看思路与解答

特征值 −1、−3 全 < 0，负定（倒扣的碗，极大值点）。

【自评反馈】和答案对得上 → 继续下一题；对不上 → 回到本页"是什么"和例题区，把卡住的那步再推一遍。

【进阶】二次型 x² + 4xy + 3y² 的矩阵是？

查看思路与解答

x² 系数 1、y² 系数 3 放对角；xy 系数 4 一半=2 放 (1,2) 和 (2,1)。矩阵 [1 2; 2 3]。

【自评反馈】和答案对得上 → 继续下一题；对不上 → 回到本页"是什么"和例题区，把卡住的那步再推一遍。

费曼学习法：讲给别人听

① 用自己的话讲：二次型就是二次多项式的矩阵写法；正定 = 对任何非零向量值都为正 = 碗口朝上、有唯一最低点。

② 举个反例（什么条件下不成立）：得顺序主子式全正才算正定；不定矩阵像马鞍，一个方向上翘、另一个方向下塌。

③ 哪里还说不清：正定为啥和"梯度下降一定收敛到谷底"绑在一起？

记

小结卡

① 二次型 = 二次多项式塞矩阵；正定 = 开口向上的碗（特征值全>0）。

② 海森正定帮你确认"这真是极小值"；正定看特征值不看元素。