正定性

正定二次型

正定二次型的定义

定义：设 $Q(x)$ 是 $n$ 元二次型，如果对任意非零向量 $x$，都有： $Q(x) > 0$

则称 $Q(x)$ 为正定二次型。

正定矩阵的定义

定义：设 $A$ 是 $n$ 阶实对称矩阵，如果对任意非零向量 $x$，都有： $x^TAx > 0$

则称 $A$ 为正定矩阵。

正定二次型的例子

例 1：$Q(x_1, x_2) = x_1^2 + 2x_2^2$ 是正定二次型。

例 2：$Q(x_1, x_2, x_3) = x_1^2 + x_2^2 + x_3^2$ 是正定二次型。

正定性的判别法

特征值判别法

定理：实对称矩阵 $A$ 正定的充要条件是 $A$ 的所有特征值都是正数。

证明：

• 充分性：设 $A$ 的所有特征值都是正数，则通过正交对角化 $A = QDQ^T$，其中 $D$ 的对角元素都是正数。对任意非零向量 $x$，$x^TAx = x^TQDQ^Tx = y^TDy > 0$，其中 $y = Q^Tx$。
• 必要性：设 $A$ 正定，$\lambda$ 是 $A$ 的特征值，$\vec{x}$ 是对应的特征向量，则 $0 < \vec{x}^TA\vec{x} = \lambda\vec{x}^T\vec{x}$，所以 $\lambda > 0$。

顺序主子式判别法

定理：实对称矩阵 $A$ 正定的充要条件是 $A$ 的所有顺序主子式都是正数。

定义：设 $A = (a_{ij})$ 是 $n$ 阶矩阵，则：

• $A_1 = a_{11}$
• $A_2 = \begin{vmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{vmatrix}$
• $\dots$
• $A_n = |A|$

称为 $A$ 的顺序主子式。

判别法的比较

负定性和半正定性

负定二次型

定义：设 $Q(x)$ 是 $n$ 元二次型，如果对任意非零向量 $x$，都有： $Q(x) < 0$

则称 $Q(x)$ 为负定二次型。

半正定二次型

定义：设 $Q(x)$ 是 $n$ 元二次型，如果对任意向量 $x$，都有： $Q(x) \geq 0$

则称 $Q(x)$ 为半正定二次型。

半负定二次型

定义：设 $Q(x)$ 是 $n$ 元二次型，如果对任意向量 $x$，都有： $Q(x) \leq 0$

则称 $Q(x)$ 为半负定二次型。

不定二次型

定义：既不是正定也不是负定的二次型称为不定二次型。

正定性的应用

在优化中的应用

应用 1：二次函数的最优化 设 $f(x) = \frac{1}{2}x^TAx + b^Tx + c$，其中 $A$ 是正定矩阵，则 $f(x)$ 有唯一的最小值点。

应用 2：牛顿法 在牛顿法中，如果海森矩阵是正定的，则算法收敛。

在几何中的应用

应用 3：椭球面 正定二次型 $Q(x) = x^TAx$ 表示椭球面。

应用 4：距离度量 正定矩阵可以用来定义距离度量。

在数值分析中的应用

应用 5：矩阵分解 正定矩阵可以进行 Cholesky 分解：$A = LL^T$，其中 $L$ 是下三角矩阵。

正定矩阵的性质

基本性质

性质 1：正定矩阵的行列式大于零。

性质 2：正定矩阵的主对角元素都是正数。

性质 3：正定矩阵的逆矩阵也是正定矩阵。

性质 4：两个正定矩阵的和也是正定矩阵。

证明

证明性质 1： 设 $A$ 是正定矩阵，则 $A$ 的所有特征值都是正数，所以 $|A| = \prod_{i=1}^n \lambda_i > 0$。

证明性质 2： 设 $A$ 是正定矩阵，$e_i$ 是第 $i$ 个标准基向量，则 $0 < e_i^TAe_i = a_{ii}$。

练习题

练习 1

判断二次型 $Q(x_1,x_2) = x_1^2 + 2x_2^2$ 是否正定。

练习 2

判断矩阵 $A = \begin{pmatrix} 2 & 1 \\ 1 & 2 \end{pmatrix}$ 是否正定。

练习 3

判断二次型 $Q(x_1, x_2) = -x_1^2 - 2x_2^2$ 的正定性。

练习 4

判断矩阵 $A = \begin{pmatrix} 1 & 1 \\ 1 & 1 \end{pmatrix}$ 的正定性。

练习 5

证明：正定矩阵的行列式大于零。