关于矩阵正定

Last updated on:4 months ago

由于最近学习最优化理论和自动控制原理中都不约而同的出现了正定的概念,所以这里回来总结一下,加深对概念的理解。

基本概念

Hermite矩阵

矩阵$\pmb{A} = [a_{ij}\in M_n]$($M_n$表示$n\times n$复矩阵)称为Hermite的(Hermitian),如果$A=A*$;它是斜Hermite的(Skew Hermitian),如果$A=-A*$。$A*$表示$A$的共轭转置。

二次型

二次型的对称矩$\pmb{A}$是一种Hermite矩阵。

齐次多项式:化简后的方程所有非零项的指数相等。

含有n个变量$x_1, x_2,…,x_n$的二次齐次多项式

$$f(x_1, x_2, …, x_n) = a_{11} x_1^2 + a_{22} x_2^2 + … +$$

$$a_{nn} x^2_n + 2a_{12}x_1 x_2 + 2a_{13}x_1 x_3 + … +$$

$$2a_{n-1 n}x_{n-1} x_n$$

称为n元二次型。其中系数$$a_{ij}$$为实数时,称为实二次型,$$a_{ij}$$为复数时,称为复二次型。上式还可写成:

$$f(\pmb{x}) = \sum^n_{i,j=1} a_{ij} x_i x_j = \pmb{x}^T \pmb{A}\pmb{x}$$

其中,$a_{ij}$记为矩阵$\pmb{A}$的元素,$x_k$即为向量$\pmb{x}$中的元素。

只含平方项的二次型称为二次型的标准型:

$$f = \pmb{x}^T \pmb{\Lambda}\pmb{x}$$

正定二次型

正定二次型$f(\pmb{x}) = \pmb{x}^T \pmb{A}\pmb{x}$,如果对任何$\pmb{x}\neq\pmb{0}$都有$f(\pmb{x})>0$(显然$f(\pmb{0}) = 0$),则称$f$为正定二次型,并称对阵矩阵$\pmb{A}$是正定的;反之,如果对任何$\pmb{x}\neq\pmb{0}$都有$f(\pmb{x})<0$,则称$f$为负定二次型,并称对阵矩阵$\pmb{A}$是负定的。

正定即大于0之意,反之负定小于0。

半正定和半负定

在前面定义中,$>0$改成$\ge 0$;$<0$改成$\le 0$。

性质

  • 对于任意二次型,总存在正交变换$\pmb{x} = \pmb{Py}$把$f$化成标准型。其中标准型的各个平方项系数即为二次型矩阵$\pmb{A}$的特征值,正交阵$\pmb{P}$的n个列向量对应特征值$\lambda_1, \lambda_2, …$的特征向量。

  • 实二次型$f(\pmb{x}) = \pmb{x}^T \pmb{A}\pmb{x}$为正定的充要条件实:它的标准型的$n$个系数全为正。

  • 接上,或对称矩阵$\pmb{A}$的特征值全为正;或$\pmb{A}$的各阶主子式都为正。

  • 对称矩阵$\pmb{A}$为负定的充要条件由赫尔维茨定理给出:奇数阶主子式为负,偶数阶主子式为正。

参考资料

[1] Definite matrix

[2] 同济大学数学系,线性代数,第3版,p261-262

[3] Roger A Horn, 矩阵分析,第2版,p365-441