[线性代数] - 矩阵范数

向量范数

设是数域$\mathbf{F}$上的线性空间，如对$\mathbf{V}$中任意向量$\mathbf{a}$，
都有唯一的一个实数$\Vert{}\mathbf{a}\Vert{}$与之对应，且满足下条件：

• 非负性：$\Vert{}\mathbf{a}\Vert{} \geq 0$，且$\Vert{}\mathbf{a}\Vert{} = 0 \Leftrightarrow \mathbf{a} = 0$
• 齐次性：$\Vert{}k\mathbf{a}\Vert{} = |k| \cdot \Vert{}\mathbf{a}\Vert{}$
• 三角不等式：$\Vert{}\mathbf{a}+\mathbf{b}\Vert{} \leq \Vert{}\mathbf{a}\Vert{} + \Vert{}\mathbf{b}\Vert{}$

则称$\Vert{}\mathbf{a}\Vert{}$为向量$\mathbf{a}$的范数

赋范线性空间

定义了范数的线性空间称为赋范线性空间

不同的向量范数

$2-$范数：$\Vert{}\mathbf{x}\Vert{} = \sqrt{|x_1|^2 + |x_2|^2 + \cdots + |x_n|^2}$
$1-$范数：$\Vert{}\mathbf{x}\Vert{} = |x_1| + |x_2| + \cdots + |x_n|$
$\infty-$范数：$max\lbrace|x_1|, |x_2|, \cdots, |x_n|\rbrace$

同一个线性空间可定义不同的范数

设$\mathbf{V}^n$是线性空间$\lbrace a_1, a_2, \cdots, a_n \rbrace$是$\mathbf{V}^n$的基，设$\mathbf{V}^n$中向量$\mathbf{a}$在基$\lbrace a_1, a_2, \cdots, a_n \rbrace$下的坐标为

$\mathbf{x} = \begin{bmatrix} x_1 & x_2 & \cdots & x_n \end{bmatrix}$

则可定义向量$\mathbf{a}$的范数为

$\Vert{}a\Vert{}_2 = \sqrt{\sum_{i=1}^n|x_i|^2}$

矩阵范数

若对任意的方阵$\mathbf{A} \in \mathbb{C}^{n\times n}$，存在一个实数$\Vert{}\mathbf{A}\Vert{}$与之对应，且满足

• $\Vert{}\mathbf{A}\Vert{}$是范数
• 相容性：$\Vert{}\mathbf{A}\mathbf{B}\Vert{} \leq \Vert{}\mathbf{A}\Vert{} \cdot \Vert{}\mathbf{B}\Vert{}$

则称$\Vert{}\mathbf{A}\Vert{}$为矩阵$\mathbf{A}$的矩阵范数

范数等价

设$\Vert{}\mathbf{a}\Vert{}_a, \Vert{}\mathbf{a}\Vert{}_b$是$n$维线性空间$\mathbf{V}$上定义的两种向量范数，如果存在两个与$\mathbf{a}$无关的整数$d_1, d_2$使得

$d_1\Vert{}\mathbf{a}\Vert{}_b \leq \Vert{}\mathbf{a}\Vert{}_a \leq d_2\Vert{}\mathbf{a}\Vert{}_b, \forall \mathbf{a} \in \mathbf{V}$

则称两个范数等价。

有限维实线性空间$\mathbf{V}^n$上的任意范数都是等价的。

Frobenius范数

对任意的方阵$\mathbf{A} \in \mathbb{C}^{n\times n}$，定义

$\Vert{}\mathbf{A}\Vert{}_F = \sqrt{\sum_{i=1}^n\sum_{j=1}^n|a_{ij}|^2} = \sqrt{tr(A^HA)}$

为$\mathbf{A}$的Frobenius范数

性质1

若$\mathbf{A} = \begin{bmatrix}a_1 & a_2 & \cdots & a_n\end{bmatrix}$，则

$\Vert{}\mathbf{A}\Vert{}_F = \sum_{i=1}^n\Vert{}\mathbf{a}_i\Vert{}^2_2$

其中$\Vert{}\mathbf{a}_i\Vert{}^2_2 = a^H_ia_i$

性质2

$\Vert{}\mathbf{A}\Vert{}^2_{m_2} = tr(A^HA) = \sum_{i=1}^n\lambda_i(A^HA)$

性质3

对于任何$m$阶阶酉矩阵$\mathbf{U}$与$n$阶酉矩阵$\mathbf{V}$都有等式

$\Vert{}\mathbf{A}\Vert{}_F = \Vert{}\mathbf{U}\mathbf{A}\Vert{}_F = \Vert{}\mathbf{A}^H\Vert{}_F = \Vert{}\mathbf{A}\mathbf{V}\Vert{}_F = \Vert{}\mathbf{U}\mathbf{A}\mathbf{V}\Vert{}_F$

证明：

$\begin{aligned} \Vert{}\mathbf{A}^2_{m_2}\Vert{} &= tr(A^HA) \\ &= tr(AA^H) \\ &= tr(A\color{red}VV^H\color{black}A^H) \\ &= tr(AV(AV)^H) \\ &= tr((AV)^HAV) \\ &= tr(V^HA^HAV) \\ &= tr(V^HA^H\color{red}UU^H\color{black}AV) \\ &= tr((U^HAV)^H(U^HAV)) \\ &= \Vert{}U^HAV\Vert{}^2_{m_2} \end{aligned}$