文章目录
范数，是具有长度概念的函数。在线性代数、泛函分析及相关的数学领域，范数是一个函数，是矢量空间内的所有矢量赋予非零的正长度或大小。
1 向量范数
向量范数概念是三维欧式空间中向量长度概念的推广。
1.1 向量范数的定义
如果向量 x ∈ x\in x∈ R n R^n Rn(或 C n C^n Cn)的某个实值函数 N ( x ) = ∣ ∣ x ∣ ∣ N(x)=||x|| N(x)=∣∣x∣∣满足以下条件
- ∣ ∣ x ∣ ∣ ≥ 0 ||x||≥0 ∣∣x∣∣≥0(当且仅当 x = 0 x=0 x=0 时， ∣ ∣ x ∣ ∣ = 0 ||x||=0 ∣∣x∣∣=0) （非负性或正定性）
- ∣ ∣ α x ∣ ∣ = ∣ α ∣ ∣ ∣ x ∣ ∣ ||\alpha x||=|\alpha| ||x|| ∣∣αx∣∣=∣α∣∣∣x∣∣， ∀ α ∈ R （ 或 C ） \forall \alpha ∈R（或C） ∀α∈R（或C）（齐次性）
- ∣ ∣ x + y ∣ ∣ ≤ ∣ ∣ x ∣ ∣ + ∣ ∣ y ∣ ∣ ||x+y||≤||x||+||y|| ∣∣x+y∣∣≤∣∣x∣∣+∣∣y∣∣（三角不等式）
则称 N ( x ) N(x) N(x)是 R n R^n Rn(或 C n C^n Cn)上的一个向量范数（或模）。由三角不等式条件，可推得
- | ∣ ∣ x ∣ ∣ − ∣ ∣ y ∣ ∣ ||x||-||y|| ∣∣x∣∣−∣∣y∣∣ | ≤ ∣ ∣ x − y ∣ ∣ ≤||x-y|| ≤∣∣x−y∣∣
1.2 常用的向量范数
设向量 x = ( x 1 , x 2 , … , x n ) T ， y = ( y 1 , y 2 , … , y n ) T ∈ R n ( 或 C n ) x=(x_1,x_2,…,x_n)^T，y=(y_1,y_2,…,y_n)^T∈R^n (或C^n) x=(x1,x2,…,xn)T，y=(y1,y2,…,yn)T∈Rn(或Cn)，则
- 向量的 ∞ ∞ ∞-范数（最大范数）：向量元素绝对值最大的一个，即 ‖ x ‖ ∞ = m a x 1 ≤ i ≤ n ∣ x i ∣ ‖x‖_∞=max_{1≤i≤n}|x_i | ‖x‖∞=max1≤i≤n∣xi∣
- 向量的1-范数：向量元素绝对值的累加和，即 ‖ x ‖ 1 = ∑ i = 1 n ∣ x i ∣ ‖x‖_1=\sum_{i=1}^n{|x_i |} ‖x‖1=∑i=1n∣xi∣
- 向量的2-范数（欧式范数）：自身内积的平方根，即 ‖ x ‖ 2 = ( x , x ) 1 / 2 = ( ∑ i = 1 n x i 2 ) 1 / 2 ‖x‖_2=(x,x)^{1/2}=(\sum_{i=1}^n{x_i^2 })^{1/2} ‖x‖2=(x,x)1/2=(∑i=1nxi2)1/2
- 向量的p-范数： ‖ x ‖ p = ( ∑ i = 1 n ∣ x i ∣ p ) 1 / p , p ∈ [ 1 , ∞ ) ‖x‖_p=(\sum_{i=1}^n|x_i |^p )^{1/p},p∈[1,∞) ‖x‖p=(∑i=1n∣xi∣p)1/p,p∈[1,∞)
2 矩阵范数
矩阵范数是向量范数的推广。
2.1 矩阵范数的定义
如果矩阵 A ∈ R n × n A∈R^{n×n} A∈Rn×n的某个非负的实值函数 N ( A ) = ‖ A ‖ N(A)=‖A‖ N(A)=‖A‖，满足以下条件
- ∣ ∣ A ∣ ∣ ≥ 0 （ ∣ ∣ A ∣ ∣ = 0 ⇔ A = 0 ） ||A||≥0（||A||=0\hArr A=0） ∣∣A∣∣≥0（∣∣A∣∣=0⇔A=0）(正定条件)
- ∣ ∣ c A ∣ ∣ = ∣ c ∣ ∣ ∣ A ∣ ∣ ||cA||=|c|\ ||A|| ∣∣cA∣∣=∣c∣ ∣∣A∣∣，c为实数（齐次条件）
- ∣ ∣ A + B ∣ ∣ ≤ ∣ ∣ A ∣ ∣ + ∣ ∣ B ∣ ∣ ||A+B||≤||A||+||B|| ∣∣A+B∣∣≤∣∣A∣∣+∣∣B∣∣（三角不等式）
- ∣ ∣ A B ∣ ∣ ≤ ∣ ∣ A ∣ ∣ ∣ ∣ B ∣ ∣ ||AB||≤||A||\ ||B|| ∣∣AB∣∣≤∣∣A∣∣ ∣∣B∣∣
则称 N ( A ) N(A) N(A)是 R n × n R^{n×n} Rn×n上的一个矩阵范数（或模）。
2.2 常用的矩阵范数
设矩阵 A ∈ R n × n A∈R^{n×n} A∈Rn×n，则
- 矩阵A的 ∞ ∞ ∞-范数（行范数）：行元素之和的最大值，即 ‖ A ‖ ∞ = m a x 1 ≤ i ≤ n ∑ j = 1 n ∣ a i j ∣ ‖A‖_∞=max_{1≤i≤n}\sum_{j=1}^n|a_{ij}| ‖A‖∞=max1≤i≤n∑j=1n∣aij∣
- 矩阵A的1-范数（列范数）：列元素之和的最大值，即 ‖ A ‖ 1 = m a x 1 ≤ j ≤ n ∑ i = 1 n ∣ a i j ∣ ‖A‖_1=max_{1≤j≤n}∑_{i=1}^n|a_{ij}| ‖A‖1=max1≤j≤n∑i=1n∣aij∣
- 矩阵A的2-范数： ‖ A ‖ 2 = λ m a x ( A T A ) ‖A‖_2=\sqrt{λ_{max} (A^T A)} ‖A‖2=λmax(ATA)
