範數

範數，是具有「長度」概念的函數。在線性代數、泛函分析及相關的數學領域，範數是一個函數，是矢量空間內的所有矢量賦予非零的正長度或大小。半範數可以為非零的矢量賦予零長度。

定義範數的矢量空間是賦范矢量空間；同樣，定義半範數的矢量空間就是賦半範矢量空間。

註：在二維的歐氏幾何空間 R中定義歐氏範數，在該矢量空間中，元素被畫成一個從原點出發的帶有箭頭的有向線段，每一個矢量的有向線段的長度即為該矢量的歐氏範數。

算子範數：

有限維空間上的範數具有良好的性質，主要體現在以下幾個定理：

性質1：

對於有限維賦范線性空間的任何一組基，範數是元素（在這組基下）的坐標的連續函數。

性質2（Minkowski定理）：

有限維線性空間的所有範數都等價。

性質3（Cauchy收斂原理）：

實數域（或複數域）上的有限維線性空間（按任何範數）必定完備。

性質4：

有限維賦范線性空間中的序列按坐標收斂的充要條件是它按任何範數都收斂。

常用範數：這裡以Cn空間為例，Rn空間類似。

一般來講矩陣範數除了正定性，齊次性和三角不等式之外，還規定其必須滿足相容性： 。

所以矩陣範數通常也稱為相容範數。

如果║·║α是相容範數，且任何滿足║·║β≤║·║α的範數║·║β都不是相容範數，那麼║·║α稱為極小範數。對於n階實方陣（或複方陣）全體上的任何一個範數║·║，總存在唯一的實數k>0，使得k║·║是極小範數。

註：如果不考慮相容性，那麼矩陣範數和向量範數就沒有區別，因為mxn矩陣全體和mn維向量空間同構。引入相容性主要是為了保持矩陣作為線性算子的特徵，這一點和算子範數的相容性一致，並且可以得到Mincowski定理以外的信息。

誘導的範數

把矩陣看作線性算子，那麼可以由向量範數誘導出矩陣範數

║A║ = max{║Ax║：║x║=1}= max{║Ax║/║x║：x≠0}

它自動滿足對向量範數的相容性

║Ax║ ≤ ║A║║x║

並且可以由此證明：

║AB║ ≤ ║A║║B║。

⒈ 上述定義中可以用max代替sup是因為有限維空間的單位閉球是緊的（有限開覆蓋定理），從而上面的連續函數可以取到最值。

⒉ 單位矩陣的算子範數為1。

常用的三種p-範數推導出的矩陣範數：

非誘導範數

矩陣譜半徑

A是n階方陣，λi是其特徵值，i=1,2，…，n。則稱特徵值的絕對值的最大值為A的譜半徑，記為ρ（A）。

註：注意要將譜半徑與譜範數（2-範數）區別開來，譜範數是指A的最大奇異值，即AH*A最大特徵值的算術平方根。

譜半徑是矩陣的函數，但不是矩陣範數。

譜半徑和範數的關係是以下幾個結論：

酉不變範數

如果範數║·║滿足║A║=║UAV║對任何矩陣A以及酉矩陣U,V成立，那麼這個範數稱為酉不變範數。

容易驗證，2-範數和F-範數是酉不變範數。因為酉變換不改變矩陣的奇異值，所以由奇異值得到的範數是酉不變的，比如2-範數是最大奇異值，F-範數是所有奇異值組成的向量的2-範數。反之可證明，所有的酉不變範數都和奇異值有密切聯繫：

Von Neumann定理：在酉不變範數和對稱度規函數（symmetric gauge function）之間存在一一對應關係。也就是說任何酉不變範數事實上就是所有奇異值的一個對稱度規函數。

具體內容見百度百科：

https://baike.baidu.com/item/範數/10856788?fr=aladdin