線性代數27——對稱矩陣及正定性

1.2  為什麼是實特徵值？

 

　　矩陣的特徵值可能為虛數，但實對稱矩陣的特徵值一定是實數，這又是什麼原理？

　　先解釋一下共軛複數(conjugate complex number)：兩個實部相等，虛部互為相反數的複數互為共軛複數。當虛部不為零時，共軛複數就是實部相等，虛部相反；如果虛部為零，其共軛複數就是自身。複數z的共軛複數用z上面加一橫表示。

　　「軛」的本意是兩頭牛背上的架子，軛使兩頭牛同步行走。共軛是指按一定的規律相配的一對。

　　如果實矩陣A有特徵值λ和特徵向量x，則Ax=λx。如果λ是複數，則λ的共軛複數滿足：

　　如果等號兩側同時轉置：

　　λ是對角矩陣，其共軛仍然是對角矩陣，因此：

　　兩側同時乘以x：

　　另一方面，將Ax=λx兩側同時乘以x共軛的轉置：

　　現在假設A是對稱矩陣，則①和②相等，即：

　　根據共軛複數的定義，如果一個複數的共軛等於這個數本身，那麼其虛部為0，即這個數是實數。

　　現在的問題是如何證明？

　　對於虛數來說，i2=-1，(bi)2=-b2。對於複數來說，z=a+bi來說，它的模幾何意義是複平面上一點(a,b)到原點的距離，模長的計算公式是：

　　因此：

　　對於復矩陣來說，若A是共軛對稱復矩陣，即，那麼上面的推導仍然成立，A的特徵值也是實數。

1.3  朝向正交向量的投影矩陣

　　對於一個實對稱矩陣A=AT，可以寫成下面的形式：

　　根據投影矩陣的定義：向量b的在向量a上的投影是一個矩陣作用在b上得到的，這個矩陣就叫做投影矩陣（Projection Matrix），用大寫的P表達：

　　由於Q中的向量是正交向量，因此：

　　所以qkqkT是某個向量在qk上的投影矩陣，因此每一個對稱矩陣也是朝向正交向量的投影矩陣的線性組合。

1.4  特徵值的符號

　　我們已經知道對稱矩陣的特徵值是實數，下一個問題是弄清它們的符號，這對微分方程來說意味著狀態是否穩定。

　　我們可以通過計算的方式求解特徵值，然後回答特徵值的符號問題，但對於一個大型矩陣來說，通過計算det(A-λI) = 0來求解特徵值並不容易。值得慶幸的是，對於對稱矩陣來說，主元和特徵值存在著相關性：主元和特徵值的個數一樣，且正負主元的個數都和正負特徵值的個數相同。

02    正定矩陣

—

　　正定矩陣是一類特殊的實對稱矩陣，如果一個矩陣M滿足對於任何非零向量z，都有zTMz> 0，那麼這個矩陣是正定矩陣。

 

　　正定矩陣有很多重要的性質，其中一個是：正定矩陣的特徵值和主元都是正數。

 

　　來看一個正定矩陣：

　　首先A是一個對稱矩陣，現在來計算一下它的主元。可以通過化簡行階梯矩陣的形式求得主元，在經過變換後，矩陣表示的「數表」改變了，但是如果將矩陣看方程組，那麼方程組的本質沒有變，可以將初等變換看成方程組的消元過程。

　　兩個主元是5和11/5。另一種方式或許更為簡單，原矩陣中轉換成上三角矩陣的時候，一定能變成下面的形式：

　　它的行列式是主對角線元素的乘積，行列式的值又和原矩陣的行列式相等，因此a=det(A)/5=11/5。

　　類似地，可對角化的矩陣可也以化成對角元素都是其特徵值的對角矩陣，而行列式的值不變，對角矩陣的行列式就是對角元素相乘，因此A的行列式也等於A的特徵值的乘積。

　　特徵值：

2.1  與行列式的關係

　　正定矩陣的主元和特徵值都是正數，因此可以確定其行列式也是正數（行列式等於主元的乘積，也等於所有特徵值的乘積），但行列式是正數的矩陣不一定是正定矩陣，比如下面這個矩陣，雖然行列式是正值，但並不是一個正定矩陣，甚至都不是對稱矩陣：

　　如果把行列式作為正定矩陣的判定依據，則對於n階矩陣來說，需要矩陣左上角的所有k×k (1≤k≤n)子行列式均為正，才能判定矩陣是正定矩陣。

2.2  正定矩陣的性質

　　正定矩陣都是可逆的。

　　矩陣可逆的條件是行列式不等於0，行列式等於特徵值的乘積，正定矩陣的性質又規定特徵值是正數，因此正定矩陣的行列式一定大於0，是可逆矩陣。

　　

　　只有正定的投影矩陣才是單位矩陣。

　　如果P是投影矩陣，那麼P的特徵值要麼是0，要麼是1。如果P是正定的，那麼根據定義，它的特徵值只能是1，特徵值矩陣是單位矩陣，因此：

　　

　　如果D是一個對角元素都是正數的對角矩陣，那麼D一定是個正定矩陣。

　　對角矩陣肯定是對稱的，對於任何非零向量x來說：

　　滿足正定矩陣的定義。

　　

　　若A是正定矩陣，則A的逆矩陣也是正定矩陣。

　　首先證明矩陣A的逆是對稱矩陣。因為A是正定的，所以：

　　再證明xTA-1x > 0

　　A是正定矩陣，對於任意向量u來說，uTAu > 0，因此xTA-1x > 0，A-1也是正定矩陣。

　　

　　兩個正定矩陣的和是正定矩陣。

　　

　　正實數與正定矩陣的乘積是正定矩陣。