線性代數是代數學的一個分支,主要處理線性問題。線性問題是指數學對象之間的關係是以一次形式來表達的。線性代數誕生於求解線性方程組。行列式、矩陣和向量是處理線性問題的有力工具。
線性代數與人工智慧的聯繫:
1)神經網絡中的所有參數都被存儲在矩陣中;線性代數使矩陣運算變得更加快捷簡便,尤其是在GPU上訓練模型時,因為GPU可以並行地以向量和矩陣運算。
2)圖像在計算中被表示為按序排列的像素數組。
3)視頻遊戲使用龐大的矩陣來產生令人炫目的遊戲體驗。
一、標量、向量與矩陣
標量(Scalar):一個數,例如:x=3。
向量(Vector):一個有序排列的列數,例如:
矩陣(Matrix):由mxn個數aii(i=1,2,…,m;i=1,2,…,n)排成m行n列的數表,記作:
特殊地,行數與列數都等於n的矩陣稱為n階矩陣或n階方陣。
向量與矩陣應用實例:在計算機視覺中,一張圖片會以矩陣的形式進行存儲。在處理圖像時,常常會把圖像矩陣轉換為一個向量來處理。
二、張量
張量(Tensor)是深度學習中的一個重要概念,是TensorFlow、Pytorch等很多深度學習框架重要組成部分。深度學習中的很多運算與模型優化過程都是基於tensor完成。
張量定義:一個多維數組。零階張量:標量;一階張量:向量;二階張量:矩陣。
三、矩陣的運算
四、線性分類器
總共3類(貓、車和人),對一張圖片(通過圖像處理將圖像處理為只由6像素點組成)進行分類,以最簡單的線性分類器為例:
y=wx+b