人工智慧數學基礎-線性代數3:線性空間、線性相關及基

2021-02-19 老猿Python
一、向量空間(線性空間)及基域

線性空間是在考察了大量的數學對象(如幾何學與物理學中的向量,代數學中的n元向量、矩陣、多項式,分析學中的函數等)的本質屬性後抽象出來的數學概念。

1.1、詳細定義

向量空間也稱線性空間,設V是一個非空集合,P是一個數域。若:

在V中定義了一種運算,稱為加法,即對V中任意兩個元素α與β都按某一法則對應於V內惟一確定的一個元素α+β,稱為α與β的和;

在P與V的元素間定義了一種運算,稱為純量乘法(亦稱數量乘法),即對V中任意元素α和P中任意元素k,都按某一法則對應V內惟一確定的一個元素kα,稱為k與α的積;

加法與純量乘法滿足以下條件:
1)、α+β=β+α,對任意α,β∈V.
2)、α+(β+γ)=(α+β)+γ,對任意α,β,γ∈V.
3)、存在一個元素0∈V,對一切α∈V有α+0=α,元素0稱為V的零元.
4)、對任一α∈V,都存在β∈V使α+β=0,β稱為α的負元素,記為-α.
5)、對P中單位元1,有1α=α(α∈V).
6)、對任意k,l∈P,α∈V有(kl)α=k(lα)
7)、對任意k,l∈P,α∈V有(k+l)α=kα+lα.
8)、對任意k∈P,α,β∈V有k(α+β)=kα+kβ
則稱V為域P上的一個線性空間,或向量空間。V中元素稱為向量,V的零元稱為零向量,P稱為線性空間的基域。當P是實數域時,V稱為實線性空間;當P是複數域時,V稱為複線性空間。

1.2、公理化定義

設F是一個域。一個F上的向量空間是一個集合V的兩個運算:

 向量加法: V + V → V, 記作 v + w,v、w∈V

 標量乘法: F × V → V, 記作 a·v, a∈F, v∈V

 符合下列公理 (∀ a, b ∈ F 及 u, v, w ∈ V):

向量加法結合律:u + (v + w) = (u + v) + w;

向量加法交換律:v + w = w + v;

向量加法的單位元:V裡有一個叫做零向量的 0,∀ v ∈ V , v + 0 = v;

向量加法的逆元素:∀v∈V, ∃w∈V,使得 v + w = 0;

標量乘法分配於向量加法上:a(v + w) = a v + a w;

標量乘法分配於域加法上: (a + b)v = a v + bv;

標量乘法一致於標量的域乘法: a(b v) = (ab)v;

標量乘法有單位元: 1 v = v, 這裡 1 是指域 F的乘法單位元。

V 閉合在向量加法下:v + w ∈ V

V 閉合在標量乘法下:a v ∈ V

有些教科書還強調以下兩個公理:
V 閉合在向量加法下:v + w ∈ V
V 閉合在標量乘法下:a v ∈ V

V的成員叫作向量,而F的成員叫作標量。若F是實數域R,V稱為實向量空間;若F是複數域C,V稱為復向量空間;若F是有限域,V稱為有限域向量空間;對一般域F,V稱為F-向量空間。

向量空間舉例

若V為數域P上全體m×n矩陣組成的集合Mmn§,V的加法與純量乘法分別為矩陣的加法和數與矩陣的乘法,則Mmn§是數域P上的線性空間,V中向量就是m×n矩陣;

域P上所有n元向量(a1,a2,…,an)構成的集合P對於加法:(a1,a2,…,an)+(b1,b2,…,bn)=(a1+b1,a2+b2,…,an+bn)與純量乘法:λ(a1,a2,…,an)=(λa1,λa2,…,λan)構成域P上的線性空間,稱為域P上n元向量空間。

二、線性相關和線性無關2.1、線性表示

假定a1、a2、…、as是s個n維向量,k1,…,ks是s個數,那麼:
k1a1+k2a2+…+ksas
稱其為a1、a2、…、as的線性組合,如果:
a = k1a1+k2a2+…+ksas
那麼a也是a1、a2、…、as的線性組合,或者叫a1、a2、…、as的線性表示。

2.2、線性相關、線性無關

在一個線性空間中,如果一組向量a1、a2、…、as(其中s>=1)從:
k1*a1+k2*a2+.+ks*as = 0
可以推出k1=k2=…=ks=0,則稱這組向量線性無關。

反之,如果在一個線性空間中,如果存在一組不全為0的k1、k2、…、ks(s>=1),一組向量a1、a2、…、as有如下等式成立:
k1*a1+k2*a2+.+ks*as = 0
則稱這組向量線性相關。

https://www.zhihu.com/question/21605094

2.3、線性子空間

 設W為向量空間 V 的一個非空子集,若W在 V 的加法及標量乘法下是封閉的,且零向量0 ∈ W,就稱W為 V 的線性子空間

 給出一個向量集合 B,那麼包含它的最小子空間就稱為它的擴張,記作 span(B)。另外可以規定空集的擴張為{0}

 給出一個向量集合 B,若它的擴張就是向量空間 V, 則稱 B 為 V 的生成集合

 給出一個向量集合 B,若B是線性無關的,且B能夠生成V,就稱B為V的一個基。若 V={0},唯一的基是空集。對非零向量空間 V,基是 V 最小的生成集

三、極大線性無關組3.1、簡介

極大線性無關組(maximal linearly independent system)是在線性空間中擁有向量個數最多的線性無關向量組。

設V是域P上的線性空間,S是V的子集。若S的一部分向量線性無關,但在這部分向量中,加上S的任一向量後都線性相關,則稱這部分向量是S的一個極大線性無關組。

V中子集的極大線性無關組不是唯一的,例如,V的基都是V的極大線性無關組。它們所含的向量個數(基數)相同。V的子集S的極大線性無關組所含向量的個數(基數),稱為S的秩。只含零向量的子集的秩是零。

V的任一子集都與它的極大線性無關組等價。特別地,當S等於V且V是有限維線性空間時,S的秩就是V的維數。

3.2、定義

設有向量組 A:a1、a2、…、as ,若 A中能選出r個向量 ,滿足:
(1)向量組 A0:a1、a2、…、ar 線性無關;
(2) 向量組A 中任意r+1個向量(若有的話)都線性相關,則稱向量組A0是向量組A的一個極大線性無關組(簡稱為極大無關組)。

線性方程組係數矩陣的極大線性無關組稱為該線性方程組的基礎解系。

四、線性空間的基

前面2.2部分簡單介紹了基的概念,由於基的重要性,本部分對基進行一個詳細的介紹。

4.1、簡介

在線性代數中,基(basis)(也稱為基底),線性空間的基(basis of a linear space)是描述、刻畫向量空間的基本工具。

向量空間的基是它的一個特殊的子集,基的元素稱為基向量。向量空間中任意一個元素,都可以唯一地表示成基向量的線性組合。如果基中元素個數有限,就稱向量空間為有限維向量空間,將基中元素的個數稱作向量空間的維數。

不是所有空間都擁有由有限個元素構成的基底。這樣的空間稱為無限維空間。某些無限維空間上可以定義由無限個元素構成的基。

任何向量空間都擁有一組基。一個向量空間的基不止一組,但同一個空間的兩組不同的基,它們的元素個數或勢(當元素個數是無限的時候)是相等的。

一組基裡面的任意一部分向量都是線性無關的;反之,如果向量空間擁有一組基,那麼在向量空間中取一組線性無關的向量,一定能將它擴充為一組基。

4.2、定義

給定一個向量空間V ,V的一組基B是指V裡面的可線性生成V的一個線性無關子集。B的元素稱為基向量。

更詳細來說,設B={e1,e2,…,en}是在係數域F(比如實數域R或複數域C)上的向量空間V的有限子集。如果 滿足下列條件:

就說B 是向量空間V 的一組基。第二個條件中,將一個向量v∈V表示成λ1*e1+λ2*e2+...+λn*en的形式,稱為向量 v在基底下的分解。(λ1,λ2,…,λn)稱為向量v在基底B下的分量表示。

只存在有限基的向量空間叫做有限維的空間。要處理無限維的空間,必須把上述基的定義推廣為包括無限的基集合。如果向量空間V的一個子集 (有限或無限)B滿足:
它的所有有限子集B』⊂B,滿足上面的第一個條件(即線性無關);
對任意v∈V,可以選擇(λ1,λ2,…,λn)∈Fn,以及e1、e2、…、en∈B,使得:
v = λ1*e1+λ2*e2+...+λn*en。
就稱B是無限維空間V的一組基。

4.3、解釋

設B是向量空間V的子集,則B是基,若且唯若滿足了下列任一條件:

V是B的極小生成集,就是說只有B能生成V ,而它的任何真子集都不能生成全部的向量空間

B是V中線性無關向量的極大集合,就是說B在V中是線性無關集合,而且V中沒有其他線性無關集合包含它作為真子集

V中所有的向量都可以按唯一的方式表達為B中向量的線性組合。如果基是有序的,則在這個線性組合中的係數提供了這個向量關於這個基的坐標

另外關於基和向量空間有如下規則:

一個向量空間的所有基都擁有同樣的勢(元素個數),叫做這個向量空間的維度,這個結果叫做維度定理

任何的向量空間都擁有一組基,任何一組基都對應一個向量空間

如果向量空間擁有一組基,那麼每個線性無關的子集都可以擴張成一組基(也稱為基的擴充定理),每個能夠生成整個空間的子集也必然包含一組基。特別地,在任何線性無關集合和任何生成集合之間有一組基。以數學語言來說:如果L是在向量空間 中的一個線性無關集合而集合G是一個包含L而且能夠生成V的集合,則存在V 的一組基B,它包含了L而且是G的子集:L⊆B⊆G

n維線性空間中,任意n個線性無關的向量構成的向量組,都是空間的基。
相關證明需要使用更多的知識,老猿沒有進一步研究,大家記得即可。

4.4、例子

考慮所有坐標 (a,b)的向量空間R,這裡的a和b都是實數。則非常自然和簡單的基就是向量e1= (1,0)和e2= (0,1):假設v= (a,b)是R中的向量,則v=a(1,0) +b(0,1)。而任何兩個線性無關向量如 (1,1)和(−1,2),也形成R的一個基。

給定自然數n和n個線性無關的向量e1,e2, …,en,e1,e2, …,en可以在實數域上生成R。因此,它們也是一個基而R的維度是n,這個基叫做R的標準基

4.5、有序基和坐標

基是作為向量空間的子集定義的,其中的元素並不按照順序排列。為了更方便相關的討論,通常會將基向量進行排列。例如將:B={e1,e2,…,en} 寫成有序向量組:(e1,e2,…,en)。這樣的有序向量組稱為有序基。在有限維向量空間和可數維數的向量空間中,都可以自然地將基底表示成有序基。在有序基下,任意的向量都可以用確定的數組表示,該數組稱為向量的坐標。例如,在使用向量的坐標表示的時候習慣談論「第一個」或「第二個」坐標,這只在指定了基的次序前提下有意義。在這個意義下,有序基可以看作是向量空間的坐標架。

定義:在線性空間Vn(F)中,設{α1,α2,…,αn}是一組基,β為V中的一個元素,{α1,α2,…,αn,β}線性相關,故β可由α1,α2,…,αn唯一線性表示,因此有:

則稱數x1,x2,…,xn是β在基{α1,α2,…,αn}下的坐標。

更多參考資料請參考百度文庫關於基的介紹。

五、小結

本文介紹了線性空間的概念,線性空間又稱向量空間,每個線性空間都有對應的基域、零元,支持對應的向量加法和標量乘法。線性空間中的一組向量滿足向量加法及標量乘法在組內封閉,且組內包含零向量,則構成線性子空間。

線性空間中的多個向量構成的一組向量要麼是線性相關的,要麼是線性無關的。一個向量空間中的極大線性無關組是該向量空間的基,極大線性無關組所含向量的個數就是對應向量空間的維數。

寫博不易,敬請支持:

如果閱讀本文於您有所獲,敬請點讚、評論、收藏,謝謝大家的支持!

更多人工智慧數學基礎的介紹請參考專欄《人工智慧數學基礎 》

相關焦點

  • 線性代數學習之線性相關,線性無關與生成空間
    繼續接著上一次線性代數學習之線性系統的線性代數的學習繼續向前,這次則開始要接觸線性代數領域更加核心更加關鍵的內容:什麼是線性相關?
  • 線性代數精華——向量的線性相關
    向量這個概念我們在高中就接觸到了,它既指一個點在空間中的坐標,也表示一個有向線段,如果我們加入複數概念的話,它還能表示一個數。在線性代數當中,向量就是指的n個有次序的數組成的數組。向量可以寫成一行,也可以寫成一列。寫成一列的稱為列向量,例如:
  • 線性代數的本質--對線性空間、向量和矩陣的直覺描述
    即便如此,不少人即使能夠很熟練地以線性代數為工具進行科研和應用工作,但對於很多這門課程的初學者提出的、看上去是很基礎的問題卻並不清楚。比如說:1、矩陣究竟是什麼東西?2、向量可以被認為是具有n個相互獨立的性質(維度)的對象的表示,矩陣又是什麼呢?3、我們如果認為矩陣是一組列(行)向量組成的新的複合向量的展開式,那麼為什麼這種展開式具有如此廣泛的應用?
  • 線性代數(Gelbert)---線性變換
    Gelbert說理解線性變換,就是找到線性變換對應的矩陣。至少對於這門課,就是這麼回事兒。為了確定矩陣需要引入坐標系,選定一組基。例如,將一個三維向量映射成二維向量(輸入三維輸出二維),就是說T(v) = Av中,v是3×3,T(v)是2×2,那根據之前學過的矩陣乘法,很明顯A是2×3的。    線性變換作用於向量大概就是這樣了,它可以作用於空間中所有的向量。
  • 用直觀的方法理解抽象的概念——擴張空間(線性代數)
    除了一個出色的、高效的生物學特徵外,它還說明了線性代數中的一個重要概念:擴張空間。為了直觀地解釋擴張空間,我將給你一個類比,就像我解釋線性相關一樣。這是用色彩組合來解釋線性代數概念的第二部分。第一部分是關於線性相關的,你可以在這裡讀到用直觀的方法理解抽象的概念——線性相關(線性代數)。紅色和黃色的跨度想像你是一個畫家,面前有一張空白畫布的。
  • 2020考研數學線性代數重點內容與常見題型:線性方程組
    2020考研已經進入暑期尾聲,暑期考研複習對於整個考研複習階段來說非常關鍵,關於考研數學大家複習的怎麼樣了?在考研數學中,線性代數相對來說是比較簡單的學科,下面就大家整理了線性代數重點內容與常見題型,希望能幫助大家更好的複習!
  • 解析2015年考研數學線性代數基礎階段複習
    但僅看教材,備考數學還是不夠的,所以還必須認真學習專門針對考研的基礎教程,基礎教程的內容一般包括知識點(和教材相比更有針對性,帶總結性),典型例題(和教材相比更貼近考研,綜合性更強)和鞏固習題。以下從三方面講一講基礎階段如何複習好線性代數。一掌握基本概念,建立知識框架。
  • Lecture 9 | 線性相關、基、維數
    K1X1+K2X2+……+KnXn≠0(not all Ki=0)當向量組(一組向量,大於等於2個)線性無關時,不存在結果為0向量的線性組合。反之如果存在這樣的線性組合,那麼這組向量線性相關。概念比較抽象,具體理解的話直接從例子出發。假設二維空間中,有三個向量L1=(1,1),L2=(2,2),L3=(1,2)。
  • 用直觀的方法理解抽象的概念——線性相關(線性代數)
    線性代數教科書簡直就是一本充滿各種術語的字典,這些術語晦澀難懂,難以理解。學生們在考試前,只有幾個月的時間來理解特徵值,特徵向量,厄米特矩等。令人沮喪的是,老師通常不會在課堂上教矩陣的空間感、或者解釋方程的深刻含義。相反,他們只是讓你死記硬背解題方法,最終通過錯誤學習方法得到正確的答案,線性代數最終竟然被說成了是「文科」,背就可以了。
  • 2016考研數學線性代數大綱考點和常考題型(二)
    研究生入學考試中,線性代數是數一、數二、數三考生研究生考試的公共內容,佔22%(總分150分),考察2個選擇題(每題4分,共8分)、1個填空題(每題4分,共8分)、2個解答題(總分22分)。線性代數相對考研數學高數來說,比較簡單,要想取得好的成績,線代爭取不丟分。
  • 線性代數的應用----線性方程
    線性代數中的線性方程 介紹案例—經濟和工程領域的線性模型1949年的夏末,哈佛大學的教授 Wassily Leontief 正在將手中的最後一張穿孔卡插入 Mark II 計算機。這些穿孔卡存儲了關於美國的經濟信息以及美國勞工統計局兩年內收集的 250,000 條記錄數據。Leontief 將美國經濟分成了 500 個組,例如煤炭工業組,汽車工業組,通信組等等。
  • 考研數學之——線性代數解析!
    (2)向量組的線性相關性向量組的線性相關性是線性代數的重點,也是考研的重點。同學們一定要吃透向量組線性相關性的概念,熟練掌握有關性質及判定法並能靈活應用,還應與線性表出、向量組的秩及線性方程組等相聯繫,從各個側面加強對線性相關性的理解。(3)向量組等價要注意向量組等價與矩陣等價的區別。
  • 線性代數拾遺(一):線性方程組、向量方程和矩陣方程
    這本書不僅對線性代數的基本概念闡述地很直觀形象,而且還有許多現實生活中的應用,特別是經濟、物理、計算機領域,真正讓人領略到線性代數作為現代數學的魅力。我特將自己的讀書總結和體會記錄於此,也是希望藉此加深自己的理解。注意,這個系列假設你已經有了線性代數基礎,像是行變換、將矩陣轉換為行階梯形式這種基本技巧已經掌握。本文不再贅述具體操作步驟,主要關注於概念的直觀理解。
  • 2017考研數學線性代數方程組高頻考點
    關於線性代數關於解方程這部分的出題一般是會出一道大題,而向量的線性相關性問題一般轉化為線性方程組有無解的問題,因此同學們可以把兩者串聯在一起進行複習。下面為大家梳理線性代數方程組的相關知識與應用。
  • 2021山東考研線性代數衝刺各章節考察焦點:線性方程組
    2021山東考研線性代數衝刺各章節考察焦點:線性方程組 2020-12-05 15:22:39| 來源:中公教育 山東中公教育小編為了方便大家更好的備戰2021山東考研數學
  • 2020考研數學知識點:線性代數重點(齊次/非齊次線性方程組)
    2020考研數學知識點:線性代數重點(齊次/非齊次線性方程組) 2019-01-27 09:51:44| 來源:廣東考研信息
  • 人工智慧中的線性代數:如何理解並更好地應用它
    如果不掌握應用數學這個領域,你永遠就只能是「門外漢」。當然,學習線性代數道阻且長。數學,尤其是線性代數常與枯燥、複雜和毫無意義的事物聯繫起來。不過你還可以另闢蹊徑。閱讀完本文後,你將了解到:線性代數的本質;線性代數的真實應用場景;線性代數可用於 AI、ML 和數據科學的原因;學習線性代數最有效的方法。
  • 2013年考研數學大綱線性代數題型總結
    2013年考研數學大綱線性代數題型總結 http://kaoyan.eol.cn    跨考教育  2012-09-14  大 中 小   2013年考研數學大綱線性代數題型總結
  • 教資乾貨|中學數學線性代數考點分布梳理
    在中學教資考試中,線性代數分值佔比很大,在選擇題、簡答題、解答題都有出現。初入線性代數,會感覺很複雜,行列式、伴隨矩陣、逆矩陣、增廣矩陣、正交矩陣……乍一聽名字可能就把我們繞暈了,還有那麼多公式和計算,其實真正用心學下去,並沒有那麼難,而且筆試考試題難度相對容易,相比大學考試線性代數難度更容易一些。
  • 考研數學:線性方程組與線性微分方程的通解對比
    線性方程組是線性代數中的一個重要知識點,而線性微分方程是高等數學中微分方程部分的一個重要知識點,二者雖然分別屬於不同的數學課程內容,但其通解形式卻有著驚人的相似之處,有些同學在學習中感覺到了二者有相似之處,但並不十分清楚其相似在何處和怎麼相似,以及線性微分方程的通解是否包含其全部解,對此的蔡老師就這些問題做些歸納總結,供複習2018考研數學的同學和學習高等數學及線性代數的同學參考