實變函數和泛函分析是區分工科生數學水平和數學係數學水平的關鍵課程，有一句話廣為流傳：「實變函數學實變，泛函分析心泛寒」，由此可知這兩門課的學習難度確實很大，然而數學不應該是一個令人費解的學科，造成學習困難的原因有很多，很多人不清楚數學內容的來源和背景，最後迷失在概念和概念之間的推理中，純形式的理解內容了。筆者一邊學習一邊總結，本文談論的是學習泛函分析（function analysis）之前需要知道的高觀點，歡迎讀者的批評指摘。
打開泛函分析的書，第一章介紹完距離空間之後緊接著就是概念轟炸。。開集/連續映射/閉集/可分可列性，這些概念雖然是為了後面的方便，但真的很容易把人繞暈，消磨了我們學習的激情，這也難怪天才如C.N.Yang也在抱怨：有那麼兩種數學書: 第一種你看了第一頁就不想看了, 第二種是你看了第一句話就不想看了。所以，最好的方式是學習之前先對泛函有個宏觀的把握，知道那些概念是服務於什麼的，這門學科的主旨是什麼。
我們先回顧一下線性代數的核心內容是什麼？顯然不是求和換角標行列式那些（並不是說這些不重要呀），線性代數研究的是n維向量和矩陣，向量是怎麼由一組正交基來表示，矩陣是算子，算子對向量產生一個變換，矩陣的特徵向量是經過矩陣變換之後，得到的新向量和原來仍然在一條直線上，實對稱矩陣可進一步進行譜分解。
泛函似乎是研究函數的，和線性代數有什麼關係呢？我們說，泛函是將函數當作無窮維向量來處理，這是本文的主旨。研究無窮維向量空間會遇到一個立馬的問題：向量的長度有可能等於無窮大。而我們只對那些長度（模）有限的無限維向量感興趣。函數算作無限維向量嗎？算，假設函數是sin x，顯然：
這裡，各元的平方是連續的，應將求和轉為積分。
在函數是無窮維向量這個觀點的指引下，泛函的結構和神韻都有可以類比到線性代數的地方。函數空間（無限維空間）的研究對象是函數和對函數的算子（處理，比如微分積分），緊接著要定義結構，結構就是函數的長度（範數），函數之間的內積。在內積的幫助下，像線性代數那樣，關心函數是不是能被分解以及被分解成正交函數的組合，當然這是可以的，正交函數系可以是，{sin，cos函數}，也可以是{勒讓德函數}，{貝塞爾函數}。同時函數空間裡的算子的特徵值，譜分解也被關心，算子和微分方程有天然聯繫，做PDE的人一般泛函都很好。
無窮維向量空間裡面極限的情形不再像數學分析裡面的極限那麼好處理了，所以極限也是泛函討論的重要內容，不過這些也是要服務於前面的觀點了。定義了緊性，是為了函數逼近，比如你前面提到的分別用一組正交函數系和多項式系去逼近一個函數，哪一個逼近的好？怎麼衡量？事實上，泛函裡面恰恰證明了，多項式空間不能完備。
對於機器學習研究者來說，泛函分析有沒有用呢？我也不知道，但是我一直覺得自己的research深度不夠，上周五聽了印臥濤關於非凸優化的seminar，這種感覺更加深了，所以開始看了一些。