形象易懂的傅立葉變換、短時傅立葉變換和小波變換

2021-02-15 極市平臺

從傅立葉變換到小波變換,並不是一個完全抽象的東西,可以講得很形象。小波變換有著明確的物理意義,如果我們從它的提出時所面對的問題看起,可以整理出非常清晰的思路。

下面我就按照傅立葉-->短時傅立葉變換-->小波變換的順序,講一下為什麼會出現小波這個東西、小波究竟是怎樣的思路。(反正題主要求的是通俗形象,沒說簡短,希望不會太長不看。。)

一、傅立葉變換

關於傅立葉變換的基本概念在此我就不再贅述了,默認大家現在正處在理解了傅立葉但還沒理解小波的道路上。(在第三節小波變換的地方我會再形象地講一下傅立葉變換)

下面我們主要講傅立葉變換的不足。即我們知道傅立葉變化可以分析信號的頻譜,那麼為什麼還要提出小波變換?答案就是@方沁園所說的「對非平穩過程,傅立葉變換有局限性」。看如下一個簡單的信號:

做完FFT(快速傅立葉變換)後,可以在頻譜上看到清晰的四條線,信號包含四個頻率成分。

一切沒有問題。但是,如果是頻率隨著時間變化的非平穩信號呢?

如上圖,最上邊的是頻率始終不變的平穩信號。而下邊兩個則是頻率隨著時間改變的非平穩信號,它們同樣包含和最上信號相同頻率的四個成分。

做FFT後,我們發現這三個時域上有巨大差異的信號,頻譜(幅值譜)卻非常一致。尤其是下邊兩個非平穩信號,我們從頻譜上無法區分它們,因為它們包含的四個頻率的信號的成分確實是一樣的,只是出現的先後順序不同。

可見,傅立葉變換處理非平穩信號有天生缺陷。它只能獲取一段信號總體上包含哪些頻率的成分,但是對各成分出現的時刻並無所知。因此時域相差很大的兩個信號,可能頻譜圖一樣。

然而平穩信號大多是人為製造出來的,自然界的大量信號幾乎都是非平穩的,所以在比如生物醫學信號分析等領域的論文中,基本看不到單純傅立葉變換這樣naive的方法。

上圖所示的是一個正常人的事件相關電位。對於這樣的非平穩信號,只知道包含哪些頻率成分是不夠的,我們還想知道各個成分出現的時間。知道信號頻率隨時間變化的情況,各個時刻的瞬時頻率及其幅值——這也就是時頻分析。

二、短時傅立葉變換(Short-time Fourier Transform, STFT)

一個簡單可行的方法就是——加窗。我又要套用方沁園同學的描述了,「把整個時域過程分解成無數個等長的小過程,每個小過程近似平穩,再傅立葉變換,就知道在哪個時間點上出現了什麼頻率了。」這就是短時傅立葉變換。

看圖:

時域上分成一段一段做FFT,不就知道頻率成分隨著時間的變化情況了嗎!

用這樣的方法,可以得到一個信號的時頻圖了:

——此圖像來源於「THE WAVELET TUTORIAL」

圖上既能看到10Hz, 25 Hz, 50 Hz, 100 Hz四個頻域成分,還能看到出現的時間。兩排峰是對稱的,所以大家只用看一排就行了。

是不是棒棒的?時頻分析結果到手。但是STFT依然有缺陷。

使用STFT存在一個問題,我們應該用多寬的窗函數?

窗太寬太窄都有問題:

窗太窄,窗內的信號太短,會導致頻率分析不夠精準,頻率解析度差。窗太寬,時域上又不夠精細,時間解析度低。

(這裡插一句,這個道理可以用海森堡不確定性原理來解釋。類似於我們不能同時獲取一個粒子的動量和位置,我們也不能同時獲取信號絕對精準的時刻和頻率。這也是一對不可兼得的矛盾體。我們不知道在某個瞬間哪個頻率分量存在,我們知道的只能是在一個時間段內某個頻帶的分量存在。所以絕對意義的瞬時頻率是不存在的。)

看看實例效果吧:

——此圖像來源於「THE WAVELET TUTORIAL」

上圖對同一個信號(4個頻率成分)採用不同寬度的窗做STFT,結果如右圖。用窄窗,時頻圖在時間軸上解析度很高,幾個峰基本成矩形,而用寬窗則變成了綿延的矮山。但是頻率軸上,窄窗明顯不如下邊兩個寬窗精確。

所以窄窗口時間解析度高、頻率解析度低寬窗口時間解析度低、頻率解析度高。對於時變的非穩態信號,高頻適合小窗口,低頻適合大窗口。然而STFT的窗口是固定的,在一次STFT中寬度不會變化,所以STFT還是無法滿足非穩態信號變化的頻率的需求。

三、小波變換

那麼你可能會想到,讓窗口大小變起來,多做幾次STFT不就可以了嗎?!沒錯,小波變換就有著這樣的思路。

但事實上小波並不是這麼做的(關於這一點,方沁園同學的表述「小波變換就是根據算法,加不等長的窗,對每一小部分進行傅立葉變換」就不準確了。小波變換並沒有採用窗的思想,更沒有做傅立葉變換。)
至於為什麼不採用可變窗的STFT呢,我認為是因為這樣做冗餘會太嚴重,STFT做不到正交化,這也是它的一大缺陷。

於是小波變換的出發點和STFT還是不同的。STFT是給信號加窗,分段做FFT;而小波直接把傅立葉變換的基給換了——將無限長的三角函數基換成了有限長的會衰減的小波基。這樣不僅能夠獲取頻率,還可以定位到時間了~

【解釋】

來我們再回顧一下傅立葉變換吧,沒弄清傅立葉變換為什麼能得到信號各個頻率成分的同學也可以再借我的圖理解一下。

傅立葉變換把無限長的三角函數作為基函數:

這個基函數會伸縮、會平移(其實本質並非平移,而是兩個正交基的分解)。縮得窄,對應高頻;伸得寬,對應低頻。然後這個基函數不斷和信號做相乘。某一個尺度(寬窄)下乘出來的結果,就可以理解成信號所包含的當前尺度對應頻率成分有多少。於是,基函數會在某些尺度下,與信號相乘得到一個很大的值,因為此時二者有一種重合關係。那麼我們就知道信號包含該頻率的成分的多少。

仔細體會可以發現,這一步其實是在計算信號和三角函數的相關性。

看,這兩種尺度能乘出一個大的值(相關度高),所以信號包含較多的這兩個頻率成分,在頻譜上這兩個頻率會出現兩個峰。

以上,就是粗淺意義上傅立葉變換的原理。

如前邊所說,小波做的改變就在於,將無限長的三角函數基換成了有限長的會衰減的小波基。

這就是為什麼它叫「小波」,因為是很小的一個波嘛~

從公式可以看出,不同於傅立葉變換,變量只有頻率ω,小波變換有兩個變量:尺度a(scale)和平移量 τ(translation)。尺度a控制小波函數的伸縮平移量 τ控制小波函數的平移尺度就對應於頻率(反比),平移量 τ就對應於時間

當伸縮、平移到這麼一種重合情況時,也會相乘得到一個大的值。這時候和傅立葉變換不同的是,這不僅可以知道信號有這樣頻率的成分,而且知道它在時域上存在的具體位置。

而當我們在每個尺度下都平移著和信號乘過一遍後,我們就知道信號在每個位置都包含哪些頻率成分

看到了嗎?有了小波,我們從此再也不害怕非穩定信號啦!從此可以做時頻分析啦!

做傅立葉變換隻能得到一個頻譜,做小波變換卻可以得到一個時頻譜

↑:時域信號

↑:傅立葉變換結果

——此圖像來源於「THE WAVELET TUTORIAL」
↑:小波變換結果

小波還有一些好處,比如,我們知道對於突變信號,傅立葉變換存在吉布斯效應,我們用無限長的三角函數怎麼也擬合不好突變信號:

然而衰減的小波就不一樣了:

以上,就是小波的意義。

--

以上只是用形象地給大家展示了一下小波的思想,希望能對大家的入門帶來一些幫助。畢竟如果對小波一無所知,直接去看那些堆砌公式、照搬論文語言的教材,一定會痛苦不堪。
在這裡推薦幾篇入門讀物,都是以感性介紹為主,易懂但並不深入,對大家初步理解小波會很有幫助。文中有的思路和圖也選自於其中:
1. THE WAVELET TUTORIAL (強烈推薦,點擊連結:Ihttp://users.rowan.edu/~polikar/WTtutorial.html)
2. WAVELETS:SEEING THE FOREST AND THE TREES
3. A Really Friendly Guide to Wavelets
4. Conceptual wavelets

但是真正理解透小波變換,這些還差得很遠。比如你至少還要知道有一個「尺度函數」的存在,它是構造「小波函數」的關鍵,並且是它和小波函數一起才構成了小波多解析度分析,理解了它才有可能利用小波做一些數位訊號處理;你還要理解離散小波變換、正交小波變換、二維小波變換、小波包……這些內容國內教材上講得也很糟糕,大家就一點一點啃吧~

-

一些問題的回答:

1. 關於海森堡不確定性原理

不確定性原理,或者叫測不準原理,最早出自量子力學,意為在微觀世界,粒子的位置與動量不可同時被確定。但是這個原理並不局限於量子力學,有很多物理量都有這樣的特徵,比如能量和時間、角動量和角度。體現在信號領域就是時域和頻域。不過更準確一點的表述應該是:一個信號不能在時空域和頻域上同時過於集中;一個函數時域越「窄」,它經傅立葉變換的頻域後就越「寬」。

如果有興趣深入研究一下的話,這個原理其實非常耐人尋味。信號處理中的一些新理論在根本上也和它有所相連,比如壓縮感知。如果你剝開它複雜的數學描述,最後會發現它在本質上能實現其實和不確定性原理密切相關。而且大家不覺得這樣一些矛盾的東西在哲學意義上也很奇妙嗎?

2. 關於正交化

什麼是正交化?為什麼說小波能實現正交化是優勢?

簡單說,如果採用正交基,變換域係數會沒有冗餘信息,變換前後的信號能量相等,等於是用最少的數據表達最大的信息量,利於數值壓縮等領域。JPEG2000壓縮就是用正交小波變換。

比如典型的正交基:二維笛卡爾坐標系的(1,0)、(0,1),用它們表達一個信號顯然非常高效,計算簡單。而如果用三個互成120°的向量表達,則會有信息冗餘,有重複表達。

但是並不意味著正交一定優於不正交。比如如果是做圖像增強,有時候反而希望能有一些冗餘信息,更利於對噪聲的抑制和對某些特徵的增強。

3. 關於瞬時頻率

原問題:圖中時刻點對應一頻率值,一個時刻點只有一個信號值,又怎麼能得到他的頻率呢?

很好的問題。如文中所說,絕對意義的瞬時頻率其實是不存在的。單看一個時刻點的一個信號值,當然得不到它的頻率。我們只不過是用很短的一段信號的頻率作為該時刻的頻率,所以我們得到的只是時間解析度有限的近似分析結果。這一想法在STFT上體現得很明顯。小波用衰減的基函數去測定信號的瞬時頻率,思想也類似。(不過到了Hilbert變換,思路就不一樣了,以後有機會細講)

4. 關於小波變換的不足

這要看和誰比了。

A.作為圖像處理方法,和多尺度幾何分析方法(超小波)比:
對於圖像這種二維信號的話,二維小波變換隻能沿2個方向進行,對圖像中點的信息表達還可以,但是對線就比較差。而圖像中最重要的信息恰是那些邊緣線,這時候ridgelet(脊波), curvelet(曲波)等多尺度幾何分析方法就更有優勢了。

B. 作為時頻分析方法,和希爾伯特-黃變換(HHT)比:
相比於HHT等時頻分析方法,小波依然沒脫離海森堡測不準原理的束縛,某種尺度下,不能在時間和頻率上同時具有很高的精度;以及小波是非適應性的,基函數選定了就不改了。

5. 關於文中表述的嚴謹性

評論中有不少朋友提到,我的一些表述不夠精準。這是肯定的,並且我也是知道的。比如傅立葉變換的理解部分,我所說的那種「乘出一個大的值」的表述肯定是不夠嚴謹的。具體我也在評論的回答中做了解釋。我想說的是通俗易懂和精確嚴謹實在難以兼得,如果要追求嚴謹,最好的就是教科書上的數學表達,它們無懈可擊,但是對於初學者來說,恐怕存在門檻。如果要通俗解釋,必然只能側重一個關鍵點,而出現漏洞。我想這也是教科書從來不把這些通俗解釋寫出來的原因吧——作者們不是不懂,而是怕寫錯。所以想深入理解傅立葉變換和小波變換的朋友還請認真學習教材,如果這篇文章能給一些初學者一點點幫助,我就心滿意足了。

歡迎關注我的專欄:形象易懂講解算法 - 知乎專欄(https://zhuanlan.zhihu.com/dong5)

同系列另一篇:形象易懂講解算法II--壓縮感知 - 知乎專欄(https://zhuanlan.zhihu.com/p/22445302)

本文最早發於回答:能不能通俗的講解下傅立葉分析和小波分析之間的關係?- 咚懂咚懂咚的回答

https://www.zhihu.com/question/22864189/answer/40772083

相關焦點

  • 【Brain】腦信號處理必備技能:由淺入深掌握傅立葉變換、短時傅立葉變換和小波變換(最新)
    從傅立葉變換到小波變換,並不是一個完全抽象的東西,可以講得很形象。小波變換有著明確的物理意義,如果我們從它的提出時所面對的問題看起,可以整理出非常清晰的思路。下面,按照傅立葉-->短時傅立葉變換-->小波變換的順序,為大家講解為什麼出現小波以及小波究竟是怎樣?
  • 完全搞懂傅立葉變換和小波(1)——總綱
    無論是學習信號處理,還是做圖像、音視頻處理方面的研究,你永遠避不開的一個內容,就是傅立葉變換和小波。但是這兩個東西其實並不容易弄懂,或者說其實是非常抽象和晦澀的!
  • 小波變換通俗解釋
    小波變換有著明確的物理意義,如果我們從它的提出時所面對的問題看起,可以整理出非常清晰的思路。    下面就按照傅立葉-->短時傅立葉變換-->小波變換的順序,講一下為什麼會出現小波這個東西、小波究竟是怎樣的思路。
  • 小波變換教程(一):為什麼需要小波變換
    連結:http://users.rowan.edu/~polikar/WTtutorial.html該教程的目錄如下,主要分為四個部分:1)概覽:為什麼需要小波變換;2)基礎:傅立葉變換及短時傅立葉變換;3)多尺度分析:連續小波變換;4)多尺度分析:離散小波變換這是一篇引導性的教程,作者將給出小波變換的基本原理
  • 小波變換教程(三):多尺度分析和連續小波變換
    多尺度分析和短時傅立葉有明顯區別:短時傅立葉的時窗長度一旦固定,在所有頻率成分上,要麼有較好的時間解析度,要麼有較好的頻率解析度,兩者只能選其一。連續小波變換時為了克服短時傅立葉變換解析度問題而提出的。小波分析與短時傅立葉分析的原理類似,也是先讓原始信號乘以一個函數,然後再進行積分。
  • 搬運 | 小波分析科普:信號處理,傅立葉變換和海森堡不確定原理
    不像正弦函數(下文簡寫為sin)和餘弦函數(下文簡寫為cos)這種無限長的波,小波只是一個很短的「衝擊」波:圖1 正弦波和小波由於對小波限制很少,因此小波有上百種形式。但他們都以「迷你波」的形式出現,之後很快消失歸零。對工程師來說,小波變換和傅立葉變換一樣重要。那小波變換是啥?為啥如此重要?小波變換與傅立葉變換相比有何優劣?這將是這篇博客的主題。
  • 傅立葉變換的本質及其公式解析
    對一個信號做傅立葉變換,然後直接做逆變換,這樣做是沒有意義的,在傅立葉變換和傅立葉逆變換之間有一個濾波的過程。將不要的頻率分量給濾除掉,然後再做逆變換,就得到了想要的信號。比如信號中摻雜著噪聲信號,可以通過濾波器將噪聲信號的頻率給去除,再做傅立葉逆變換,就得到了沒有噪聲的信號。
  • 傅立葉變換,拉普拉斯變換和Z變換的意義
    簡介:本文介紹了在實際工程中常用到的傅立葉變換和Z變換之間的關係、各自的意義等內容。  傅立葉變換能將滿足一定條件的某個函數表示成三角函數(正弦和/或餘弦函數)或者它們的積分的線性組合。在不同的研究領域,傅立葉變換具有多種不同的變體形式,如連續傅立葉變換和離散傅立葉變換。  傅立葉變換是一種解決問題的方法,一種工具,一種看待問題的角度。
  • 傅立葉變換和拉普拉斯變換的辨識!
    ,傅立葉變換的典型用途是將信號分解成幅值分量和頻率分量)。傅立葉變換能將滿足一定條件的某個函數表示成三角函數(正弦和/或餘弦函數)或者它們的積分的線性組合。在不同的研究領域,傅立葉變換具有多種不同的變體形式,如連續傅立葉變換和離散傅立葉變換。傅立葉變換是一種解決問題的方法,一種工具,一種看待問題的角度。
  • 可視化傅立葉變換:矩形波的傅立葉變換過程原理
    連續傅立葉變換採用輸入函數f(x)中的時域和把它變成一個全新功能的頻域中的函數F(ω),而傅立葉變換是專門用來解決非周期函數的,非周期函數通過傅立葉變換實現從時域到頻域的轉換,如下對矩形波進行傅立葉變換矩形波是一個比較簡單的周期函數,如下只有一個矩形,所以看作非周期函數,可對其進行傅立葉變換,我們已經很熟悉,矩形波的傅立葉變換圖形是sinc函數,即數學中的Sinx/x函數模型該函數在x=0時,sinc函數值等於1,如下圖
  • 完全搞懂傅立葉變換和小波(4)——歐拉公式及其證明
    本文引用地址:http://www.eepw.com.cn/article/201703/345196.htm  本節我們介紹歐拉公式,它是複變函數中非常重要的一個定理,同時對於傅立葉變換的理解也必不可少。我們在高等數學裡學習的傅立葉級數通常都是用三角函數形式表示的,而傅立葉變換中的一般都是用冪指數形式的,歐拉公式的作用正是把三角函數與e的冪指數聯繫到一起。
  • 完全搞懂傅立葉變換和小波(3)——泰勒公式及其證明
    這是我們循序漸進引出傅立葉的最後一項任務,完成這一步的學習之後,你就可以從級數的角度,了解傅立葉的意義了。本文引用地址:http://www.eepw.com.cn/article/201703/344944.htm  完全搞懂傅立葉變換和小波(1)——總綱  http://www.eepw.com.cn/article/201703/344766.htm  完全搞懂傅立葉變換和小波(2)—
  • 變換的真諦:「傅立葉變換」形象直觀的本質原理
    傅立葉變換在信號處理,熱了學,聲學中隨處可見他的身影,但都是以複雜的數學推導得出。本篇以通俗的方式向廣大愛好者展現出傅立葉變換的意義與樂趣:我們從圓的轉動頻率不同的思路出發,將時域信號分離出來,得到傅立葉變換最直觀的結果。如圖:是一個固定周期信號波,我們把這個波形纏繞在一個旋轉的圓周上(形如花瓣)。箭頭指的是同一時刻,圓與信號波的對應位置。
  • 泰勒展開,傅立葉變換,拉普拉斯變換和Z變換的意義
    傅立葉變換傅立葉變換在物理學、數論、組合數學、信號處理、概率論、統計學、密碼學、聲學、光學、海洋學、結構動力學等領域都有著廣泛的應用(例如在信號處理中,傅立葉變換的典型用途是將信號分解成幅值分量和頻率分量)。傅立葉變換的物理意義是:將通常在時域表示的信號,分解為多個正弦信號的疊加。
  • 完全搞懂傅立葉變換和小波(6)——傅立葉級數展開之函數項級數的性質
    傅立葉級數是一種函數項(三角函數)級數,本質上來說,一幅圖像(或者一組信號)就是一個函數,我們研究圖像的傅立葉變換,就是要探討如何將圖像函數用三角函數進行展開。所以如果要徹底搞清楚傅立葉變換,那麼討論函數項級數的性質是非常有必要的。在此基礎上,我們將引入傅立葉級數的概念。
  • 傅立葉變換是個偉大工具
    一般來說,時域的表示較為形象與直觀,頻域分析則更為簡練,剖析問題更為深刻和方便。目前,信號分析的趨勢是從時域向頻域發展。然而,它們是互相聯繫,缺一不可,相輔相成的。貫穿時域與頻域的方法之一,就是傳中說的傅立葉分析。傅立葉分析可分為傅立葉級數(Fourier Serie)和傅立葉變換(Fourier Transformation)。
  • 完全搞懂傅立葉變換和小波(5)——傅立葉級數展開之函數項級數的概念
    傅立葉級數是傅立葉變換的基礎,傅立葉變換是數位訊號處理(特別是圖像處理)中非常重要的一種手段。遺憾的是,很多人讀者並不能較為輕鬆地將傅立葉變換同高等數學中講到的傅立葉級數聯繫起來。本節我們就來解開讀者心中的疑惑。  如果你對本文涉及的基礎問題不甚了解,那麼建議你閱讀本文前面的部分。希望讀者能日積月累,夯實基礎。
  • Matlab中短時傅立葉變換 spectrogram和stft的用法
    在Matlab中,做短時傅立葉變換需要使用函數spectrogram,而在Matlab2019中,引入了一個新的函數stft,下面我們就來看下這兩個函數都如何使用。  短時傅立葉變換的基本原理就是將數據分段加窗,做fft,在分段時會有overlap,因此一個向量的短時傅立葉變換結果是一個矩陣。了解了這點,下面的函數及參數就更加容易理解了。
  • 簡述計算機三大變換的聯繫和區別 (傅立葉變換、拉普拉斯變換、z變換)
    f(t ) 是t 的周期函數,如果t 滿足狄裡赫萊條件:在一個以2T 為周期內f(X ) 連續或只有有限個第一類間斷點,附f(x ) 單調或可劃分成有限個單調區間,則F(x ) 以2T為周期的傅立葉級數收斂,和函數S(x ) 也是以2T 為周期的周期函數,且在這些間斷點上函數是有限值;在一個周期內具有有限個極值點,絕對可積。則有下式成立。稱為積分運算f(t ) 的傅立葉變換。
  • 傅立葉變換與拉普拉斯變換的物理解釋及區別
    傅立葉變換能將滿足一定條件的某個函數表示成三角函數(正弦和/或餘弦函數)或者它們的積分的線性組合。在不同的研究領域,傅立葉變換具有多種不同的變體形式,如連續傅立葉變換和離散傅立葉變換。 傅立葉變換是一種解決問題的方法,一種工具,一種看待問題的角度。