【強基固本】卡爾曼濾波器

「強基固本，行穩致遠」，科學研究離不開理論基礎，人工智慧學科更是需要數學、物理、神經科學等基礎學科提供有力支撐，為了緊扣時代脈搏，我們推出「強基固本」專欄，講解AI領域的基礎知識，為你的科研學習提供助力，夯實理論基礎，提升原始創新能力，敬請關注。

轉載來源：https://longaspire.github.io/blog/卡爾曼濾波/Kalman Filter (KF) 是一個高效的遞歸濾波器，它可以實現從一系列的噪聲觀測中，估計動態系統的狀態。

01

卡爾曼濾波器以它的發明者Rudolf. Emil. Kalman先生（2016年去世，向這位傳奇的科學家致敬）而命名。在控制領域，Kalman濾波被稱為線性二次型估計。其也可以認為是一個最優化自回歸數據處理算法（optimal recursive data processing algorithm）。目前，卡爾曼濾波已經有很多不同的實現，有施密特擴展濾波器、信息濾波器以及一系列的Bierman和Thornton發明的平方根濾波器等，而卡爾曼最初提出的形式現在稱為簡單卡爾曼濾波器。也許最常見的卡爾曼濾波器應用是鎖相環，它在收音機、計算機和幾乎全部視頻或通訊設備中廣泛存在。一個簡單的應用是估計物體的位置和速度。簡要描述如下：假設我們可以獲取一個物體的包含噪聲的一系列位置觀測數據，我們可以獲得此物體的精確速度和位置連續更新信息。例如，對於雷達來說，我們關心的是跟蹤目標，而目標的位置、速度、加速度的觀測值是時刻含有誤差的，卡爾曼濾波器利用目標的動態信息，去掉噪聲影響，獲取目標此刻好的位置估計（即濾波過程），將來的位置估計（即預測過程），也可以是過去位置估計的（即插值或平滑過程）。

02

假設我們要研究的對象是一個房間的溫度。根據你的經驗判斷，這個房間的溫度是恆定的，也就是下一分鐘的溫度等於現在這一分鐘的溫度（假設我們用一分鐘來做時間單位）。假設你對你的經驗不是絕對相信，可能會有上下偏差幾度。我們把這些偏差看成是高斯白噪聲（White Gaussian Noise，理想情況下我們以高斯噪聲來進行假設估計），也就是這些偏差跟前後時間是沒有關係的而且符合高斯分布（Gaussian Distribution）。另外，我們在房間裡放一個溫度計，但是這個溫度計也不準確的，觀測值會比實際值偏差。我們也把這些偏差看成是高斯白噪聲。好了，現在對於某一分鐘我們有兩個有關於該房間的溫度值：你根據經驗的預測值（系統的預測值）和溫度計的值（觀測值）。下面我們要用這兩個值結合它們各自的噪聲來估算出房間的實際溫度值。假如我們要估算 

上面的 

03

卡爾曼濾波基於時域描述的線性動態系統，它的模型是馬爾科夫鏈（Markov Chain），而馬爾科夫鏈建立在一個被高斯噪聲幹擾的線性算子之上。系統的狀態可以用一個元素為實數的向量表示。隨著離散時間的增加，這個線性算子就會作用到當前狀態之上，產生一個新的狀態，並且會帶入一定的噪聲，同時一些已知的控制信息也會加入。同時，另外一個受噪聲幹擾的線性算子將產生這些隱含狀態的可見輸出。卡爾曼濾波器可以被看作為類隱馬爾科夫模型，它們的顯著不同點在於：隱狀態變量的取值空間是一個連續的空間，而不是離散的狀態空間；另外，隱馬爾科夫模型可以描述下一個狀態的一個任意分布，這也與應用於卡爾曼濾波器中的高斯噪聲模型相反。

首先，我們先要引入一個離散控制過程的系統。該系統的過程模型可用一個線性隨機微分方程（Linear Stochastic Difference Equation）來描述：上兩式子中， 3.1 預測階段對於滿足上面的條件（線性隨機微分系統，過程和觀測都是高斯白噪聲），卡爾曼濾波器是最優的信息處理器。下面我們來用它們結合它們的協方差來估算系統的最優化輸出（類似上一節那個溫度的例子）。首先，我們要利用系統的過程模型，來預測下一狀態的系統。假設現在的系統狀態是 3.2 更新階段首先是觀測餘量（measurement residual）：因為觀測過程中存在一個觀測誤差的協方差矩陣，我們可以給出一個觀測餘量的協方差：接下來給出一個卡爾曼增益（Kalman Gain）： 現在我們有了現在狀態的預測結果，然後我們再收集現在狀態的觀測值。結合預測值和觀測值，我們可以得到現在狀態 

‍‍‍‍‍‍

04

以上一直提到卡爾曼增益，那麼其實際意義如何理解呢？我們結合一些數學知識來對其進行解釋。我們知道，卡爾曼濾波器對於隨機變量的噪聲，加入了高斯分布的假設，而這，也是能夠對連續動態信息進行濾波的基礎。那麼先從高斯分布開始：符合高斯分布的一個隨機變量 

高斯分布的一個重要性質是：互不相關的兩個高斯分布相乘（相互疊加）後，仍然是一個正態分布！

並且新的正態分布的均值和方差滿足：

以上是單變量概率密度函數的計算結果，如果是多變量的，那麼，就變成了協方差矩陣 

再結合第三部分我們結合的卡爾曼濾波器算法，可以知道，此處卡爾曼增益正是此處的K。它正是用來計算當前兩個高斯噪聲疊加後的系統情況的。而為什麼要進行疊加呢？

我們知道，兩個事件的發生都是概率性的，不能完全相信其中的任何一個。如果具有兩個事件，都發生的話，從直覺或者是理性思維上講，兩個事件同時發生的可能性越大，我們越相信它！要想考察它們同時發生的可能性，就是將兩個事件單獨發生的概率相乘。但是究竟是相信自己預測還是相信觀測呢？我們可以用卡爾曼的方法來加權，即利用他們的方差 

紅色分布為預測，藍色分布為觀測，綠色分布為二者的相乘卡爾曼濾波器的理論基礎，正是假定觀測值和預測值的噪聲都符合正態分布，且兩個正態分布的融合仍是正態分布這一特性進行迭代的。

05

5.1 物體運動狀態估計在算法模型的基礎上，我們再進一步給出一個幫助理解的例子，是從[3]的頁面上直接搬過來的：考慮在無摩擦、無限長的直軌道上的一輛車。該車最初停在位置0處，但時不時受到隨機的衝擊。注意這裡我們考慮沒有外力的影響，因此忽略掉 5.2 算法流程抽象公式是不是很複雜，但是只要你跟著流程來一趟，應該能夠明白KF的整個過程。跑完這個例子之後，我們把整個流程抽象出來：先決定當前系統的初始狀態，並根據預測方程（過程模型）得到一個下一個時刻預測的狀態；根據預測方程中過程的誤差，得到當前預測的協方差估計；進入更新階段，我們根據目前系統的觀測值和上一個時刻預測的狀態，從轉換方程（觀測模型）入手，得到一個測量餘量；根據轉換方程和上個時刻預測的協方差估計，也可以得到一個測量餘量的協方差估計；根據1)測量餘量的協方差 

最後我們應該回過頭來看看以上講的房間溫度的例子，來對比下這個過程。

06

給出一個matlab版本的小程序。

N=200;w(1)=0;w=randn(1,N)  % White Gaussian Noise of Prediction
x(1)=25;a=1;  % prediction parameterfor k=2:N;  x(k)=a*x(k-1)+w(k-1);end
V=randn(1,N); % White Gaussian Noise of Measurementq1=std(V);Rvv=q1.^2; % covariance of Measurementq2=std(x);Rxx=q2.^2;q3=std(w);Rww=q3.^2; % covariance of predictionc=0.2;   % measurement parameterY=c*x+V;
p(1)=10;  % initial prediction results(1)=26;  % initial optimal resultfor t=2:N;  p1(t)=a.^2*p(t-1)+Rww;  % covariance of t-1  b(t)=c*p1(t)/(c.^2*p1(t)+Rvv); % kalman gain  s(t)=a*s(t-1)+b(t)*(Y(t)-a*c*s(t-1)); % optimal result  p(t)=p1(t)-c*b(t)*p1(t); % covariance of tend
t=1:N;plot(t,s,'r',t,Y,'g',t,x,'b');

07
可以查看[4]一個關於卡爾曼濾波器的教程，它對應的一個中文版本可見[5]。

引用
1.http://carpa.bokee.com/4725695.html.
2.http://internetbuff.blog.163.com/blog/static/9425110720091501413932/.
3.http://en.wikipedia.org/wiki/Kalman_filtering.
4.http://www.cl.cam.ac.uk/~rmf25/papers/Understanding the Basis of the Kalman Filter.pdf
5.https://segmentfault.com/a/1190000000514987
 
‍‍
本文目的在於學術交流，並不代表本公眾號贊同其觀點或對其內容真實性負責，版權歸原作者所有，如有侵權請告知刪除。



分享、點讚、在看，給個三連擊唄！