監控視頻中的圖像預處理技術

1.引言

在視頻監控領域，提高監控圖像質量和編碼傳輸效率一直是我們最為重要的追求目標。提高視頻質量意味著提高最終用戶的觀看滿意度，提高編碼效率則意味著在同樣的碼率限制下可以傳輸更高質量的視頻。這涉及到監控系統中的多個環節，從上遊的實際場景，到中間的傳輸網絡，再到下遊的用戶終端，主要包括圖像的採集、壓縮處理、傳輸或存儲、解壓縮和顯示等部分，其中任何一個上遊環節出了問題，對圖像質量的影響都不是下遊環節能夠糾正或補救的。視頻信號的預處理處在系統最上遊，是針對主處理而言的，如圖1所示。在視頻監控中，主處理一般是指視頻的壓縮編碼和傳輸，此前的處理一般稱之為預處理，常將它歸併在視頻採集部分。無疑，視頻採集中的預處理是一個重要環節，處理的好壞將直接影響採集圖像質量以及後續編碼傳輸處理的效率。

有一個現象可以有力地說明預處理在改進圖像質量方面的作用：對同樣場景、採用相同的碼率，不同廠家的網絡攝像機解碼輸出視頻的質量往往存在較大的差別。尤其是在比較惡劣的環境下，其差別更為顯著。產生這種差別的一個重要原因在於：在監控系統中，雖然大家都採用標準化的視頻壓縮方法，但最後解碼輸出圖像的質量高低很大程度上取決於有無預處理、預處理的好壞，有時還包括適當的後處理。

　　近來，隨著人們對預處理重要性認識的不斷提高，隨著集成晶片和信號處理器能力的不斷增強，業界對視頻信號的預處理越來越重視，市場上高質量的監控產品一定離不開高質量的視頻預處理方法。

　　2.預處理的作用

　　視頻預處理的第一個作用是提高編碼視頻的質量。在實際的視頻監控的應用中，不像娛樂視頻，往往有高質量的攝像機、良好的演播室拍攝環境和專業技術人員的時時人為幹預，因此可以保證得到的高質量的採集視頻。而視頻監控系統由於成本、環境等因素影響，所獲取的原始視頻質量並不高，甚至很低。例如，由於環境、噪聲、光照、運動等影響，往往所採集的圖像常常出現模糊、扭曲、噪點、太亮或太暗、彩色不鮮明、……。對於這樣比較差的視頻，再進行壓縮、傳輸、解碼顯示，用戶所看到的監控視頻常常不能令人滿意的。如何在現有的條件下提高採集視頻質量的問題就實在地放在我們面前。對此，一個重要的應對措施就是在視頻採集環節進行預處理(preprocessing)，以利於提高採集視頻質量，有利於後續的視頻處理，以利於用戶提取視頻中感興趣的信息。

　　視頻預處理的第二個作用是提高編碼效率和有利於碼率控制。我們知道，無論是有線還是無線視頻傳輸，都是基於IP的包傳輸方式，信號的傳輸速率不穩定，速率會隨用戶的擁擠程度、信道的物理介質而不斷變化。要在這樣速率變化的信道上穩定、高效地傳輸壓縮視頻圖像，除了依賴編碼器的碼率控制之外，還可以利用預處理的方法來輔助實現。在編碼前對圖像進行預處理，控制輸入到編碼器的視頻數據量，從而來間接控制編碼器輸出的碼率，其過程仍可參見圖1。

　　由圖1可見，不僅通過緩衝區的滿溢程度來控制量化步長，同時也加上了預處理對輸入的視頻數據進行控制。例如，當信道變窄時，我們可以根據信道帶寬信息對輸入視頻進行一定程度的平滑濾波，減少細節，甚至進行下採樣處理、跳幀處理，使編碼視頻的碼率能與信道帶寬相匹配。當然，由於信道狀況信息的獲得比較麻煩，可以經統計學習建立信道帶寬變化的近似模型，再依據這個模型來決定預處理的方法和程度。

　　最早的視頻預處理是在模擬域進行的，包括對模擬視頻信號的限帶濾波、噪聲抑制、自動增益控制、白平衡以及r校正等。隨著視頻採集技術的數位化進程，這些簡單的預處理方法大多已經集成到晶片中去了。現在，視頻預處理都是在數字域進行的，即在視頻數位化採集以後進行，充分發揮了數位訊號處的方便、高效、靈活和一致的優越性。目前，在視頻監控中常見的預處理方法除了基本的圖像濾波、圖像去噪和多種圖像增強處理外，還出現了多種針對特殊應用環境的預處理方法，如背光或暗光處理、雨霧煙處理、感興趣區間的處理等。

　　3.常見的預處理方法

　　現在常見的效果明顯的視頻預處理主要包括下面的幾個方面。

　　3.1 限帶濾波和降採樣

　　根據奈奎斯特定理，只有對圖像進行高於兩倍信號最高頻率的採樣才能保證從採樣值完全恢復原圖像。但是如果該條件不滿足，即欠採樣時，高次諧波的頻譜就會疊加到基波，出現頻譜混疊效應。隨著圖像高清晰度的增加，由於採樣率的限制，絕大多數成像系統都存在不同的混疊現象。怎樣消除混疊效應成為了預處理中的一個令人關注的問題。

　　抑制或消除混疊效應常採用兩項措施，一是限帶濾波，二是下採樣。限帶濾波就是對高速採樣的數字視頻進行一次低通濾波，抑制奈奎斯特定理定義的通帶以外的高頻分量。因為這些帶外分量在後續的處理中會引起混疊效應，產生無意義的高頻分量，而編碼器還得對它們進行編碼，浪費不少寶貴的編碼比特。僅採用限帶濾波只能濾除信號中少量的高頻分量，如果信號帶寬遠高於奈奎斯特帶寬，那麼在限帶濾波後還需進行一次下採樣，進一步減少碼字。

　　3.2 噪聲去除

　　噪聲對於任何實際的視頻採集來說均是不可避免的，如果在編碼前未將不必要的噪聲去除，不僅會影響解碼視頻質量，而且後面的編碼部分還將為噪聲編碼，降低了效率。視頻中常見的噪聲主要有加性噪聲、乘性噪聲和量化噪聲等。圖像中的噪聲往往和信號交織在一起，尤其是乘性噪聲，如果濾波不當，就會使圖像本身的細節，如邊界輪廓、線條等，變得模糊不清。如何既平滑掉噪聲又儘量保持圖像細節，是圖像去噪的難點所在。

　　圖像去噪方法很多，它們大體上可以分為兩類：空間域的去噪方法和變換域的去噪方法。這兩類方法的最主要區別是前者直接對觀察圖像數據進行處理，而後者則是先對圖像進行某種變換，然後再對變換後的係數進行處理。

　　變換域的去噪方法認為，在變換域圖像往往是稀疏表示的，即高頻分量很少，大部份噪聲處於高頻部分，通過在變換域設置閾值或者截斷高端頻譜來去除噪聲。這類方法的優點是在變換域進行處理比較簡單。它的不足之處在於對閾值的設置比較困難;在去除噪聲的同時不可避免地會平滑圖像本身的紋理細節;圖像在變換域丟失了部分結構特徵，特別是邊界信息等。這些都會影響去噪圖像的質量。　　空間域的去噪方法關注圖像數據本身，如近年來流行的基於塊的去噪方式，其基本思想是為去噪圖像的每一個塊尋找與它相似的塊，相似塊可以在同一幀內部尋找，或者其它幀中尋找，還可在其它圖像中尋找，最後通過加權平均等操作恢復圖像塊。空間域的方法利用了更多的圖像數據信息，保留圖像的結構，有利於保持圖像細節，但也容易出現過平滑現象。近年來針對圖像的混合高斯噪聲，出現了一種將變換域和空間域方法相結合的自適應噪聲去除方法。這種方法首先採用基於塊和濾波的噪聲參數估計，自適應的估計混合高斯噪聲參數，然後利用估計得到的噪聲參數進行圖像去噪，將多幅去噪圖像進行簡單的數據融合，最終獲得性能良好的去噪圖像，其過程如下圖2所示。

3.3 圖像增強

　　圖像增強處理的任務是有目地突出圖像中的感興趣部分，或目標的特徵，抑制圖像中某些不需要的特徵，提高圖像的清晰度，改進圖像的觀賞質量。在圖像增強過程中，一般不考慮圖像降質的原因，增強後的圖像也不一定要逼近原圖像。圖像增強中常見的幾種具體處理方法為：

　　(1)直方圖均衡

　　在圖像處理中，圖像直方圖表示了圖像中像素灰度值的分布情況。為使圖像變得清晰，增大反差，凸顯圖像細節，通常希望圖像灰度的分布從暗到亮大致均勻。直方圖均衡就是把那些直方圖分布不均勻的圖像(如大部分像素灰度集中分布在某一段)經過一種函數變換，使之成一幅具有均勻灰度分布的新圖像，其灰度直方圖的動態範圍擴大。用於直方均衡化的變換函數不是統一的，它是輸入圖像直方圖的積分，即累積分布函數。

　　(2)灰度變換

　　灰度變換可使圖像動態範圍增大，對比度得到擴展，使圖像清晰、特徵明顯，是圖像增強的重要手段之一。它主要利用圖像的點運算來修正像素灰度，由輸入像素點的灰度值確定相應輸出像素點的灰度值，可以看作是「從像素到像素」的變換操作，不改變圖像內的空間關係。像素灰度級的改變是根據輸入圖像f(x, y)灰度值和輸出圖像g(x, y)灰度值之間的轉換函數g(x，y)=T[f(x，y)]進行的。

　　灰度變換包含的方法很多，如逆反處理、閾值變換、灰度拉伸、灰度切分、灰度級修正、動態範圍調整等。

　　(3)白平衡

　　白色是人眼對比例相同且具有一定亮度的藍、綠、紅三種色光所形成的視覺反應。在正常的情況下，視頻採集系統對白光的輸出為白色，簡單地說這個系統處於白平衡狀態。如果系統對白光不能夠保持白色輸出，出現偏色，如發紅或發藍等，就說明採集系統對現場彩色的處理出現了偏差，即未達到白平衡。由於場景的彩色情況非常複雜，難以斷定白平衡情況，所以在實際應用中，常常用白光來判定系統的白平衡狀況。這是一種衡量系統的色彩比例是否恰當的一種方便、直觀的方法。如果達到了白平衡，那麼輸出的色彩也是白色，沒有其它的偏色;如果有偏色，說明沒有達到白平衡，需要在預處理時加以調整，使之成像後仍然為白色。

　　(4)伽瑪校正

　　在視頻採集系統中，CCD、CMOS等光電轉換的器件的特性都是非線性的。場景的亮度L和是傳感器輸出的電壓E，之間的關係可用一個冪函數E(x, y)=kLr(x, y)來表示，其中k是比例常數，r是冪函數的指數，用它來衡量非線性器件的轉換特性，稱之為伽瑪特性。在視頻中由於伽瑪特性的存在，會導致圖像信號的亮度失真，影響圖像質量。因此要對這個失真進行補償，即伽瑪校正。簡單地說，就是對輸出電壓用一個負指數函數對其進行校正，使得校正後的光、電兩個量之間保持線性關係。

　　(5)圖像平滑

　　在空間域中進行平滑濾波技術主要用於消除圖像中的噪聲，主要有鄰域平均法、中值濾波法等等。這種局部平均的方法在削弱噪聲的同時，常常會帶來圖像細節信息的損失。

　　鄰域平均，也稱均值濾波，對於給定的圖像f(x,y)中的每個像素點(x,y)，它所在鄰域S中所有M個像素灰度值平均值為其濾波輸出，即用一像素鄰域內所有像素的灰度平均值來代替該像素原來的灰度。

　　中值濾波，對於給定像素點(x,y)所在領域S中的n個像素值數值{f1, f2,…,fn}，將它們按大小進行有序排列，位於中間位置的那個像素數值稱為這n個數值的中值。某像素點中值濾波後的輸出等於該像素點鄰域中所有像素灰度的中值。中值濾波是一種非線性濾波，運算簡單，實現方便，而且能較好的保護邊界。

　　(6)圖像銳化

　　採集圖像變得模糊的原因往往是圖像受到了平均或者積分運算，因此，如果對其進行微分運算，就可以使邊緣等細節信息變得清晰。這就是在空間域中的圖像銳化處理，其的基本方法是對圖像進行微分處理，並且將運算結果與原圖像疊加。從頻域中來看，銳化或微分運算意味著對高頻分量的提升。常見的連續變量的微分運算有一階的梯度運算、二階的拉普拉斯算子運算，它們分別對應離散變量的一階差分和二階差分運算。

　　(7)小波變換增強

　　對圖像進行小波變換，可得到圖像的不同頻率分量的小波變換係數，如果對適當的高頻係數進行增強處理後，再進行小波逆變換之後，就可以達到圖像的細節或邊緣增強的目的。當然，小波變換還可以用來去除圖像中的噪聲。由於噪聲大多屬於高頻信息，因此，當進行小波變換之後，噪聲信息大多集中在高頻子塊之中，對這一部分係數進行抑制，則可以達到一定的噪聲去除效果。

　4. 特殊場合的預處理

　　視頻監控的應用範圍廣闊，在圖像採集時人為幹預的極少。因此，各種環境的影響，監控目標的影響以及人為因素的影響都不可避免。面對種種不利的特殊場合，按照標準執行的壓縮處理是無能為力的。為了提高種類期刊下監控視頻的質量，採用視頻預處理就顯得格外重要。近年來在如下的幾個方面的研究和開發都取得了可喜的進展。

　　4.1 雨霧圖像處理

　　在霧天、雨天或者煙霾不散的情況下，由於場景的能見度降低，圖像中目標對比度和顏色等特徵被衰減，致使室外視頻系統的圖像模糊不清，影響正常工作，因此需要在視頻編碼前消除雨水、霧霾對場景圖像的影響。

　　以霧氣消除為例，目前的圖像處理方法主要分為兩類：霧天圖像增強和霧天圖像復原。霧天圖像增強方法不考慮圖像降質原因，方法簡單，能有效地提高霧天圖像的對比度，突出圖像的細節，改善圖像的視覺效果，但可能會造成一定的信息損失。　　霧天圖像復原針對霧天圖像質量退化的機理，建立霧氣圖像退化模型，然後用圖像復原的方法，對霧天退化圖像進行復原，補償退化過程造成的失真，獲得對無霧圖像的最優估計，從而改善霧天圖像質量。這種方法針對性強，得到的去霧效果自然，信息損失小，處理的關鍵是模型中參數的估計。

　　

4.2 暗光圖像處理

　　在夜晚或光線不足的情況下，監控攝像很難捕獲到清晰亮麗的圖像，給道視頻監控帶來很大困難。因此，暗光圖像增強的技術具有很強的現實意義。普通的圖像增強算法對暗光圖像處理只是作全局或局部的對比度拉伸，作用有限，不易實現圖像的動態增強與色度保持。近年來的Retinex 算法對暗光圖像的處理取得了良好的效果，增強了暗光圖像的對比度，較好地保持了圖像的色度。

　　Retinex算法在研究人的顏色視覺理論和視網膜皮層理論的基礎上，提出一種關於人類視覺系統如何調節感知到物體顏色和亮度的模型。在這一模型中，圖像由兩部分組成，一部分是場景中物體的光照亮度，對應於圖像的低頻部分，另一部分是場景中物體的反射亮度，對應於圖像的高頻部分，通常它們也被稱為亮度圖像和反射圖像。因此Retinex算法從給定的圖像中分離出亮度圖像和反射圖像，在彩色恆定的條件下，通過改變亮度圖像和反射圖像在原圖像中的比例來達到增強暗光圖像的目的。

　　4.3 自動曝光和聚焦

　　(1)自動曝光

　　CMOS之類的傳感器只有獲得正確的曝光量，才能得到高質量的圖像。曝光過度，圖像看起來太亮;曝光不足，則圖像看起來太暗。到達傳感器的光通量的大小主要由兩方面因素決定：曝光時間的長短以及光圈的大小。利用光圈進行自動曝光，主要根據所拍攝的場景來控制光圈大小，使得進光量維持在一定範圍內，成本比較高。現在市場所見的中低端攝像頭採用的主流技術通過調整曝光時間來實現自動曝光。在研究了大量不同光照條件的圖像實例基礎上，獲得不同光照條件下的亮度與曝光值之間的關係，自動曝光的預處理正是根據這一關係來進行曝光控制的。

　　(2)自動聚焦

　　聚焦的好壞直接影響攝像機捕獲的視頻圖像的清晰度，因此監控系統要求攝像機具有自動聚焦的功能，調整鏡頭的焦距使其焦點位於感光面上，從而獲得清晰的圖像。自動聚焦的方法可以分為三大類：一類是基於鏡頭與被攝目標之間距離測量的測距方法，另一類是基於聚焦屏上成像清晰的聚焦檢測方法，第三類是基於數字圖像處理的自動聚焦方法，這是最適宜於監控系統的一種方法。

　　基於數字圖像處理的自動聚焦方法對採集的每一幀圖像進行實時處理，通過判斷聚焦是否準確、成像是否清晰給出反饋信號控制鏡頭的運行，直到採集的圖像符合使用要求，即完成自動聚焦。這種方法的特點是聚焦更加智能化、聚焦判據更加靈活，方便聚焦控制的執行，從而避開複雜的對焦電路和機構。

　　4.4 背光補償

　　在視頻採集過程中，如果場景中的目標遮擋住了光源，那麼感興趣目標表面不能夠接收到足夠光強，導致的感興趣區域的亮度比較暗，看不清細節，這就是所謂的背光現象。很明顯，背光補償處理的目的在於提高感興趣區域的亮度，適當的對比度，同時保證整幅圖像的自然性和平滑性。背光補償的一實例如圖4所示。對於視頻序列，在保證單幀圖像補償效果的同時，還要保證補償後視頻序列亮度的連續性，避免閃爍現象的發生。

　　

除了上面介紹的幾種特殊的預處理方法外，還有多種其它的預處理方法。例如感興趣區域的處理，這種方法首先找出圖像中感興趣區域，對此處進行增強處理，以專注於提高感興趣目標的圖像質量。再如自動鎖定動態目標的處理，和感興趣區域處理類似，首先檢測出動態目標，對該目標進行跟蹤和增析處理。

　　5. 小結

　　視頻監控系統增加了預處理環節，一則可以提高解碼圖像質量，尤其是某些不利條件下的視頻質量;二則可以提高視頻編碼的效率，減少傳輸視頻的質量波動。其實，提高編碼效率和改進碼率控制，其結果仍然是提高了解碼視頻的質量。近年來，業界對視頻預處理愈加重視，各種預處理的方法層出不窮，取得了顯著的進展。但是，由於種種因素的限制，預處理的效果還不能夠令人滿意，還有諸多的問題需要在今後的研究和開發中逐步解決。未來，如何提高視頻監控的圖像效果，是否能找到除了預處理之外的有效圖像處理方法，將是促使視頻圖像效果改善的一大重點，讓我們拭目以待。