智能視頻監控系統及其在Blackfin處理器上的應用

2021-01-15 電子產品世界

  1.視頻監控系統的現狀

本文引用地址:http://www.eepw.com.cn/article/80234.htm

  視頻監控系統從最初的模擬閉路電視監控開始,經歷了數位化,網絡化的發展,正在向分布式、智能化的方向邁進。視頻壓縮技術的發展促進了視頻監控系統的數位化,節約了大量的存儲空間。

  計算機網絡的普及和帶寬的增加使得城域網視頻監控成為現實。而經過科研人員40多年的不懈努力,計算機視覺已經進入突破式發展階段。得益於計算機視覺的研究成果,智能視頻監控系統開始得到產業化應用。

  從上世紀90年代中期開始,以卡耐基梅隆大學(CMU)和麻省理工學院(MIT)為代表的,多家美國高校所參與的,由美國國防高級研究項目署設立的視覺監控重大項目VSAM(Visual Surveillance and Monitoring),以及其它科研機構的研究成果,使得智能視覺分析取得了快速發展。2001年美國「911事件」,以及後來的西班牙馬德裡列車連環爆炸和英國倫敦地鐵大爆炸等恐怖襲擊後,全世界範圍內對視頻監控系統,包括智能視頻分析系統的需求空前高漲。在英國全國範圍內已經安裝攝像機420多萬個,平均每14人一個,一個人一天之中可能出現在多達300個攝像機前(英國《The Daily Mail》)。國內,2007年底廣州市安裝完畢25萬個治安攝像機,北京在26.3萬臺攝像機的基礎上,又在所有重點單位、人員聚集的公共場所、重要的交通樞紐、城市重要基礎設施及法律法規規定的重點區域安裝公共圖像信息系統並且全部與警方監控網聯網。上海2010年前將在馬路上安裝20多萬個監控攝像機,全面建立「社會防控體系」。海量的監控圖像需要視頻監控系統智能地選擇壓縮、存儲和檢索內容。

  當前,除了CMU和MIT,奧地利Graz理工大學的嵌入式智能攝像機研究組,IBM的S3(Smart Surveillance System)項目組,Intel的IRISNET(Internet-scale, Resource-intensive Sensor Network ServICes)項目組等,分別在分布式智能監控系統的不同領域處於領先地位。Object Video, Hisign,3VR等公司率先實現了智能視頻監控的工業應用。在國內,中科院自動化所,清華大學電子工程系和自動化系等處於研究的前列。

  2.智能視頻監控系統的技術背景簡介

  智能視頻監控的核心內容之一是對特定目標的自動跟蹤。目標跟蹤可分為5個步驟,包括運動檢測、目標分類、目標(類型)跟蹤、行為分析和目標(個體)跟蹤。例如對人體的跟蹤:首先從實時圖像序列(即視頻)中檢測出運動物體,再判定運動物體中的人體,然後跟蹤人體的運動軌跡,並分析和選定有異常行為的人,如在車站,機場等遺留包裹的人,最後對行為異常的人進行持續跟蹤。

  運動檢測是從圖像序列中將變化區域從背景圖像中提取出來。運動區域的有效分割將大大減少後繼過程的運算量。然而,背景圖像的不穩定性,如陰影,光照,慢移動(如蝸牛的爬行),靜移動(樹葉的擺動)等等,也使得運動檢測非常困難。

  視頻監控系統中的運動檢測有兩種不同的實現途徑,一種是直接利用視頻壓縮算法的中間結果,比如ADI的第三方合作夥伴利用MPEG 4和H.264編碼過程中的運動向量,在Blackfin處理器上同步實現了運動檢測和視頻壓縮。另外一種是獨立於視頻編碼的方法。

  運動檢測算法可按照不同分類標準分為多種。中科院自動化所把運動檢測算法歸納為三種:背景消除法,時間差分法,光流法。背景消除法和時間差分法都可以看作是差分圖像法。背景消除法是目前運動分割中最常用的一種方法,它利用當前圖像與背景圖像的差分來檢測出運動區域。時間差分方法是在連續的圖像序列中兩個或三個相鄰幀間採用基於像素的時間差分並且閾值化來提取出圖像中的運動區域。基於光流方法的運動檢測採用了運動目標隨時間變化的光流特性,通過計算位移向量光流場來初始化基於輪廓的跟蹤算法,從而有效地提取和跟蹤運動目標。該方法的優點是在攝像機運動的情況下也能檢測出獨立的運動目標。

  目標分類的目的是從檢測到的運動區域中將特定類型物體的運動區域提取出來。根據利用的信息的不同,目標分類可以分為基於運動特性的分類和基於形狀信息的分類兩種方法。基於運動特性的識別利用目標運動的周期性進行識別,受顏色、光照的影響較小。基於形狀信息的識別利用檢測出的運動區域的形狀特徵與模板或者統計量進行匹配。

  目標跟蹤是在連續的圖像幀間創建基於位置、速度、形狀、紋理、色彩等有關特徵的對應匹配。依據不同的跟蹤方法可分為基於模型的跟蹤、基於區域的跟蹤、基於活動輪廓的跟蹤、基於特徵的跟蹤等。

  聯合目標跟蹤與分類(JTC)技術是信息融合領域新興的一個研究方向。其基本思想是,通過在目標跟蹤器和目標分類器之間進行雙向信息交互,來同時有效地提高目標的跟蹤精度和分類性能。

  在特定情況下需要對跟蹤目標從類型細化到個體。這需要對目標的行為進行分析和理解。行為理解的關鍵問題是如何從學習樣本中獲取參考行為序列,並且學習和匹配的行為序列必須能夠處理在相似的運動模式類別中空間和時間尺度上輕微的特徵變化。

  3. 智能視頻監控系統實施的難點和Blackfin的優勢

  儘管已經取得了巨大進展,智能視頻分析領域仍然沒有公認的最優方法。其自身研究內容的複雜性,使得研究方法和工具多樣,算法複雜度高,適用範圍有限,沒有魯棒性、準確度、速度都符合需求的普遍方法。同時,視頻監控系統的網絡化和分布式處理的要求,以及大規模工程安裝對成本、體積和功耗的限制,使得運算能力和帶寬都在不斷提高的嵌入式處理器成為視頻監控系統的主流選擇。而非標準化的智能視頻分析,正是DSP的用武之地。

  Blackfin處理器是ADI與INTEL聯合研製的會聚式處理器,它的MSA(MICro Signal Architecture)架構兼具MCU的控制能力和DSP的高速運算能力。MCU和DSP融入同一個內核,只需要同一套開發工具和同一套指令集。與DSP加ARM的晶片架構相比,具有軟硬體實現簡單的優勢。Blackfin支持ThreadX,Nucleus,uCOS-II,uCLinux等十多種嵌入式作業系統,為客戶提供熟悉的軟體架構基礎。Blackfin為高強度,高數據率的數字和媒體處理做了專門優化,是理想的視頻處理器,而且具有極高的性價比。它的低功耗特性非常適合外殼體積小的IP攝像頭產品。

  Blackfin的幾十個DMA通道和可靈活配置的Cache很好地滿足了視頻監控系統對大運算量,高數據吞吐率的要求。十級流水線使得Blackfin有很強的指令並行執行能力。零開銷循環控制指令讓系統中的大量循環跳轉不再消耗任何處理器的時鐘周期。利用這些優勢,real解碼器的idct4×4算法在Blackfin上速度提高了7倍。

  視頻數據有其自身的特性。在不同顏色空間,表示象素的每個分量通常都是8位寬度。Blackfin的4個視頻算術運算單元和視頻象素指令集大大加速了視頻運算速度。一條視頻象素操作指令可以在一周期之內完成4對視頻數據分量的加法運算,減法運算,加減混合運算,取平均值,或者相減並求絕對值等11種視頻象素運算。這些運算在編解碼算法中的運動估計、loop filter和智能視頻分析的各種算法中大量應用。在智能視頻分析的一些基礎算子中,例如直方圖統計,中值運算,Sobel運算,形態學中的膨脹運算等都可以利用Blackfin的MIN, MAX指令來消除條件跳轉,節省處理器周期。不僅如此,Blackfin還支持13種非視頻數據的向量運算。適當設計數據結構,在前背景分離,閾值計算和更新等多個環節都可以運用Blackfin的特色指令讓智能視頻分析算法更迅捷。這些本身就很有效的指令中,大部分指令都能夠並行執行,使得Blackfin的處理能力再加倍。

  4.智能視頻監控系統的實例

  清華大學自動控制系在視覺分析領域有長期的研究和積累。結合ADI的優勢,雙方在Blackfin BF561雙核處理器上實現了智能視頻監控系統。ADI提供高質量高性能的H.264編碼算法,清華大學自動控制系則在BF561上實現了自動跟蹤算法。系統框圖如圖1所示。

  

 

  圖1:基於BF561的智能監控終端框圖

  H.264編碼算法模塊是ADI為Blackfin客戶提供的免費軟體模塊之一,目前已經有基於BF53x和BF561兩個系列的晶片的實現。它支持完全動態的參數配置,用戶可在系統運行時根據場景和網絡帶寬的變化改變編碼的碼率、幀率、關鍵幀間隔、量化值等等。從80KBb的CDMA網絡到3Mb的DVR系統都能使用同一套函數庫達到理想的編碼質量。具有很強的適應性和靈活性。

  清華大學自動控制系的智能跟蹤算法採用單高斯背景建模的背景減除方法進行運動檢測,在目標分類階段,結合了基於運動特性的分類和基於形狀信息的分類兩種方法,利用人體、車輛的長寬比例、梯度直方圖和運動周期性等對運動物體進行分類。在對同類目標跟蹤時,採用基於區域的算法,判斷連續的各幀之間運動物體的質心位移方向和距離。基於上述三個階段的算法,系統還能實現人群跟蹤,入侵檢測,人、車數量統計,遺留物體檢測,攝像頭非法遮擋和移位報警等功能。

  系統中,BF561的Core A用於實現H.264編碼算法,Core B用於智能視頻分析。Core A上同時運行uCos II作業系統以及RTP和TCP/IP協議棧。YUV4:2:2視頻幀通過PPI(並行外設接口)以DMA的方式傳送到SDRAM緩衝區。Core A和Core B共享幀緩衝區。Core B首先啟動memory DMA把視頻幀的Y(亮度)分量傳送到Core B的片內存儲區L1 SRAM的行緩衝區內。Core B對行緩衝區內的Y分量進行背景建模和後繼的運動檢測及目標跟蹤。如果可視區域內出現指定類型的物體,Core B向Core A發送一個中斷信號,Core A可以通過UART接口向本地控制臺發送告警信息,或者通過網絡接口向遠程控制臺發送告警信息;Core B還可以修改幀緩衝區,給目標加矩形邊框以標識目標。Core A也通過一個memory DMA接收來自幀緩衝區的視頻亮度和色度數據。編碼器對Core B處理後的幀緩衝區進行編碼。同時系統也可以通過另外一個PPI接口輸出經Core B修改後的幀緩衝區,實時顯示跟蹤結果。目標跟蹤算法是實時的,因此不會造成編碼的延時。在未檢測到運動物體時,編碼器可以工作在低碼率或低幀率狀態下,甚至不編碼。一旦檢測到指定類型的運動物體,編碼器即恢復正常工作,把壓縮碼流和對應時間通過乙太網接口上傳到管理系統。這樣既能節約存儲空間,又能方便事後對視頻錄像的檢索。

  該系統還可以通過UART或者乙太網接口設定監控區域邊界,用以標識入侵檢測的監視範圍。當有運動物體越過邊界時,系統立即向控制臺報警。控制臺還可以向該智能監控終端發送指令改變它所執行的功能,從智能跟蹤,到入侵檢測,再到遺留物體檢測或者清點人數等等,自由切換。沒有Blackfin強大的處理能力和靈活性,在一個嵌入式處理器裡實現如此複雜而眾多的功能幾乎是不可想像的。

  5.智能視頻監控的發展趨勢

  儘管智能視頻分析在視頻監控中已經得到一定的應用,但它還有很長的發展歷程。一個比較理想的智能視頻監控系統應該是這樣的:

  如果有一天,城市的一角突然發生槍擊事件。犯罪嫌疑人立即逃向不遠處的轎車,試圖駕車逃跑。然而,他的一舉一動已經落入了公共安全監控網之中,難以遁形。首先,帶有聲音識別和聲源定位功能的視頻監控系統檢測到槍聲之後立即調整攝像頭角度和方向,對準槍聲來向,同時啟動第一次報警,報告槍擊發生的大致位置。該攝像頭採集視頻,檢測運動人體,分析人物的行為特徵,並立即定位、跟蹤嫌疑人。定位後,通知系統內處於合適位置的多個攝像頭提取嫌疑人面部特徵,試圖駕駛的車輛的車牌等,並上傳到管理系統,建立資料庫表項,分發到公安局,車站,機場,銀行,海關等重點單位。監控系統轉而跟蹤該車輛。警方在嫌疑人運動的路上設置警力攔截和追捕。即使嫌疑人僥倖逃脫現場追捕,當他出現在全國任何一個攝像頭前的時候,仍然無法逃脫被捕的命運。

  這個系統中融合了多種先進監控技術。音視頻結合,視覺成像和非視覺成像結合,目標跟蹤和行為分析、特徵識別相結合的全連通的智能視頻監控系統將是未來安防系統的趨勢。其中的各項技術都已經分別得到了相當的發展。Blackfin在紅外攝像頭,相控陣麥克風等方面已有許多應用。而更準確,更快速,更魯棒的智能視覺分析算法仍然是一個難點。ADI將會繼續在智能視頻監控領域與全球科研機構和企業合作,為我們創造更安全更美好的生活。

相關焦點

  • 基於Blackfin 處理器的TFT LCD 驅動設計
    隨著高性能嵌入式處理器的普及和硬體成本的不斷降低,嵌入式系統的功能也越來越 強。在多媒體應用的推動下,彩色 LCD 開始應用到嵌入式系統中。新一代掌上電腦(PDA)多採用 TFT LCD 顯示器件,支持彩色圖形界面,圖片顯示和視頻媒體播放。掌上電腦(PDA)的作業系統有微軟 Window CE, PalmOS 等。
  • ADSP-BF539 Blackfin處理器,用於汽車導航、娛樂和音頻系統
    優勢和特點 媒體收發器(MXVR),用於連接至MOST®汽車多媒體網絡•強大且靈活的高速緩存架構,適合於軟實時控制任務和工業標準作業系統,以及硬實時信號處理任務面向應用的外設可為數據採集應用提供與通用轉換器的無縫連接增強的動態電源管理和片上內核穩壓電路
  • 高性能數字MEMS麥克風與BLACKFIN DSP的標準數字音頻接口
    這使得立體聲麥克風可以用於音頻系統中,麥克風與處理器之間無需編解碼器。最多兩個ADMP441麥克風可以通過單條數據線輸入到Blackfin®處理器VDD時,則在右通道上輸出數據。在大多數應用中,麥克風輸出需要將一些增益增加到Blackfin的信號路徑中。
  • 處理器與音視頻外設之間的連接
    例如,美國模擬器件公司(ADI)的Blackfin系列處理器是會聚處理器,這意味著它們在一個晶片上集成了DSP與MCU功能,這些處理器擁有與音頻應用相關的兩種主要類型的串行接口。該處理器的低比特速率雙線接口(TWI)與串行外設接口(SPI)模塊是用於音頻器件控制與配置的。這些外設接口的前向通道通常用於配置或控制音頻轉換器,而反向通道則主要負責傳輸轉換器的反饋信息或狀態信息。
  • 智能交通監控系統的組成及應用方案分析
    智能交通監控系統的組成及應用方案分析 佚名 發表於 2020-11-23 10:37:51 城市交通領域三個難題: 城市經濟高速增長、城市化進程加快,
  • 智能視頻監控分析技術的概念及原理
    智能視頻分析是計算機圖像視覺技術在安防領域應用的一個分支,是一種基於目標行為的智能監控技術。區別於傳統的移動偵測(VMD-VideoMotionDetection)技術,智能視頻分析首先將場景中背景和目標分離,識別出真正的目標,去除背景幹擾(如樹葉抖動、水面波浪、燈光變化),進而分析並追蹤在攝像機場景內出現的目標行為。
  • 'electra blackfin' 黑鰭琥珀水晶 '黃翅紫水晶'
    即可查看全魚種圖鑑原創==  三湖 | 生活 | 魚友  ==🔸🔸🔸本資料圖片視頻來源'electra blackfin'屬:Placidochromis 平和水晶屬常見度:野生偶見常見訂單名:Placidochromis sp.
  • 在線測溫熱成像攝像機在測溫監控系統的應用
    熱像技術的發展,為溫度檢測帶來了新的突破,紅外熱像診斷技術的應用,解決了設備運行中的大量熱性故障問題,取得了顯著的經濟效益和社會效益顯。由於該技術是對設備表面輻射的紅外光像進行非接觸、遠距離熱成像檢測,不受電場幹擾,因此具有直觀、準確、靈敏度高、快速、安全、應用範圍廣等特點,能從根本上改變早期人工巡檢運行設備的故障隱患診斷方式。
  • 人臉識別布控系統方案,讓視頻監控變得更加智能
    但是由於目前公安警力增加遠不能滿足實際需求的發展速度,於是隨著人工智慧技術和監控攝像技術的發展,能將科技手段轉化為直接戰鬥力的城市治安圖像監控成為了解決該問題的重要手段,為直接為破獲案件提供了便利。
  • 智能視頻監控電路設計圖集錦 —電路圖天天讀(36)
    TOP1 單片機智能視頻監控系統電路設計本文引用地址:http://www.eepw.com.cn/article/201710/369529.htm  防侵入式智能監控系統  它是由紅外傳感器、監視器
  • 智能防雷監控技術在港口起重設備上的應用
    肖炳林廣州港股份有限公司南沙貨櫃碼頭分公司 廣州 511462  摘 要:針對貨櫃碼頭單臺起重機安裝防雷措施存在保護缺陷的現狀,對港口大型起重設備進行了智能防雷監控技術改進,經過兩年多的實踐應用,取得很好的防雷保護效果,實現了實時監控防雷設備工作狀態,並有效採集了雷電衝擊基礎數據,為日後港口起重機的管理提供依據
  • 鐵路交口無線採集的視頻監控系統的方案設計
    鐵路交口無線採集的視頻監控系統的方案設計 佚名 發表於 2020-11-23 10:27:31 1、項目背景 目前在各城市主要客運站的列車開出後
  • 公共安全視頻監控領域5大創新技術應用
    1挖掘改變視頻監控領域應用格局  智能分析、雲計算、雲存儲和大數據挖掘等眾多創新技術對公共安全領域的技術革新產生了深遠的影響。隨著視頻監控技術和公安業務需求的不斷發展,公共安全領域對視頻監控的規劃和需求建設重點,正在從布點數量向管理應用質量提升轉變。
  • BVS智能視頻分析煙火識別系統-森林防火
    智能視頻分析煙火識別系統是一種更高端的視頻監控智能化的應用。武漢倍特威視-BVS智能視頻分析煙火識別-森林防火智能視頻分析煙火識別系統的應用領域廣泛,以倍特威的智能視頻分析煙火識別系統為例,智能視頻分析煙火識別系統基於智能視頻分析結合深度學習算法,實現對監控區域內的煙和火煙進行識別、實時分析報警,複雜的場景識別率高達
  • 網絡視頻編碼器在視頻監控的實現步驟
    到底什麼是網絡視頻編碼器呢,網絡編碼器,它是一種壓縮、處理音視頻數據的專業網絡傳輸設備,也就是俗稱網編,還有一種設備叫做網絡視頻解碼器(俗稱網解),網絡視頻編碼器用在前端,網絡視頻解碼器用在後端,二者可以理解成一個雙向傳送的通道,數據編碼後需要解碼還原,二者是相輔相成的。
  • npu處理器有什麼用
    npu有什麼用   NPU是一種專門應用於網絡應用數據包的處理器,採用了「數據驅動並行計算「的架構,可以用來處理視頻、圖像類的海量多媒體數據。   NPU推進過程   2016年6 月 20 日,中星微數字多媒體晶片技術 國家重點實驗室在北京宣布,已研發成功了中國首款嵌入式神經網絡處理器(NPU)晶片,成為全球首顆具備深度學習人工智慧的嵌入式視頻採集壓縮編碼系統級晶片,並取名「星光智能一號」。這款基於深度學習的晶片運用在人臉識別上,最高能達到98%的準確率,超過人眼的識別率。
  • 等離子表面處理器系統中,PLC控制的有效應用
    等離子表面處理等離子加工設備的系統軟體主要由PLC控制程序和計算機監控軟體組成。當系統自動運行時,操作員首先設置控制參數,然後按下自動按鈕,進入自動控制監控界面。PLC可以發送各種控制命令,同時可以採集PLC的各種實時數據,實現對生產過程的全程監控。等離子體處理系統還具有實時報警和歷史數據保存功能。
  • 智能視頻分析系統:功能分類與發展方向
    智能視頻分析系統功能分類   1、診斷類智能分析。診斷類智能分析主要是針對視頻圖像出現的雪花、滾屏、模糊、偏色、增益失衡、雲臺失控、畫面凍結等常見的攝像頭故障、視頻信號幹擾、視頻質量下降進行準確分析、判斷和報警。
  • 深入研究嵌入式web伺服器視頻監控的應用
    據分析,嵌入式Internet系統在Internet電話、遊戲裝置和手持式通信裝置的推動下將會有突飛猛進的發展。由於Internet技術的滲透,嵌入式系統正變得越來越智能化並具有越來越多的網絡友好特性;又由於Web技術的飛速發展,給嵌入式系統帶入Internet提供了絕佳的途徑。嵌入式web技術是視頻監控系統設計應用最廣泛的技術之一。
  • 智能視頻分析功能分類與應用發展方向
    診斷類智能分析主要是針對視頻圖像出現的雪花、滾屏、模糊、偏色、增益失衡、雲臺失控、畫面凍結等常見的攝像頭故障、視頻信號幹擾、視頻質量下降進行準確分析、判斷和報警。診斷類智能分析技術實現起來較為簡單,通常以後端管理平臺的形式出現,在大型的監控項目,特別是城市級監控的日常運維中作用十分明顯。目前市面上一些基於DSP的智能分析設備、DVR和DVS等都自帶該項輔助功能。