安防AI大數據全流程解析

2021-01-09 人人都是產品經理

本篇文章介紹了安防AI大數據流程的三個環節、數據預處理技術及方法、以及大數據的應用。

對於安防AI,看上去是AI,實際上最後是大數據,大數據才是智能化的基礎。人工智慧、深度學習、機器學習、大數據應用在安防AI中, 說到底都是對大數據的採集、建模和應用。

本文大致說一下安防AI中,對於大數據的運用過程與環節,讓大家有個大致的印象。

一、安防AI大數據流程三個環節

1. 數據採集

數據採集,有說數據獲取,這是數據的來源,安防AI中這個數據是來源於視頻監控系統中的視頻流,當然往大了說安防,還包括很多內容,但是基本都是以視頻監控為核心,這裡主要指視頻監控系統。

2. 數據預處理

對於採集到的實時或者歷史視頻,是只能看不能應用的,要調用就得結構化,先給視頻流解碼,把視頻流還原成一張張圖片,再對圖片進行預處理。

可能不同的公司對預處理包含的步驟內容說法不太一致,我是以安軟慧視的技術負責人介紹為準。

先對圖片進行目標清洗垃圾,清洗掉模糊的、不合尺寸的,目標無法識別的、無目標對象的等等,當然,有些場景可能只有這樣的圖像,這需要用到另外一些圖像處理方法,和我們的主題相關但不是一回事。

這樣我們就可以得到基本符合要求的圖像。然後對這些圖像中的目標對象進行檢測和分割,並改變目標的大小與標準圖片大小一致,目標對象包括人形、人臉、車形等,這樣就可以拿去訓練模型了。

3. 模型訓練

對圖片中的目標對象進行識別,提取和構建模型,在安防AI中,需要的結構化描述是比較具體的,比如對人的描述就包括性別、年齡、髮型特徵、髮飾、上衣款式特徵、下衣款式特徵、鞋帽款式特徵、交通工具特徵、隨身物品特徵、同行人特徵等一系列描述。

對車的描述包括車牌號碼、廠牌、車身顏色、車輛品牌、車輛類型、車輛特徵物(如:年檢標、掛飾、紙巾盒、遮陽板)等。

有了這些識別模型,就可以通過語義分析等技術對視頻數據進行分類處理存儲,並通過後端伺服器的智能分析功能進行業務處理,將人、車、物的信息從數據中分離出來。

這樣公安民警就可以進行快速檢索、條件搜圖(人)、以圖搜圖,再配以圖片的拍攝地點、時間等數據,就可以進行軌跡查詢,再匹配一下大安防系統中的住宿、手機號碼、車票等大數據,基本上嫌疑人就是插翅難逃,這對民警的破案效率將是百千倍的提升。這才是安防AI真正的價值所在。

這在上一篇文章《安防AI大規模落地,解析一線場景及創新關鍵點》有過論述。

二、安防AI數據預處理技術及方法

1. 目前常見的數據預處理技術

1)數據清理

數據清理例程就是通過填寫缺失值、光滑噪聲數據、識別或者刪除離群點,並且解決不一致性來進行「清理數據」。

2)數據集成

數據集成過程將來自多個數據源的數據集成到一起。

3)數據規約

數據規約是為了得到數據集的簡化表示。數據規約包括維規約和數值規約。

4)數據變換

通過變換使用規範化、數據離散化和概念分層等方法,使得數據的挖掘可以在多個抽象層面上進行。數據變換操作是提升數據挖掘效果的附加預處理過程。

2. 數據清理方法

1)缺失值

對於缺失值的處理,一般是能補的就想辦法把它補上,實在補不上的就丟棄處理。

通常的處理方法有:忽略元組、人工填寫缺失值、使用一個全局變量填充缺失值、使用屬性的中心度量填充缺失值、使用與給定元組屬同一類的所有樣本的屬性均值或中位數、使用最可能的值填充缺失值。

2)噪聲數據

噪聲是被測量變量的隨機誤差或方差。去除噪聲、使數據「光滑」的技術有分箱、回歸、離群點分析等。

3)數據清理過程

這個環節主要包括數據預處理、清理方法、校驗清理方法、執行清理工具及數據歸檔。

數據清理的原理是通過分析「無效數據」產生的原因和存在形式,利用現有的技術手段和方法去清理,將「無效數據」轉化為滿足數據質量或應用要求的數據,從而提高數據集的數據質量。

常用的工具有Excel、Access、SPSS Modeler、SAS、SPSS Statistics等。

4)模型構建數據統計分析

數據統計為模型構建提供基礎,只有通過數據統計分析探索到了數據中隱藏的規律,深度學習才有意義,人工智慧才有可能。

數據統計又包括數據分析與結果分析,基本的分析方法有:對比分析法、分組分析法、交叉分析法、因素分析法、結構分析法、漏鬥圖分析法、矩陣關聯分析法、綜合評價分析法等。

高級的分析方法有:主成分分析法、因子分析法、對應分析法、相關分析法、回歸分析法、聚類分析法、判別分析法、時間序列等。這些類別並不是獨一使用的,往往是混合使用的,然後再通過進一步的分析對比從中挑選某些組合模型。

5)數據可視化

數據可視化,就是通過一些可視化圖形或者報表形式進行展示,增強對分析結果的理解。再針對結果進行進一步的數據再分析,使得整個業務環節形成閉環。只有閉環的數據才能真正發揮出深度學習的效用。

三、安防AI大數據的應用

安防大數據的應用當前是圍繞提升破案率和提升警務工作效率為中心的,要想在安防數據的基礎上開發出優秀的應用,必須要深入了解警務工作流程,從接處警、現場勘查、情報研判、應急指揮、關聯碰撞、合成作戰,再到各類型警用裝備間的互聯互通,再到各警種間的配合,再到各警種業務資料庫間的融合。

這些都要有詳細地了解,才能發現針對刑偵破案、治安防控、交通管理的應用間的差異。

舉例說,比如針對嫌疑人的追蹤,可能是臉,但是大部分時候視頻是識別不出臉的,這是事實,人臉識別僅在車站、機場、銀行等卡點場景才有用。但是絕大多數逃犯都是有點反偵察能力的,不是看到攝像頭就繞著走,就是故意遮擋不讓看,或者乾脆等到天黑再走。

這時候能運用到的主要就是通過嫌疑人的外形特徵進行追蹤,以圖搜圖配上區域範圍選擇、時間段選擇,再配上同行人特徵、隨行物品特徵、工具特徵,就可以有效地對嫌疑人進行高效篩選,再通過綜合情報進行軌跡研判,這種情況下,嫌疑人幾乎就是甕中之鱉,上天無路入地無門。

如果再出現小朋友老年人走失,想找到就是分分鐘的事,再也不會出現讓發動大批警力沿街查找,動輒耗費數十個小時的情況了。這樣,公安會不喜歡麼?

說到底,大數據最終是為應用服務的,只有最後真正提高了公安民警的工作效率和破案率,才能證明安防AI的價值和意義。這就要求我們既要懂AI業務,又要懂公安業務。脫離了這兩者,想讓安防AI得到大面積推廣是連想都不要想的。

本文為系列文章,歡迎各位朋友一起交流,共同推動AI的實際落地。

本文由 @李震 原創發布於人人都是產品經理。未經許可,禁止轉載

題圖來自Unsplash,基於CC0協議

相關焦點

  • 熱成像助力AI+安防產品
    科技在不斷進步,科技產品日新月異,人工智慧在安防行業刷了屏的同時,紅外熱成像產品以遞增的趨勢在民用領域被廣泛應用。那麼,在熱成像領域,AI的應用情況如何?熱成像+AI會發生什麼?中科融通推出的安防巡檢機器人(疫情防控版)搭載了高精度紅外熱成像裝置和溫度記錄系統,通過紅外熱成像、AI面部識別以及大數據等技術,可迅速識別人體、監測體溫,可多途徑監測人群數據,並確保數據信息的準確性。除此之外,安防監控系統在可見光下光線不佳,而紅外熱成像監控可以忽略天氣和場合,進行全方位的監控。尤其在晚上,起到決定性作用。
  • 【晶睿通訊.安防百科】什麼是AHD
    Analog High Definition意思為模擬高解析度.關於High Definition,簡單來說,我們通常會把物理解析度達到720p以上的格式則稱作為高清,簡稱HD.其指的畫面垂直解析度為1080i、720p或1080p.1080i就是指解析度為1920×1080,採交錯掃描,每秒呈現30個完整畫面;720p就是指解析度達1280×720
  • 澎思科技曲瀚:AIoT應用深化、泛安防市場崛起,普惠AI時代正在來臨
    峰會匯聚了業內資深專家、領先企業嘉賓和資深行業用戶,共同探討在「新基建」建設熱潮下,人工智慧、大數據、物聯網等新興技術在安防行業的融合應用,為安防行業的智能化發展提供新的路徑和方向。本次峰會期間還舉行了a&;s十大品牌2020創新應用評選頒獎典禮,澎思科技憑藉在AI安防、智慧社區、智慧樓宇通行等場景中的創新性AIoT解決方案落地效果,強勢入選「新基建」、「智能安防」和「智慧建築」三大領域的十大創新應用品牌。曲瀚在演講中對2020年的智能安防行業進行了總結。他表示,新冠肺炎疫情、國際大環境影響對行業發展帶來了持續性挑戰。
  • 只需6步|成都安防監控安裝公司服務流程
    成都安防監控安裝公司服務流程隨著科技的進步,安防監控系統也被越來越多的人認可。安防監控系統應用場景也越來越廣泛。但是安防監控系統安裝卻是有一套標準的服務流程,這樣才能保證安防監控系統最終的功能符合預期效果。
  • 對話華為機器視覺總裁段愛國:大數據時代,安防「碎片化」是個偽命題
    段愛國:我總結是四個「大」:大聯網、大數據、大平臺、大生態。如果還在堅持「碎片化」,可能就是錯誤的。AI掘金志:碎片化不是過去幾十年來市場反饋的結果嗎?段愛國:當然不是。大數據時代,行業客戶本身一定不希望碎片化,只是習慣了碎片化。但這是傳統安防的遺留問題,進入新的時代,碎片化已經是一個偽命題。碎片化就意味著多系統、多硬體,很多地方建了不少煙囪式系統,全是數據孤島,很難產生聯網共享的價值,更別說通過大數據來賦能了。我們戰略投入安防這兩年來,和很多客戶、夥伴交流過,我們倡導的「一雲一湖一平臺」戰略很受認可。
  • 聯邦學習再發新版白皮書,微眾銀行AI團隊助力數據價值共享
    在數據安全與隱私保護日益重要的當下,白皮書將對各行業企業和機構通過聯邦學習構建數據安全應用起到極大的指導意義。獲取白皮書可前往FedAI官網:https://ai.webankcdn.net/scvm/html/1586314655296.html圖:白皮書封面過去幾年,AI、大數據等發展進入紅利期。
  • 宇視科技姚婷:AloT下,如何應對安防數據的存儲挑戰?
    傳統存儲架構不再適用 隨著雲計算、大數據、物聯網、人工智慧等業務的發展,數據呈幾何級增長。同時,數據的形態也出現了很多的變化,從原來的結構化數據變為現在的半結構化數據。姚婷首先強調:「傳統存儲架構已經不能適用於海量數據存儲。」
  • AI分析+5G布控 校園安防更「智慧」
    原標題:AI分析+5G布控 校園安防更「智慧」   近日,記者從區教育局了解到,我區「智慧安防校園」二期建設已基本完成,包括了全域安防、電子圍欄、電子巡更、無線煙感
  • 大數據時代的高效全流程核酸檢測 ——專訪青島盛科實驗室設備有限...
    在這場疫情中,面對國內核酸檢測巨大的需求,全公司上下一心,集中力氣打硬仗,一手抓公司的傳統設備生產優勢,一手抓利用大數據算法,開發出了一套全流程控制核酸檢測平臺。談到全流程控制核酸檢測平臺,盛科實驗總經理易成華的臉上露出信心滿滿又欣慰的神色,因為這個平臺凝結著他們公司的心血和誠意,也具有客觀的巨大優勢。
  • 這項AI數據99.99%的高標準,為人工智慧按下「加速鍵」
    艾瑞報告數據顯示,在政策、經濟等利好消息的刺激下,中國人工智慧市場異常火熱。受此影響,其獨特的數據需求帶動了以數據清洗和標註為主的AI數據服務行業的快速發展;同樣,物聯網技術的發展使線下業務的數據被大量採集起來,數據量呈指數級發展;人工智慧下的智能安防、智能駕駛、智能家居等應用場景的需求劇增,作為AI的底層技術支撐,AI數據服務行業尤為重要。
  • 怎樣利用ai給圖片加上海洋波紋?詳見操作流程
    今天講解了ai給圖片加上海洋波紋的具體操作流程,相信各位學習了下面的詳細教程,大家對ai軟體一定會有更多的了解的!ai系列軟體最新版本下載Adobe Illustrator(AI設計軟體)軟體版本:10.0.3 Update圖形圖像立即查看Free AI Viewer(AI文件打開查看器)軟體版本:3.2 免費版圖形圖像立即查看1、我們雙擊AI的快捷圖標,將AI這款軟體打開,進入到其操作界面,如圖所示:2、打開AI 之後在文件菜單裡找到置入選項
  • GE醫療發布全流程「MR+AI」平臺,優化磁共振兩大核心問題
    雷鋒網消息,3月28日,GE醫療發布了其最新的數字醫療創新成果—國家重點基礎研究發展計劃(973計劃)首席科學家、中科院田捷教授表示,X光展現的是二維信息,CT展現的是三維信息,而磁共振能夠顯示功能信息,信息量就變得非常大。東部戰區總醫院醫學影像科主任、中華醫學會放射分會副主任委員盧光明也表示,磁共振擁有多維的數據、不同的序列。同樣的結構、同樣的病變在不同的序列上有不同的信號特點。
  • AI+安防賽道的獨角獸雲天勵飛公開招股 總募資30億元
    主打"算法晶片化"技術,總募資30億公開資料顯示,雲天勵飛以人工智慧算法、晶片技術為核心,並具備算法晶片化能力,擁有Arctern算法、Moss晶片和Matrix大數據系列平臺,研發和銷售面向應用場景"端雲協同"的人工智慧產品及解決方案,聚焦公共安全、城市治理、新商業等三大產業方向
  • 家庭安防全效解決方案 華為智選新品海雀AI攝像頭正式開售
    雖然在家的時間比較少,但人們的安全意識卻在不斷提高,家居生態鏈便應運而生,與此同時,用戶對安防類智能家居產品也提出了更高的要求。擁有一款安全可靠的家居安防產品,對用戶來說至關重要。基於此,華為智選推出了一款全新的生態產品——海雀AI攝像頭雲臺超清版,為用戶提供了更好的家庭防護解決方案。
  • 《甜心選擇2》ai少女dlc導入使用心得 ai少女dlc可以使用嗎
    手遊攻略 熱門攻略 Helltaker | 雲頂之弈 | 使命召喚16 | 仁王2 | 全面戰爭三國 | 動物森友會 | 逃離塔科夫 | 三國志14 | 俠隱閣 | 騎馬與砍殺2 | 荒野大鏢客
  • ...大庫時代,落地千萬級刷臉系統的技術剖析與建庫經驗|AI 安防峰會
    2020年9月5日,由雷鋒網 & AI 掘金志主辦的第三屆中國人工智慧安防峰會,在杭州正式召開。本屆峰會以「洗牌結束,格局重構」為主題,會上代表未來新十年的15家企業,為現場1000餘位聽眾和線上幾十萬觀眾,分享迎接安防新十年的經營理念與技術應用方法論。
  • 「口罩識別」後,「頭盔識別」躋身 AI 安防 C 位
    然後通過後臺百萬級海量數據訓練,提取了上百種安全頭盔款式的特徵數據。(幾乎涵蓋了目前市面所有的安全頭盔款式)同時,他們在不同的feature scale上進行融合時引入attention機制,進一步提升頭盔、安全帽等局部特徵的檢測精度。
  • 北森推出覆蓋人力資源全場景的「北森AI Family」
    (全球TMT2020年12月1日訊)日前,國內一體化HR SaaS和人才管理平臺北森正式推出了覆蓋人力資源全場景的「北森AI Family」。模擬HR,開啟智能人才甄選在人才甄選的場景中,北森主要推出小森簡歷解析、小森人崗匹配、閃面以及小森人才助手等功能,開啟流程化、智能化、科學化的人才甄選。
  • 智能安防應用與AI晶片引爆全場,耐能2019安博會現場直擊
    在11萬㎡的展館內,來自全球53個國家和地區的1100多家廠商、超過13萬名觀眾,海康威視、大華、宇視、華為、中興通訊、東芝、威騰電子、ABB等全球安防、科技巨頭,以及耐能等AI晶片廠商成為現場人氣的熱點。
  • 「中國IC風雲榜最具成長潛力公司候選41」欣博電子:聚焦安防領域...
    在此背景下,安防行業對AI技術的需求也已從單純的算力需求上升為對安全的AI算力的需求。基於安睿810開發的邊緣端AI計算模組算力高達40TOPS,視頻全幀解碼解析能力達到64路;雲端AI計算卡算力高達80~240T,視頻全幀解碼解析能力達到128~384路。各項性能指標均處於業界領先水平。在技術研發過程中,欣博電子始終把AI和安全緊密結合。安睿810內部集成國密加速模塊,基於GB35114對AI計算結果均進行了籤名和加密。