用Kafka實現數字孿生的物聯網架構

2020-12-04 51CTO

數字孿生(Digital Twin)可以被理解為現實中某些事物(也包括過程或服務)在數字虛擬環境中的表現。在本文中,你將了解到數字孿生在各個行業中所處的優勢,以及Apache Kafka、物聯網架構和機器學習之間的關係。在實際應用中,Kafka通常被用作中央事件流平臺,以那些實時流傳感器的數據,構建可靠、且可擴展的數字孿生和數字線程。

我們將從如下三個方面來討論如何構建開放、且可擴展的數字孿生基礎架構:

數字孿生與數字線程。事件流、數字孿生與AI(機器學習)之間的關係。使用Apache Kafka和其他物聯網平臺的數字孿生物聯網架構。建立數字孿生的關鍵要點

我們首先來了解四個基礎性的要點:

事件流是物聯網平臺和其他後端應用程式/資料庫的補充。大多數數字孿生架構都使用機器學習(ML)和統計模型來進行仿真、預測和推薦。「數字孿生」一詞通常是指單個資產的副本。在現實世界中,各種數字孿生比比皆是。「數字線程」一詞涵蓋了一到多個數字孿生的整個生命周期(如下圖所示)。

數字孿生可以被運用到許多行業和領域,其中包括:

減少宕機時間庫存管理車隊管理假設(what-if)模擬運營計劃服務化產品開發衛生保健客戶體驗實際上,數字孿生不僅為各個行業帶來了自動化,而且增加了不同業務的價值和創新。

事件流、數字孿生與AI(機器學習)之間的關係

開發者需要通過機器學習,並運用數字孿生,來進行準確的預測。這兩者存在著互補的關係。下圖展示了不同的數字孿生如何利用統計方法和分析的模型:

該示例包括了基於物理模型來模擬的各種假設情景,以及基於數據模型來估計剩餘使用壽命(Remaining Useful Life,RUL)。可見,數字孿生和機器學習有著以下共同點:

能夠持續學習、監控與行動。良好的數據源是成功的關鍵。數據集越多越好。實時性、可擴展性和可靠性是關鍵的需求。使用Apache Kafka來實現數字孿生,機器學習和事件流

Apache Kafka開源生態系統為機器學習提供了基礎架構。下圖展示了Kafka針對機器學習的架構。該架構為模型的訓練、部署、評分和監視,提供了開放、可擴展、以及可靠性的實時處理。

以下是數字孿生在實際應用過程中的五大常見特徵:

連接性

各類實物資產、企業軟體與客戶。通過雙向通信,以獲取命令和控制。同態化(Homogenization)

解耦和標準化。信息虛擬化。能與多個代理共享,且不受物理位置或時間的限制。成本更低,且能夠輕鬆地開展測試、開發和預測。可重新編程與智能化

通過調整和改善特徵,以開發出產品的新版本。數字跟蹤

能夠實現時光倒流(回溯),並通過分析歷史事件,以診斷問題。模塊化

能夠對產品和生產模塊進行設計和定製。調整不同的模型和機器模塊。為了實現上述特徵,我們可以選用不同的物聯網平臺。根據物聯網分析研究(IoT Analytics Research)的統計:截止到2019年,市場上存在著600多個物聯網平臺。與此同時,它們中的許多工具和解決方案都能夠結合在一起,共同發揮作用。

下面,我們來討論幾種典型的物聯網平臺:

以Siemens S7和Modbus為首的工業物聯網(IIoT)相關協議,以及與諸如OPC-UA之類標準的深度集成:它們往往並非某個單一的產品(通常是各種OEM的不同代碼庫)。雖然價格不菲,但是它們開放特定的接口,而且其可擴展性也十分有限。此類平臺的典型代表包括:西門子MindSphere、思科Kinetic、GE Digital和Predix。雲提供商的物聯網產品:它們提供了完備的物聯網管理工具,能夠與其他雲服務(如:存儲、分析等)實現良好的集成。不過,它們往往被雲提供商的平臺所綁定,且無法支持混合與邊緣計算。另外,它們不但擴展性有限,而且售價也不菲。此類平臺的典型代表包括:AWS、GCP、Azure和Alibaba等。基於開放標準(如:MQTT)、且開源的物聯網平臺:它們能夠開放核心的業務模型,且與基礎架構無關。不過,它們在針對舊協議和專有協議的連接方面,可能不太成熟。此類平臺的典型代表包括:Eclipse IoT、Apache PLC4X、Node-RED等開源框架、以及符合MQTT等標準的HiveMQ相關產品。使用Apache Kafka和其他物聯網平臺的數字孿生架構

下面,我們根據數字孿生的上述五大特徵,來討論Kafka針對實時消息傳遞、集成與處理關鍵任務事件流等方面的作用:

連接性:Kafka Connect可以針對IoT接口、大數據解決方案、以及雲服務,提供免費且實時的大規模連接。同態化:Kafka實現了生產者和消費者之間真正的解耦。模式(schema)管理和實施可利用JSON Schema、Avro、Profobuf等不同技術,來實現數據的感知和標準化。可重新編程與智能化:作為微服務架構的實際標準,Kafka支持:關注點分離(Separation of concerns),域驅動設計(domain-driven design,DDD),部署新的已解耦應用,實施版本控制,A/B測試與發布。數字跟蹤:作為分布式提交日誌,Kafka會按需將事件永久地追加、存儲到您的時間點(永久保留時間可 = -1)。這非常適合為數字孿生構建數字跟蹤。模塊化:Kafka基礎架構本身就是模塊化、且可擴展的,其中包括:Kafka brokers、Connect、Schema Registry、REST Proxy等組件、以及使用Java、Scala、Python、Go、.NET、以及C++等不同語言的客戶端應用。通過這種模塊化,您可以輕鬆地在邊緣、混合或全局場景中,構建合適的數字孿生架構,並能夠將Kafka組件與任何其他物聯網方案結合起來。下面是五種適用於數字孿生的物聯網架構。您可以根據它們的優缺點,在自己的整體企業架構、項目情況、以及其他方面,做出合理的選擇。

方案1:數字孿生Monolith

直接使用物聯網平臺來集成和構建數字孿生,無需其他資料庫或其他組件。

方案2:將數字孿生作為外部資料庫

物聯網平臺與其端點集成,數字孿生的數據被存儲在諸如:MongoDB、Elastic、InfluxDB或Cloud Storage之類的外部資料庫中。此類資料庫僅用於存儲,處理,以及儀錶板分析等任務。

同時,Tableau、Qlik或Power BI之類的商業智能(BI)工具也可以使用資料庫的SQL接口,來實現交互式的查詢和報告。

方案3:Kafka作為數字孿生和企業其餘部分的主幹

物聯網平臺仍然與其端點集成。Kafka作為中央事件流平臺,提供與其他組件之間的解耦。此處中央層是開放、可擴展且可靠的。而此處的資料庫同樣被用於數字孿生的存儲、以及儀錶板分析。其他應用也會以實時、批處理、請求-響應通信等方式,使用來自Kafka的部分數據。

方案4:Kafka作為物聯網平臺

作為中央事件流平臺,Kafka可為物聯網端點和其他應用提供關鍵任務的實時架構和集成層。在此方案中,數字孿生並未用到上述方案中提到的資料庫,而是使用了Azure IoT Twin Twins之類的雲端物聯網服務。

場景5:Kafka作為物聯網平臺

Kafka直接被用於實現數字孿生,而並不涉及到其他組件或資料庫。同時,其他消費者會直接使用原始數據和數字孿生的數據。

該方案的主要問題在於Kafka是否可以替換資料庫、以及如何查詢到數據。在實際應用中,由於Kafka可以被用作資料庫,因此它不會替代諸如:Oracle、MongoDB或Elasticsearch等其他資料庫。

當然,Kafka的多次部署也可以被運用到數字孿生的架構中,在永久性存儲等方面發揮巨大的作用。

相關焦點

  • 工業物聯網:製造業中數字孿生的興起
    「數字孿生」一詞不過是一種概念化,即利用傳感器等智能設備的數據,保持物理對象、操作的數字匹配。連接數字孿生體及其物理匹配部分的通道稱為數字線程。隨著人工智慧和數據的適當結合,數字模型可能會定期進行修改和升級。此外,它還提供了實際和並發的虛擬實境。將物理對象與計算機生成的對應項相結合是至關重要的。隨著工業物聯網技術發展趨勢的不斷增強,數字孿生技術的重要性日益凸顯。
  • 優鍩科技獲數億B+輪投資,以數字孿生理念實現萬物可視化
    優鍩科技創始人陳傲寒表示,本輪融資將用於IT架構管理產品的深度研發和物聯網PaaS平臺的擴展,已擁有數萬家ISV企業用戶的ThingJS平臺即將開通線上應用市場,為用戶提供更多場景化的技術賦能和方案支持,進一步推動物聯網和數字孿生技術的應用和普及。優鍩科技是i黑馬&數字觀察獨家並且持續追蹤報導的獨角獸企業。
  • 工業3D可視化數字孿生數據物聯網的在線展示
    打開APP 工業3D可視化數字孿生數據物聯網的在線展示 勺子在商迪 發表於 2020-12-25 15:57:04 物聯網數據在不斷迅猛發展,商迪3D結合虛擬仿真技術、多媒體分析技術、數字孿生監控系統、網絡技術、以三維可視化的形式展現出來。
  • 「一網統管」市域物聯網運營中心啟用,進階人與物「動態全量數字孿生」
    該運營中心的啟用,也標誌著上海城市運行管理將邁入人與物「動態全量數字孿生」的新階段。通過這個平臺,更好地實現共建共治共享,圍繞好用、管用、實用的「應用場景」共同推進,共同研發,對數據進行全量、全生命周期的管理,從而賦能城市「繡花」。
  • 在邊緣處部署Kafka的用例與架構
    汽車/航天/半導體/化工/食品等製造業:物聯網售後客戶服務,機器和車輛的OEM,嵌入式標準軟體(如:ERP或MES系統),設備/機器/生產線的數字孿生/流程,以及通過監控工廠的生產線,執行預測性的維護,質量控制,儀錶板/車間/外圍健康狀況的跟蹤等。
  • 特斯拉、西門子、勞斯萊斯們,在用「數字孿生」做什麼?
    因此,製造商可以在虛擬環境中調整參數,在產品上線之前測試和驗證產品的功能、安全性和質量,例如:1.勞斯萊斯使用數字孿生風扇葉片來製造超級噴氣發動機,提高了25%的燃油消耗效率。2.英國鐵路網的數字孿生是為了實現設計過程的自動化而建立的,大大節省了現場人工測量的成本和時間。3.新加坡利用數字孿生技術研究新的智能建築如何在現有基礎設施上進行建設規劃、安裝等。
  • 如何利用數字孿生幫助企業 創造價值?
    遠景工作交互式數字孿生:交互式數字孿生是根雲平臺的下一代數字孿生架構,具有改進的 Smart UX,供機器操作者、產品線操作者、合作的運營者和產業鏈運營者使用直觀的拖拽界面逐級構建實時數字孿生金字塔。提供預先構建的物模型、指標、DT 模型和捆綁的可操作診斷程序,以及按行業分類法進行分類的預測性和規範性操作包,以加快數字孿生主導的實施過程。
  • 迎風而上,電信數字孿生應用廣泛落地
    ;中國電信在雄安構建的全國首個城市級IOT平臺,已成為雄安新區實現數字孿生城市的底座……目前,中國電信數字孿生技術正在服務越來越多的行業。泛在超融合未來網絡架構在商業方面,中國電信率先打造了「5G+MEC智慧商業雲XR數字孿生平臺」。
  • 中國移動助力雄安新區建設統一物聯網開放平臺
    中國移動智慧城市數字感知基臺以物聯網領域統一接入、設備管理、數據分析、數據可視化、自動化運維、AI等核心能力為支撐,搭配IoT感知套件、View數字孿生等產品,為新型智慧城市提供物聯感知基礎設施建設服務。目前,中國移動智慧城市數字感知基臺已在浙江舟山、河北唐山、深圳市龍華區等多個地區落地應用,其中,最為典型的是服務雄安新區的智慧城市建設。
  • 「數字孿生建築」應用簡述
    全球知名的未來學家Thomas Frey預測,到2022年,85%的物聯網平臺將使用某種數字孿生體技術進行監控,少數城市已開始率先利用數字孿生體技術進行智慧城市的管理。數字孿生建築具有四大特點:精準映射、虛實交互、軟體定義、智能干預。
  • DSE環球數字資產交易所數字孿生
    當前,隨著物聯網與5G的快速發展,物理世界與信息世界的聯繫逐漸增強,數字孿生技術作為實現物理域和虛擬域互聯互通的有效手段正步入風口。「區塊鏈+數字孿生所構建的微型鏡像世界可在經濟生活中多個領域發揮不可替代的作用。」
  • 京東物流—數字孿生供應鏈白皮書
    京東物流與中國物流與採購聯合會在「2020全球物流技術大會」共同發布了《數字孿生供應鏈》白皮書,這也是業內首個數字孿生供應鏈白皮書發布。數字孿生是基於物理系統的實時數位化模型,它充分利用物理模型、傳感器更新、運行歷史等數據,集成多學科、多物理量、多尺度、多概率的仿真過程,在虛擬空間中完成映射,從而反映相對應的實體裝備的全生命周期過程。
  • 「阿里」「騰訊」「百度」「華為」雲-「數字孿生」喊你入局,構建...
    三、泛在感知產生大量邊端數據數據,雲邊協同計算隨著物聯網感知終端規模化建設,將把通用感知設備、邊緣計算設備、智能應用等形成邏輯上的不同的邊緣管理域,以物聯網數據為主,融合少量業務數據,圍繞明確的行業和任務,通過數據融合、智能算法,達到智能發現、高效管理、便捷服務的要求,做到「全域感知、同數多用,設備協同」。
  • 5G賦能數字孿生體應用的價值、路徑與案例
    安世亞太《數字孿生體技術白皮書》所提出的參考架構及其生命特徵的表述中,將這一過程比喻為人體和外界環境的互動,傳入神經和傳出神經隨時傳輸著各種感知信息和控制指令。而在數字孿生體應用中,通信網絡則同樣起著人體神經系統的作用。
  • 院士論壇 | 李德仁:智慧城市的未來是實現「數字孿生」
    「李德仁稱,「數字孿生是虛實之間雙向映射、動態交互和實時的聯繫。大家知道數字孿生如果用到城市裡來,就是通過對物理城市的人、物、事等數位化,水、電、氣的流,讓數位化製造一個與之對應虛擬的城市,物理維度上的實體城市和信息維度上數字城市同生共存、虛實交融。
  • 物聯網市場格局:工業物聯網
    這包括有線 ( 如乙太網技術 )和無線 ( 如蜂窩技術 ) 聯網終端。儘管工業乙太網終端聯網技術已經在 2000 年初出現,但許多產品 ( 特別是現場終端 ) 仍然沒有聯網,或者只提供單向通信。有了 IIoT,可以實現雙向通信,數據被提供給控制器和雲,反饋也被提供給終端。舉例來說,可以通過更改傳感器上的參數來支持生產運行。
  • 以CIM平臺推動數字孿生落地 以數字孿生助力智慧城市建設
    蓬勃發展的信息技術推動城市建設發展進入數字孿生時代。數字孿生正是破解當下城市建設發展諸多難題的制勝法寶。"孿生城市"是物理維度上的實體城市和信息維度上的虛擬城市同生共存、虛實交融的城市發展格局。
  • 華為雲IoT助力構建數字孿生,打造智能化基礎設施
    導語:隨著數字孿生技術步入風口,華為雲推出了IoTA一站式物聯網數據分析服務,以幫助企業構建物理世界與虛擬世界之間溝通的橋梁。通過數字孿生系統,能實現從產品設計、生產計劃到製造執行的全過程數位化,提升產品的創新、製造效率;當我們為一座城市構建出數字孿生後,就可以基於孿生模型對城市的環境進行實時監測,以優化城市的資源利用率,實現交通的智能調度等,那將是一件多麼酷的事情。
  • 數字孿生城市建設研究
    實時聯繫數字孿生實時與準時創建與物理實體等價的「克隆體」或數字模型。數字孿生技術架構分為物理層、數據層、模型層、功能層、應用層。物理實體、數據、虛擬模型、連接、應用是數字孿生的核心要素。目前,數字孿生廣泛應用於智慧城市、工業網際網路、車聯網等新型場景。
  • 怎樣用數字孿生建設一座城市
    怎樣用數字孿生建設一座城市 陳根 發表於 2020-12-18 14:56:11 當前,世界正處於百年未有之大變局,數字經濟成為全球經濟發展熱點,關於美、英、歐等各國的數字經濟戰略甚囂塵上