Spark+TDengine 在中國電信電力測功系統監控平臺上的應用實踐

2020-09-03 TAOSDATA

小 T 導讀:電力測功系統監控平臺,是基於中國電信上海理想信息產業(集團)有限公司的,設備數據採集和設備銀行V2.0應用進行設計和開發的。採集到的設備的實時數據,都是存儲在TDengine中的。

應用背景

電力測功系統監控平臺,是基於中國電信上海理想信息產業(集團)有限公司的,設備數據採集和設備銀行V2.0應用,進行開發和設計的,軟體是電力測功系統監控平臺的核心,是實現數據匯聚、數據處理、可視化展示以及測功試驗的重要部分,根據電力測功系統集控界面功能需求,可將整個電力測功系統監控平臺架構分為四部分:設備層、網絡層、平臺層以及展示層。整體架構如下圖:

實時數據是存儲在TDengine資料庫之中的,和設備銀行之間進行通信,數據流程如下:

設備銀行主要負責模版、設備和報警信息的管理,其可視化界面如下:

Spark+TDengine使用過程

1. TDengine的安裝

請參考官方文檔:

https://www.taosdata.com/cn/documentation/


2. 在TDengine中建立測試庫和測試表

taos> create database test;taos>use test;34;jdbc&34;url&34;jdbc:TAOS://192.168.1.151:6030/log&34;driver&34;com.taosdata.jdbc.TSDBDriver&34;dbtable&34;log&34;user&34;root&34;password&34;taosdata&34;fetchsize&34;1000&34;ts&34;ts&34;level&34;content&34;ipaddr&34;jdbc&34;url&34;jdbc:TAOS://192.168.1.151:6030/test?charset=UTF-8&locale=en_US.UTF-8&34;driver&34;com.taosdata.jdbc.TSDBDriver&34;dbtable&34;log2&34;user&34;root&34;password&34;taosdata&34;taos&34;/path/to/libtaos.so&34;libtaos.so&34;libtaos.so&34;Did not find registered driver with class $driverClass&34;java.library.path&34;:&34;:${libPath}&34;java.library.path&34;sys_paths") fieldSysPath.setAccessible(true) fieldSysPath.set(null, null) } }


在yarn模式下一定要給url設置charset和locale,如

charset=UTF-8&locale=en_US.UTF-8

否則container可能會異常退出。


6. libtaos.so其他加載方式

本來還嘗試了jna加載libtaos.so的方式,此方式只需將libtaos.so放入項目resources中,程序變回自動搜索到so文件,奈何不會改tdengine中c的代碼。


作者介紹
董鴻飛,大數據開發工程師,2015年加入上海理想大數據實施部,工作至今。目前主要負責公司數據總線產品設計和開發。


公司介紹
中國電信上海理想信息產業(集團)有限公司,成立於1999年,註冊資本7000萬元,是上海市投資規模較大的信息技術企業之一。通過整合公司內各事業部多年大型項目實施的整體實力,公司著力鍛造大型信息化項目諮詢規劃和頂層設計能力,構建「智慧社區」、「智慧園區」及「智慧政務」、「智慧醫療」、「智慧物流」等各類智慧行業應用等整體解決方案,可提供IT外包服務和網絡監控運維管理一站式安全解決方案,逐步形成「智慧城市」專業領域產品研發積累和項目交付與平臺運營經驗,鍛造了整體科研隊伍和項目實施團隊的綜合實力。

相關焦點

  • TDengine開源版本在電力運維平臺的應用
    小 T 導讀:上海嘉柒智能科技有限公司致力於電力行業線下線上一體化運維,為此提供整體解決方案。業務包含電力運維,智慧路燈,隧道一體化等。其電力運維平臺資料庫使用的是TDengine,採用TDengine後,存儲空間大為節省。
  • Spark Streaming 實時計算在甜橙金融監控系統中的應用及優化
    接收程式設計師的技術早餐作者|張璐波編輯|小智1寫在前面天翼電子商務有限公司(簡稱「甜橙金融」)是中國電信的全資子公司,2011 年 3 月成立於北京,作為中國人民銀行核准的第三方支付機構,是兼具金融、電信、網際網路文化的跨界國家高新技術企業。
  • TDengine 在星諾好管車的應用實踐
    好管車致力於打造一個智能化管車工具,基於獨有的精準硬體設備+智能大數據算法平臺,提供給政企車隊及物流企業客戶一套綜合管理與服務解決方案,覆蓋車輛精準裡程、定位回放、能耗管理、行程合併、帳單結算、安全監控、智能裝備和統計分析等車隊運營全流程,賦能車隊及物流企業、提升行業整體效率。
  • TDengine在華夏天信露天煤礦智慧礦山作業系統的應用
    應用場景華夏天信RED-MOS露天煤礦智慧礦山作業系統,本身基於微服務架構,結合HTAP混合大數據平臺,平臺中包含TSDB及關係資料庫,數倉系統等組成運用工業數據協議轉換和數據採集網關系統將產、運、銷各環節的生產與成本數據進行深度的挖掘和分析,從生產運營ODS系統、成本管控BI系統和市場分析BI
  • Standalone集群搭建和Spark應用監控
    承接上一篇文檔《》Spark on standalone類似於yarn的一個集群資源管理框架,spark自帶的yarnResourceManager(進程)管理和調度集群資源,主要包括:申請、調度、監控NodeManager(進程)管理當前節點的資源,以及啟動container資源:CPU和內存(
  • 人工智慧技術在電力監控系統方面的應用
    間隔層是針對現場進行監控的測控單元,這樣可以實時監控變電站和配電所迴路,然後針對數據進行對應的收集處理,其主要包含了直流檢測單元、計算綜合保護以及變壓器溫度控制箱,電力監控系統在得到智能技術的幫助之下,就能夠準確的監測電力參數;中間層作為站控層和間隔層的連接之橋,通過人工智慧技術,就可以實現彼此的溝通;站控層是監控系統之中智能技術的應用
  • 實時電力監控系統的經典應用案例
    摘要:介紹內江市市民廣場A座項目電力監控系統,採用智能電力儀表採集配電現場的各種電參量和開關信號。系統採用現場就地組網的方式,組網後通過現場總線通訊並遠傳至後臺,通過Acrel-2000型電力監控系統實現變電所配電迴路用電的實時監控和電能管理。
  • 在 K8S 上運行 Spark 的最佳實踐和陷阱
    阿里雲高級技術專家範振為大家帶來在kubernetes上運行apache spark的介紹。內容包括Data mechanics平臺介紹,Spark on k8s,以及EMR團隊雲原生的思考和實踐。一、Data Mechanic平臺介紹這塊是data mechanics平臺的一個介紹。首先,它是一個serverless的平臺,即一個全託管的平臺,用戶不用去關心自己的機器。所有的應用的啟動和擴容都是在這種秒級的。
  • 容器雲環境,你們如何監控應用運行情況-JFrog雲原生應用監控實踐
    引言自從2018年從Cloud Native Computing Foundation(CNCF)出現以來,您可能已經在使用K8作業系統,隨著容器雲技術大發展以及落地,提高了企業運維的效率和質量,並且降低了企業運營成本,但同時帶來的問題是運維的複雜度和難度,舉個例子:由於容器的生命周期短,隨時可能飄移到其他物理資源上運行,因此日誌的採集和運行的監控很難像傳統方式登錄到伺服器上查看
  • 關於電力監控系統在某配電系統中的應用分析
    打開APP 關於電力監控系統在某配電系統中的應用分析 acrelwyy 發表於 2020-12-03 16:22:55 3:電腦軟體端實施顯示現場配電狀態圖,實現遠程操作和監管 4:對配電系統迴路的狀態進行實時監控,及時發現電流越線、欠壓、開關狀態變位、等電氣隱患,實現實時報警,方便及時處理。提高系統可靠性。 3.ACREL2000電力監控系統的特點 安科瑞電力監控系統可以提供從前端採集設備到中間通訊設備以及後臺軟體等一整套解決方案。
  • 電力監控系統的設計以及實際應用案例的分析
    打開APP 電力監控系統的設計以及實際應用案例的分析 acrelwyy 發表於 2020-12-03 16:20:31 系統採用現場就地組網的方式,組網後通過現場總線通訊並遠傳至後臺,通過Acrel-2000型電力監控系統實現變電所配電迴路用電的實時監控和電能管理。
  • 電力無線網絡視頻監控系統的功能特點及應用方案
    電力無線網絡視頻監控系統的功能特點及應用方案 佚名 發表於 2020-12-18 11:47:44 電力行業是國民經濟的大動脈,在我國的現代化建設中起著舉足輕重的作用
  • 中國電信5G+工業網際網路應用研討會舉行
    9月27日,中國電信重慶公司聚焦5G+工業網際網路領域,組織召開以「5G 新未來,智創新時代」為主題的「中國電信5G+工業網際網路應用研討會」。此次會議為中國電信重慶公司 「5G+」三場專題會議的首場,是中國電信重慶公司5G+工業網際網路第一次以研討會方式對外重磅發聲。
  • 華北工控:嵌入式計算機在智能電力監控系統中的應用
    隨著嵌入式(系統)技術的不斷發展,微體積、高集成的計算機硬體在電力系統中的應用越來越廣泛,是提高電力系統監控工作精度、效率及可靠性不可或缺的硬體支撐。面對全國各地大型公共設施、樓宇工廠等的急劇增加,基於智能工控硬體的電力監控系統技術優勢也愈發明顯。
  • 「智能視頻監控系統」助電力科技創新再邁步伐
    甘肅日報近年來,隨著創新意識的不斷增強,創新實踐經驗不斷累積,國有電力企業的科技創新活動近年來蓬勃開展,取得了不俗的成績。其中,作為國網甘肅省管產業單位的蘭州倚能電力(集團)有限公司結合國內先進的「大雲物移」信息技術應用,建設了「視頻監控智能運維系統」,實現了電力施工企業作業現場安全可視化管控。
  • 電力變電站遠程監控系統的組成及方案設計
    電力系統內各種生產設備類型複雜,數目巨大,地域分布廣,人工維護困難,發展無人值守或少人值守的變電站系統是發展之必然。 隨著監控系統技術的飛速發展,數字視頻信息的交換已經成為廣泛應用。變電站系統的四遙功能(遙控、遙信、遙測、遙感)已經無法滿足無人值守的要求,增加遠程視頻監控系統才能夠真正實現對無人值守變電站的現代化的科學管理和維護。
  • 大數據監控平臺實踐之路
    綜述日誌和監控開發人員工作中必不可少的兩隻眼睛,日誌是為了快速定位排查故障,監控是為了發現潛在問題並能及時告警,是故障診斷和分析的重要輔助利器,同樣監控系統對大數據平臺重要性不言而喻。在發生事故之前就能預警,最大限度降低系統故障率,是監控的終極目標和價值體現。本文旨在幫助大家了解監控系統,並能快速搭建公司的監控平臺。
  • 安科瑞電力監控系統在浙江天元生物藥業有限公司的應用
    系統採用現場就地組網的方式,組網後通過現場總線通訊並遠傳至後臺,通過安科瑞電力監控系統實現變電所變配電迴路用電的實時監控和管理。 關鍵詞:浙江天元生物藥業有限公司;10KV變配電所;多功能儀表;Acrel-2000;電力監控系統。
  • 關於電力監控系統在綜合加工廠房項目中的應用
    打開APP 關於電力監控系統在綜合加工廠房項目中的應用 acrelwyy 發表於 2020-12-08 16:20:59 本次需要對此變配電室內的102塊低壓電力儀表及6臺AM5綜保進行監控,監控主機位於監控室內。
  • 「視頻監控智能運維系統」 實現電力施工企業安全可視化管控
    近年來,隨著創新意識的不斷增強,創新實踐經驗不斷累積,國有電力企業的科技創新活動近年來蓬勃開展,取得了不俗的成績。其中,作為國網甘肅省管產業單位的蘭州倚能電力(集團)有限公司結合國內先進的「大雲物移」信息技術應用,建設了「視頻監控智能運維系統」,實現了電力施工企業作業現場安全可視化管控。據悉,該視頻監控智能運維系統於今年5月份正式投運。