本產品由DataPipeline投遞並參與「數據猿年度金猿策劃活動——2020大數據產業創新服務產品榜單及獎項」評選。
DataPipeline 實時數據融合產品通過多種實時數據技術,支持廣泛的數據節點類型,協助企業構建以業務目標為導向的數據鏈路,按需快速定製、部署、執行數據任務,以支持從傳統數據處理到實時數據應用的各類場景。
應用場景/人群
某股份制商業銀行實時數據管道項目
主要應用場景:
●客戶行為等實時數據的標準化補全並分發到各個應用系統;
●業務系統的實時帳戶變動與指標變化傳輸到GaussDB作為實時分析依據;
●實時數據加載到Redis作為業務實時查詢使用;
●主數據系統數據和數據倉庫數據加載到SequoiaDB作為歷史數據查詢使用。
某持牌金融科技服務公司資料庫準實時數據採集項目
主要應用場景:
●多源異構:DB2,Oracle,MySQL等多種資料庫進行近實時的數據採集功能,並對數據源建立高效的管理功能,實現對數據源、目的地的數據連接統一管理管理,通過界面進行數據源與目的地註冊,刪除數據源,同時根據需求不斷迭代支持新的資料庫;
●實時採集:利用解析資料庫歸檔日誌的方式,實現秒級的數據變更捕獲,將解析的變更記錄傳送到數據目的地中,包括日誌中提取數據變更的增、刪、改等DML操作記錄,以及新增表、刪除表、添加欄位、刪除欄位等自動同步到目的地中;
●標準管理:統一的可視化管理頁面,提供平臺級別的數據管理功能,包括產品權限、數據時效管理和安全管控等方面功能,為數據工程師、運維人員提供直觀的數據任務地圖,隨時可以洞悉數據的最新動態,極大提升運維工作效率和效益。
產品功能
基於日誌的實時增量數據獲取技術保證實時數據全面、準確。DataPipeline 實時數據融合產品支持數十種主流資料庫作為數據節點,打破企業域內各類異構數據技術構成的樊籬,讓存儲在不同類型數據節點中的數據隨需可得;採用基於日誌的增量數據獲取技術(Log-based change data capture),為主數據管理、數據倉庫、大數據平臺提供實時、準確的數據變化,從而使得客戶可以根據最新數據進行運營管理與決策制定;支持一對多數據分發,針對數據分發、外部數據管理等場景,確保整個企業使用的數據準確、可靠、一致。
使用分層管理按需服務的配置型平臺來提升 IT 敏捷開發效率。一方面保證數據節點的安全性、穩定性、業務連續性,一方面為數據應用提供更多的自主性,使客戶可以將數據獲取的範圍、數據任務的生命周期、系統資源投入的多寡等權限更多的交給實際使用數據的業務部門及應用開發人員。提升敏捷開發效率,實現多速 IT,從而在業務需求變化時從容應對,達成數位化轉型目標。
通過高容錯的分布式系統和卓越的性能來降低風險。DataPipeline實時數據融合所有組件均支持高可用,融合引擎基於容器化分布式集群部署,支持動態擴縮容;在節點管理、鏈路管理、任務管理中均有各個層次穩定性相關策略配置。針對數據採集、消息隊列及數據加載的各個組件都進行了一系列專門的性能優化,完全滿足客戶從數據遷移、數據交換到實時數據服務、實時數據分析的各類時間窗口要求和時效性要求。
產品優勢
DataPipeline實時數據融合以專業化產品的方式提供給用戶進行配置式構建,大大降低了企業搭建基礎平臺的研發成本與運維成本,讓客戶能夠將時間精力與優質資源投入到數據價值釋放與商業價值實現上去。
企業級平臺的建設周期從三到六個月減少為一周以內,財務成本由300萬+減少到50萬以內,數據融合任務的研發交付時間從2周減少為5分鐘;
通過多種實時數據技術,支持廣泛的數據節點類型,協助客戶構建以業務目標為導向的數據鏈路,支持從傳統數據處理到實時數據應用的各類場景;
使用分層管理按需服務的配置型平臺來提升敏捷開發效率 ,實現多速 IT,從容應對業務變化,達成數位化轉型目標。
使用客戶/人群
DataPipeline服務了百餘家客戶。在銀行、保險、證券、資管、零售、能源、製造業、汽車、商業地產、醫療、網際網路科技等重點領域被廣泛使用,服務了中國人壽、民生銀行、山東城商行聯盟、財通證券、中國石油、金風科技、法國威立雅集團、吉利汽車集團、星巴克、百勝中國、玫琳凱、太平鳥、龍湖地產、陽光城集團、邵逸夫醫院、叮噹快藥、正保遠程教育集團等在各自行業信息化水平領先的客戶。
市場價值
DataPipeline實時數據融合平臺滿足了行業領先客戶對數據處理與分析的更高要求,幫助客戶通過更加專業全面、更加靈活穩定、更加敏捷高效的方式處理異構數據融合中紛繁複雜的各種問題,解除傳統數據集成工具的時效性束縛,打破多種異構數據管理工具的技術壁壘,是先進企業釋放實時數據價值最好的選擇。
產品所屬企業·DataPipeline:
DataPipeline致力於成為中國的世界級數據中間件廠商。堅持技術驅動,深耕企業服務,不斷創新產品與服務,利用實時數據融合產品打破技術壁壘,讓客戶專注數據價值釋放。DataPipeline 核心團隊分別來自谷歌、Yelp、亞馬遜、IBM、甲骨文、中科院等國內外知名企業,皆擁有數十年大數據開發和項目經驗。目前已經成功服務了星巴克、金風科技、財通證券、龍湖地產、喜茶、玫琳凱、叮噹快藥、智慧圖、銷售易等多家行業領先的企業客戶,行業覆蓋零售、製造、金融、醫療、能源、政府和網際網路等,在平臺功能和服務能力上均得到了國內市場的普遍好評。
2019 年獲得百度風投領投,經緯中國、清流資本跟投的數千萬 A+ 輪融資,目前公司總部位於北京,並且在北京、南京分別設有研發和服務中心。未來,DataPipeline 將加速提升數據融合平臺的硬實力,持續優化行業客戶服務的軟實力,全面提升公司的核心競爭力。