伴隨著全球數字經濟快速發展,知名諮詢公司IDC預測,在2020年後的未來兩年中,企業數據將以每年42.2%的速度持續增長。大量數據匯聚後的數據管理與運營分析,將使企業在客戶粘性、整體收入、利潤增長以及成本控制上得到更大收益,從而形成企業市場核心競爭力提升的關鍵。
隨著企業等各類型組織的業務增長,數據量持續增加,大量數據的實時與離線分析成為了新的訴求。以Hadoop為代表的大數據技術得到廣泛應用與持續發展,然而大數據服務組件眾多、部署與使用過程的複雜性,使企業在數據運營分析與開發管理中門檻重重。
優刻得基於多年公有雲大數據產品服務經驗的沉澱,結合客戶市場需求的深入解析。於近日正式推出了自主研發的「智能化、輕量級、一站式大數據服務組件管理平臺USDP」(以下簡稱USDP)。平臺支持對HDFS,Kudu,Elasticsearch等30餘款,主流開源大數據服務組件進行實施部署、配置管理、監控告警、故障診斷等全方位協同管理。此外,還可適配專業用戶經過自定義優化的組件。 USDP還集成了自研的工作檯組件,囊括數據開發、任務管理、數據集成等功能,彌補開源組件短板。
在核心定位上,USDP著手於為用戶提供更加便捷、可視化的企業數據管理。一方面在用戶搭建過程中,全流程自動化貫穿部署服務與組件整個環節,並提供一站式集中組件生態管理;另一方面USDP集成的實時監控視圖與告警策略,可協助運維人員快速定位資源瓶頸,為資源優化提供有力支撐。輕量化的易捷架構、可視化的自動管理,將大大降低部署與平臺建設的成本消耗 。
擁抱開源、輕量智能、多雲融合
全面支持主流開源大數據服務組件
1)全面兼容開源大數據生態
作為優刻得自主研發的大數據管理平臺,USDP支持眾多(如 HDFS、YARN、Hive、HBase、Spark、Flink 等)主流開源大數據服務組件的安裝部署、運行監控與配置管理。其中USDP 提供的開源服務組件的部署和管理能力,本身不會對客戶的技術選型產生任何影響,也不會像其他廠商的自研服務對客戶形成技術上的綁定。2)支持豐富完整的服務組件
USDP完全中立、無捆綁原則,支持30餘款主流服務組件協同工作。與其他同類型產品相比,USDP支持的服務組件數量更多,能夠覆蓋客戶需要用到的絕大部分服務組件,使得客戶可以通過一個平臺納管所有服務組件。同時,USDP產品中的服務完全基於Apache版本進行集成,並進行了大量兼容性測試與壓力測試。在確保各個服務穩定運行的同時,兼顧 Apache 官方頻繁的 BUG 修復,用戶無需承擔額外學習成本。
輕量級、智能化的操作體驗:
USDP 從國內客戶的操作和使用習慣出發,簡化和優化客戶的操作流程,提供系統初始化工具,支持將相關的先驗知識。如服務間的組合和依賴關係,啟動的先後順序等內置在平臺系統當中,對客戶屏蔽複雜的操作細節,做到一鍵式環境檢查和集群部署,從而大大降低了客戶的使用門檻。
得益於優刻得在公有云為海量用戶提供大數據產品及服務的持續經驗積累。USDP為每一個支持的服務組件預置了一套完善的,服務監控和告警配置模板。客戶無需任何先驗知識,即可通過監控模塊掌握集群和服務運行狀況,並通過簡單配置對外發送預警信息,協助運維人員及時介入排查問題。
對公有雲、私有雲環境的全面支持
USDP 脫胎於優刻得公有雲大數據服務之上,經過公有雲大數據產品運營中的反覆驗證與打磨。在此基礎上,針對於私有雲部署等應用場景進行了升級和優化。一方面,USDP對各類型環境的部署具有良好的適配性,系統集成的服務組件經過了充分的兼容與壓力性測試,能夠確保持續穩定且高效運行。另一方面,優刻得將公有雲上持續積累的大數據開發和運維經驗,完整的融入到 USDP中。在用戶使用 USDP 構建和管理大數據集群的過程中,如果遇到問題或故障,系統內置的智能診斷模塊,結合技術專家的專業經驗,能夠快速幫助客戶識別問題並排除故障。
典型場景應用介紹
場景一:數據倉庫
「維度數倉」是國內最常用的數倉模型之一。「維度數倉」按照事實表、維度表來構建數據倉庫、數據集市。在維度建模方法體系中,維度描述事實的角度,如日期、客戶、供應商等。事實是要度量的指標,如客戶數、銷售額等。通過 USDP 管理平臺,用戶可以部署構建維度數倉所需的一切服務,快速構建企業數據中臺。
場景二:機器學習
機器學習是一類算法的總稱,這些算法企圖從大量歷史數據中挖掘出其中隱含的規律,並用於預測或者分類。在機器學習領域,對運算往往有大量需求,此時通過 USDP 部署 YARN 以及 Spark、Flink 等分布式運算框架,搭配組件自有算法或企業自研算法,即可事半功倍的進行機器學習開發。同時,在深度學習領域,建模所需的大量數據,也可以存儲於 HDFS,從而真正實現一站式開發。
場景三:業務信息檢索
USDP 中提供的數倉類服務套件,可以方便用戶快速針對 OLTP 系統進行數據讀寫,也許並非會使用到所有服務,但 USDP 依然支持在成熟的部署方案中,選擇獨立的服務進行部署。例如,業務系統需要使用 ES 存儲伺服器日誌,用戶只需要在 USDP 控制臺中選擇部署 ES 即可。
USDP可以部署在用戶私有數據中心,也可以與優刻得的雲上資源管理和運維服務能力無縫結合,為用戶提供穩定、一體化、高性價比的數據倉庫、離線批處理、實時流處理、即時查詢、數據挖掘等大數據解決方案。