1. 智慧交通雲計算中心總體設計
n 先進性
智慧交通雲計算中心的建設採用業界主流的雲計算理念,廣泛採用虛擬化、分布式存儲、分布式計算等先進技術與應用模式,並與電子政務業務相結合,確保先進技術與模式應用的有效與適用。
n 可擴展性
政務雲計算中心的計算、存儲、網絡等基礎資源需要根據業務應用工作負荷的需求進行伸縮。在系統進行容量擴展時,只需增加相應數量的硬體設備,並在其上部署、配置相應的資源調度管理軟體和業務應用軟體,即可實現系統擴展。
n 成熟性
智慧交通雲計算中心建設,要考慮採用成熟各種技術手段,實現各種功能,保證雲計算中心的良好運行,滿足業務需要。
n 開放性與兼容性
智慧交通雲計算中心採用開放性架構體系,能夠兼容業界通用的設備及主流的作業系統、虛擬化軟體、應用程式,從而使得政務雲計算中心大大降低開發、運營、維護等成本。
n 可靠性
智慧交通雲計算中心需提供可靠的計算、存儲、網絡等資源。系統需要在硬體、網絡、軟體等方面考慮適當冗餘,避免單點故障,保證政務雲計算中心可靠運行。
n 安全性
智慧交通雲計算中心與省政務外網、區縣政務外網及網際網路分別連接,必須防範網絡入侵攻擊、病毒感染;同時,政務雲計算中心的資源共享給不同的系統使用,必須保證它們之間不會發生數據洩漏。因此,政務雲計算中心應該在各個層面進行完善的安全防護,確保信息的安全和私密性。
n 多業務性
智慧交通雲計算中心的規劃設計中,充分考慮了需要支撐多用戶、多業務的特徵,保證基礎資源在不同的應用和用戶間根據需求自動動態調度的同時,使得不同的業務能夠彼此隔離,保證多種業務的同時良好運行。
n 自主可控
智慧交通雲計算中心的建設在產品選型中,優先選擇自主可控的軟硬體產品,一方面保證整個雲計算中心的安全,另一方面也能夠促進本地信息化產業鏈的發展。
圖支撐平臺技術架構
支撐平臺總體技術架構設計如上,整個架構從下往上包括雲計算基礎設施層、雲計算平臺資源層、雲計算業務數據層、雲計算管理層和雲計算服務層。其中:
n 雲計算基礎設施層:主要包括雲計算中心的物理機房環境;
n 雲計算平臺資源層:在雲計算中心安全的物理環境基礎上,採用虛擬化、分布式存儲等雲計算技術,實現伺服器、網絡、存儲的虛擬化,構建計算資源池、存儲資源池和網絡資源池,實現基礎設施即服務。
n 雲計算業務數據層:主要為實現業務數據的安全存儲,同時針對雲平臺的各個虛擬機鏡像數據和模板數據進行共享存儲,支持虛擬機的動態遷移和數據的遷移;實現部門間數據共享與交換;實現業務應用接入。
n 雲計算管理層:通過自主可控的雲計算作業系統,實現雲計算中心的服務管理及業務管理的協調統一,提高運維及運營的效率。
n 雲計算服務層:是雲計算中心與最終用於交互的接口和平臺,通過該平臺能夠實現雲計算中心統一對外提供服務,為客戶人員提供整體的雲應用和服務。支撐平臺通過統一的雲服務平臺對外提供服務。
圖雲計算中心拓撲架構圖
支撐平臺建設基於以物理分區為基本單元的設計理念,整個雲計算中心可分為:核心交換區、管理區、DMZ區、業務應用區以及雲存儲區。其中:
核心交換區:負責核心網絡交換;
管理區:對雲計算平臺進行整體管理,單獨建設一套管理網絡;
DMZ區:考慮雲計算中心整體安全性,設置專門的DMZ區,承載各業務部門的業務應用系統的WEB發布,同時支撐雲計算中心網際網路的接入,該區可採用全虛擬機進行支撐或者採用虛擬機和物理伺服器共同支撐;
業務應用區包括兩部分:資料庫邏輯分區和應用系統邏輯分區。其中:資料庫邏輯分區用高端八路物理機支撐;應用系統邏輯分區採用虛擬化和物理伺服器支撐,根據具體的業務應用特點決定支撐平臺選用虛擬機還是物理伺服器。
資料庫分區:主要建設支撐各應用系統的結構化數據資料庫,考慮到資料庫數據量的龐大和系統對數據的訪問I/O吞吐,該區建議採用高端物理機進行支撐;
業務應用邏輯分區:主要根據業務部門的不同業務需求及業務部門對平臺安全級別要求的不同,採用虛擬機和物理伺服器共同支撐。
未來,隨著雲計算中心業務量的增加和複雜度的增加,可以按照相同的架構進行節點的擴展,達到整個雲計算平臺的可擴展性和很好的伸縮性。
圖雲計算中心邏輯架構圖
整個雲計算中心設計採用業務區域的理念。業務區域(即以伺服器集群為核心的物理資源區域,不同的業務區域設備配置可以不同)是系統的基本硬體組成單元,整個系統共包括若干個業務區域。系統規模的擴大可以通過增加業務區域方式,使得整個系統具有很好的可擴展性。業務區域的業務網絡交換機通過萬兆方式上聯到核心交換區,通過核心交換區與其他業務區域和域外系統互聯。
在每個業務區域內,通過雲資源管理平臺的雲計算運營中心節點實現在X86業務節點上部署Hypervisor,並形成一個或多個獨立的邏輯資源池,提供給應用使用;通過雲計算虛擬化管理中心在邏輯資源池內可實現資源的共享和動態分配。
每個業務區域包括:雲計算虛擬化管理中心節點、業務節點、業務網絡、管理網絡、心跳網絡、本地鏡像存儲;業務區域根據各自的業務需要訪問FC存儲或並行存儲等業務數據存儲區域。
雲計算平臺配置多臺雲計算服務門戶節點,為最終用戶的系統管理員提供自助門戶服務。
採用以上設計理念,使得整個系統具有超高的可擴展性,可使整個系統擴展到上千臺物理伺服器規模。
圖雲計算中心部署架構圖
依據云計算中心建設的總體需求,勾畫整個項目的部署架構,指導項目整體建設。
雲計算中心部署主要包括幾個層面:計算資源池的構建、業務數據的分區規劃、共享存儲的設計等。從整個部署架構來看:
計算資源池的構建主要採用高端多核心X86伺服器作為伺服器基礎支撐,通過虛擬化技術實現底層物理資源的虛擬化,通過雲資源管理平臺進行虛擬機的創建、動態分配、遷移及管理,形成統一的計算資源池。
考慮到雲計算的安全性、可靠性及重要性,在本方案中資料庫分區採用物理機支撐,以夠保證整個資料庫的穩定、高I/O吞吐和訪問,主要通過高端X86高性能伺服器通過集群技術進行部署,支撐相關業務數據的存儲和管理。
共享存儲設計的存儲數據主要包括重要業務數據和虛擬機鏡像數據,其中:重要業務數據主要通過Oracle/DB2/SQL Server/MySQL等資料庫進行數據管理,結構化數據存儲利用高端私有雲存儲設備來支撐,在未來需要對存儲容量進行擴展時可方便的橫向縱向擴展;虛擬機鏡像數據主要存放在共享存儲部分,通過共享存儲設備來支撐虛擬機鏡像數據的存放,共享存儲建議使用並行存儲系統來支撐。
本項目建設雲計算中心的基本技術路線主要包括: X86系統架構、資源池化、彈性擴展、智能化雲管理以及充分考慮利舊。
基於X86平臺的伺服器使用Intel Xeon或者AMD Opteron作為處理器,也就是通常所說的PC伺服器。近年來,Intel Xeon和AMD Opteron的性能獲得巨大的提高,大量的先進技術和工藝先後被Intel/AMD引人其處理器的設計和製造中,比如,64位計算、直連結構、內嵌內存控制器、多核(目前,Intel Xeon最多可以做到10核;AMD Opteron可以做到16核)、硬體輔助虛擬化技術(Intel VT、AMD-V)、32nm等等。在國際權威測試機構TPC組織發布的結果中,採用X86架構伺服器價格/性能比最佳。
X86伺服器主要優勢表現在界面友好,系統安裝、網絡裝置、客戶機設置簡易,設置、管理系統直觀、方便,系統擴展靈活等優點,對構建大型應用集群具有較好的優勢。同時,基於X86架構的伺服器因為其開放的架構,開放的生態系統,使其具有較低的運維成本,這也是傳統小型機等封閉系統所不能比擬的。此外,從可靠性的角度,在雲計算環境下,通常大量採用虛擬化、分布式、並行計算等模式,有力的保證了計算系統的可靠性。
同時,基於X86架構的伺服器因為其開放的架構,開放的生態系統,使其具有較低的運維成本,這也是傳統小型機等封閉系統所不能比擬的。此外,從可靠性的角度,在雲計算環境下,通常大量採用虛擬化、分布式、並行計算等模式,有力的保證了計算系統的可靠性。國內外幾大網際網路巨頭,Google、Amazon、百度、阿里巴巴等,無不大量採用X86架構的設備,支撐海量的網際網路檢索和訪問。X86架構的伺服器已經成為構建雲計算中心虛擬化平臺的最佳選擇。
X86伺服器相對於小型機的優勢如下表所示:
表X86伺服器與RISC架構小型機的區別
總之,X86伺服器相對於RISC架構的小型機其優勢如下:
n 性能價格比高
X86伺服器目前已經成為高性能計算機的發展方向,世界上top500排行榜的高性能計算機系統絕大多數是由性價比更好的X86伺服器組成的集群系統,小型機系統則很少。
n 可擴展性好
X86伺服器可以通過原有預留的擴展接口進行無縫的擴展,且相關擴展接口都是業界通用的,非專用接口,這是小型機系統所無法做到的。
X86伺服器組成的集群系統擴展成本更低,可以實現按需擴展。
n 可管理性好
X86伺服器複雜度小於小型機,通常管理一個X86伺服器組成的集群系統要比管理一個小型機系統要簡單得多,這也同時意味著培養一個小型機的管理人才將耗費大量的費用和支出。
n 維護與升級更容易
X86伺服器都是採用了標準的硬體設備,那就意味著這些設備可以輕鬆地拿到,在關鍵時候客戶即使沒有硬體廠商的提供也可以自行配置出臨時的解決辦法,使用通用的X86架構伺服器不會輕易受制於伺服器製造商;然而,小型機的每個配件都是專用的,那就意味著用戶在一些關鍵的業務上需要等待小型機廠商的服務響應時間,受制於小型機設備製造商,將自己的工作帶向了被動。
n 對應用系統的更多的支持
小型機系統只能支持相對較少的作業系統和64位軟體,而X86伺服器可以支持大部分主流作業系統並且可以支持同時存在多種作業系統,也支持32位和64位的軟體系統,在X86伺服器上可運行的軟體是小型機系統的成百上千倍。
資源池化就是將計算資源、存儲資源、網絡資源通過虛擬化技術,將構成相應資源的眾多物理設備組合成一個整體,形成相應的計算資源池、存儲資源池、網絡資源池,提供給上層應用軟體。
資源虛擬化是對上層應用屏蔽底層設備或架構的資源封裝手段,是實現雲計算資源池化的重要技術基礎。
虛擬化技術由來已久,所謂虛擬化是相對於物理實體而言的,即將真實存在的物理實體,通過切分或(和)聚合的封裝手段形成新的表現形態。
聚合封裝是將多個物理實體通過技術手段封裝為單一虛擬映像/實例,可用於完成某個業務。例如SMP、計算集群(Cluster)、負載均衡集群(Load Balance)、RAID技術、虛擬存儲、埠匯聚(port trunk)、交換機堆疊(stack)等。
切分封裝是將單個物理實體通過技術手段封裝為多個虛擬映像/實例,可用於執行不同業務。例如主機虛擬化、存儲分區、虛擬區域網(VLAN)等。其中:
n SMP、計算集群、負載均衡、主機虛擬化等屬於計算虛擬化的範疇;
n 存儲分區、RAID技術、虛擬存儲等屬於存儲虛擬化的範疇;
n 虛擬區域網(VLAN)、交換機堆疊、埠匯聚等則屬於網絡虛擬化的範疇。
對於虛擬化技術也可以組合使用,以靈活地滿足各種應用環境。例如:
n 存儲分區可以是對單個磁碟,也可以是針對RAID磁碟組;
n 虛擬化主機通過負載均衡又可以實現應用單一映像。
虛擬化技術的一個重要結果是降低IT架構中部件之間的依賴關係,以計算虛擬化為例,集群、主機虛擬化等計算虛擬化技術實現了應用軟體與物理基礎設施解耦合,這個過程類似與從C/S架構到B/S架構,繼而發展為多層體系結構的發展,都是由於原有的體系發展出現瓶頸或問題而出現的。
C/S架構到B/S架構是通過應用計算與客戶端的解耦合,在客戶端與資料庫之間增加了webserver這樣的中間層,減少了客戶端和資料庫的處理壓力。
圖C/S架構到B/S架構轉化圖
B/S結構到多層體系結構是通過數據處理與web server的解耦,在web server之間增加application server,減少了web server的處理壓力。
圖B/S結構到多層體系結構轉化圖
C/S結構到B/S多層體系結構的發展,優化了應用處理的過程,提高了應用系統的處理能力,而且也解決了應用系統的擴展能力,使大規模應用處理成為可能。
雲計算平臺的計算虛擬化技術形式眾多,所要解決的問題也各不相同。例如:
n 集群技術使得應用處理獲得了更大的處理能力;
n 主機虛擬化技術則是提高伺服器處理能力的利用率。
圖集群技術及主機虛擬技術優勢圖
但是從最終的效果而言都是分離了應用軟體與物理基礎設施,解除或弱化了它們之間的耦合,從而也就削弱了各自的技術發展所受到的相互限制,拓展了技術發展的空間和靈活性。
圖傳統數據中心向雲計算中心遷移示意圖
雲計算中心要實現所提供服務的質量,動態的資源調度是必不可少的。
現有數據中心的IT基礎架構採用固態配置,靈活性很差,當業務發展超出預期時,無法及時根據業務需求調整資源供給,難以滿足業務快速增長的需求。而且系統資源擴展需要一定的周期,在此過程中,業務系統將處於高危運行狀態,造成服務質量下降。而為了應用峰值而擴展的資源在正常情況下,將處於低負荷狀態,造成資源浪費。
而雲計算中心要避免這樣的情況出現,就必須要實現動態的資源調度,實現業務系統資源配備的按需調整,結合管理系統的資源監控,根據業務負載等情況,調整業務資源配給,保障業務系統的資源供給,滿足其運行需要,也就保障了業務的服務質量。
雲計算中心弱化了應用軟體與底層物理資源依賴關係,使得物理資源能夠更加靈活地向優化系統性能、提高可靠性、提高易用性、提高運維效率等方面發展,使得動態資源調度成為可能,從而為上層的應用軟體提供更好的服務質量。而提高底層的計算、存儲、網絡等物理資源的耦合性,對於解決上述問題具有關鍵作用。
首先通過對計算資源、存儲資源、網絡資源進行優化配給,提高資源能力的耦合性,則可以更好地提高雲計算平臺的整體性能。
然後智能化地根據用戶需要封裝、分配資源,形成虛擬應用平臺,用戶在簡單地部署自己的應用或數據後,應用系統即可投入使用。
利用整合了計算、存儲、網絡等方面資源的運維專家系統,只需基於虛擬應用平臺對物理資源的使用分析,即可動態地對其所用物理資源進行優化調整,以提高用戶應用的運行效率和服務質量。
在雲計算中心,運維人員無需過分關心上層應用的情況,只需基於虛擬應用平臺對物理資源的使用分析,進行資源優化調整,保證雲計算中心的穩定高效即可。
圖雲計算中心彈性擴展示例圖
雲計算中心具有IaaS、PaaS、SaaS等眾多的服務模型,提供計算服務、存儲服務、乃至整合各種資源的綜合性服務,其資源的構成更加複雜、規模更加龐大。為了提高易用性和可維護性,各種資源構成之間的關係複雜。為了保證雲計算中心的服務質量,對於眾多用戶資源配給的調整也要求更精準的、更及時。
這些要求已經不是依靠運維人員的能力所能滿足的,需要採用更加智能化的自適應運維管理。
雲計算中心運維管理要適應雲服務對資源管理所提出的新需求:
n 緊耦合的資源管理
雲計算中心採用資源綜合管理,即將系統中的計算、存儲、網絡等資源視為整體系統,實施統一管理,這有利於優化整體性能、精確定位問題、是實現動態資源調度的重要因素。
n 多維度的資源管理
雲計算中心的資源具有多種視圖,例如物理資源視圖、虛擬資源視圖、虛擬組織視圖,因此,雲管理也應該是多維的。
項目建設應充分考慮利舊,建設新系統並將業務系統遷移至新系統之後,先前採購的設備應繼續利用,避免浪費已有投資。主要包括以下幾個方面:
n 伺服器設備:經過性能和穩定性衡量之後,可以用來做對性能要求較低的前置機或者在雲計算分區中添加一個利舊伺服器組成的雲區域,承擔重要性稍差的業務系統;
n 存儲設備:可以用來做容災,以充實存儲空間;
n 網絡設備:經過性能和穩定性衡量之後,可以用來和新購網絡設備一起組成雲計算中心的網絡體系。
網絡拓撲方案一般有三層組網方案和二層組網方案。
傳統的網絡設計方案中,通常採用三層方案。三層方案將雲計算中心基礎網絡分成核心、匯聚和接入三層架構。通常情況下,核心與匯聚之間通過路由技術進行流量的控制,匯聚層設備可以部署安全模塊作為業務分區的邊界網關,匯聚層以下普遍採用二層接入,運行STP/MSTP等協議來降低二層環路帶來的隱患。
三層結構的優點在於:
n 網絡分區清晰,以匯聚層設備區分業務部署,易於擴展、管理和維護;
n 匯聚層可以靈活控制縱向網絡的收斂比,不同性能要求的區域按照不同的規划進行設計,降低核心設備的埠壓力;
n 布線方式清晰、靈活,不會出現集中布線帶來的散熱、維護等問題;
n 因接入層設備採用低端產品,匯聚層設備可按照收斂比靈活控制成本,整體組網成本相對較低。
三層結構的缺點在於:
n 組網結構複雜,需要部署MSTP和VRRP等冗餘協議;
n 在匯聚層收斂比較大,性能容易出現瓶頸;
n 三層結構在部署時,網關部署在匯聚層,匯聚層以上採用路由協議進行流量控制,而路由收斂較慢,路由路徑及節點增多,管理難度加大;匯聚層以下使用二層,仍然存在出現環路的風險;從整體規劃上,三層結構較複雜。
隨著信息技術的不斷發展,高端交換機的轉發性能和接入密度都在不斷的提高,因此匯聚層高端交換機設備具備足夠的能力直接提供高密度的千兆接入和萬兆上行能力,從而精簡大量的接入層設備,使網絡架構趨向於扁平化。在核心與匯聚接入層設備之間運行二層交換,vlan配置靈活,並可通過新一代交換機虛擬化功能替代傳統的STP/MSTP,通過vlan映射業務分區,網絡結構簡潔、清晰。
二層結構的優點在於:
n 扁平化組網,簡化網絡拓撲,減少了單點故障和性能瓶頸,易於管理、維護;
n 二層組網均採用高端設備,能夠搭建一套具備極高轉發性能的雲計算中心高端網絡,同時高端設備的可靠性更高,能夠為雲計算中心應用保駕護航;
n 新一代高端交換機設備支持虛擬化技術,能夠消除大量的環路設計,消除STP/MSTP等協議帶來的運維、管理的複雜性;
n 適合於大規模、集中部署,且高性能需求較高的雲計算中心。
根據云計算伺服器數量多、擴展速度快、可靠性要求較低、網絡結構獨立的幾個特點,將伺服器群接入網絡物理採用二層網絡設計,在邏輯上虛擬成一層考慮。
根據二層組網原則,本項目組網邏輯架構拓撲如下圖所示。
圖組網邏輯架構拓撲