太一星晨:負載均衡性能參數如何測評?

2021-01-09 TechWeb

【賽迪網訊】8月6日消息,當前,在雲計算和大數據為主導的需求環境下,負載均衡和應用交付已為大型企業數據中心「保駕護航」的必備品。不過,負載均衡作為一種比較「新奇」的設備,其主要功能雖然以為相關需求人士所熟知,但是它的各種性能指標卻是「亂花漸欲迷人眼」,一般人琢磨半天也不得所以。

那麼,負載均衡產品的性能指標究竟應該從哪些方面來測評呢?小編特別採訪了國內新興應用交付企業太一星晨產品總監于振波先生。同時,不久前正好有一批太一自行研發的應用交付產品通過了聯通的集採測試。作為國內頂級運營商,聯通對負載均衡產品主要功能及性能指標的測試十分專業。由此,于振波也特別結合聯通的集採測試對負載均衡的性能參數進行了深入的解讀。

于振波表示,評估負載均衡設備的性能參數主要有三個維度,分別是四/七層吞吐量、最大並發連接數與四層新建連接數速率,這三大維度的具體指標決定了負載均衡產品的性能效果。

一、四/七層吞吐量,不再看throughput,而要看HTTPGoodput

1.什麼是吞吐量

衡量負載均衡產品性能最常見,也是最基礎的指標就是「吞吐量」,這個概念在路由設備、防火牆等網絡設備上都有體現。

什麼是「吞吐量」?簡單來說,我們可以把負載設備想像為一個管道,單位時間內能通過管道的最大流量就是吞吐量。所以,單位時間內能通過的流量越大,就意味著負載均衡設備的處理能力越高。而所謂的「四/七層吞吐」,也就是開啟四層功能和七層功能時,設備的處理能力。

2.吞吐量的標準測量方法

吞吐量有標準的測試方法,傳統路由器、防火牆都是通過測試單位時間內不同大小的UDP數據包來衡量產品性能的,也就是我們通常所說的「throughput」。但這個指標對負載均衡產品已經「落伍」了。

在聯通測試中,運營商使用一種更「嚴格」的指標去考量負載均衡產品的性能——「HTTP有效吞吐(HTTPGoodput)」。因為UDP的傳輸過於簡單,與設備實際處理能力相差太遠,在實際網絡中,各種應用協議大多是通過TCP傳輸的,TCP協議有更複雜的協商流程,作為與應用結合密切的負載均衡設備,傳統防火牆的UDP吞吐量對其並不關鍵,真正能處理應用層協議的能力才是看「真章」的地方。

在實際測試中,運營商會利用專業測試儀表模擬真實客戶向伺服器發起HTTP請求,經過負載設備後,模擬伺服器將給予響應,在此過程中,不斷加大模擬客戶端的數量,直到負載設備出現無法及時處理、連接失敗或響應超時、測試儀器上記錄的無失敗時所能處理的最大HTTP傳輸流量統計為止。

與傳統的UDP吞吐相比,HTTP有效吞吐在衡量負載設備的性能方面要更接近實際環境,也更加嚴格。

二、最大並發連接數

如果說,吞吐量的指標衡量的是一個管道的話,那麼最大並發連接數則相當於一個「裝水的瓶子」,所謂最大並發連接就是指這個瓶子所能裝的「水」的容量,即負載設備所能維持的最大連接數的個數。

對於並發連接的測試,測試儀需要模擬HTTP客戶端以一定速率向負載設備發起連接請求,並持續保持連接不中斷。在這個過程中逐漸增加連接的個數,直到負載設備出現處理失敗,再統計出負載設備所能承載的最多的連接個數。

該參數雖然重要,但在聯通測試中卻並未刻意強調。原因很簡單,該指標只取決於設備的內存容量,說白了一句話,並發連接數是由內存大小決定的,而且現在設備的內存數所能承載連接早已經超過大多數的實用場景。

三、四層新建連接數速率(L4 CPS)

在聯通測試中,四層每秒新建連接速率被異常重視,其中連接的概念也被嚴格定義:需要有完整三次握手的過程(SYN,ACK/SYN,ACK),一次HTTP的請求和應答,以及TCP 連接的關閉(FIN,ACK,FIN,ACK)過程——這樣操作是為了儘可能模擬實際應用。

四層連接速率,就是以儘可能高的速率向設備發送連接請求,在完成連接數據傳輸後,又迅速關閉連接,以避免數據包大小對最終結果的影響,連接傳輸的數據被設置為64位元組,聯通系統通過這樣的方式充分考驗設備每秒能處理的連接的數量。對於運營商用戶來說,這個指標對應用交付產品應付突發大量連接非常重要。這有點像我們身邊的地鐵入口,雖然地鐵運力很強,但如果入口修太小了,在高峰期很多乘客還是不能順暢的走進去!              

相關焦點

  • 全面認識F5負載均衡
    F5負載均衡功能1.多鏈路的負載均衡和冗餘與網際網路相關的關鍵業務都需要安排和配置多條ISP接入鏈路以保證網絡服務的質量,消除單點故障,減少停機時間。多條ISP接入的方案並不是簡單的多條不同的廣域網絡的路由問題,因為不同的ISP有不同自治域,所以必須考慮到兩種情況下如何實現多條鏈路的負載均衡:內部的應用系統和網絡工作站在訪問網際網路的服務和網站時如何能夠在多條不同的鏈路中動態分配和負載均衡
  • 負載均衡技術與nat123負載均衡
    此文綜合分析了常用的負載均衡技術與nat123的負載均衡技術與故障轉移。一 .目前比較常用的負載均衡技術主要有:1. 負載均衡技術1.基於DNS的負載均衡:通過DNS服務中的隨機名字解析來實現負載均衡,在DNS伺服器中,可以為多個不同的地址配置同一個名字,而最終查詢這個名字的客戶機將在解析這個名字時得到其中一個地址因此,對於同一個名字,不同的客戶機會得到不同的地址,他們也就訪問不同地址上的Web伺服器,從而達到負載均衡的目的2.
  • 軟體測試中的性能測試 負載測試 壓力測試
    負載機:向被測應用系統發起負載,控制機會把運行的腳本隱蔽原樣copy遠程負載機,如果運行的測試腳本有參數文件及依賴的jar包時,需要手動把這些東西copy到負載機。但是要保證與原始腳本路徑相同。最終,負載機會收集被壓伺服器返回的結果再傳遞給控制機顯示在聚合報告中。3.你如何設計負載?標準是什麼?
  • 淺談Nginx負載均衡與F5的區別
    而一些預算並不高,正在初期發展的網站來說,Nginx這種軟負載也能很好的滿足其數據分流的需求,下面我們先來看看Nginx是如何滿足我們的負載均衡需求的:反向代理負載均衡技術是把將來自internet上的連接請求以反向代理的方式動態地轉發給內部網絡上的多臺伺服器進行處理,從而達到負載均衡的目的。具體是怎麼運行的呢?
  • 負載均衡算法概述
    我們查詢註冊中心獲得了某個服務的可用節點列表,我們需要從可用節點列表中選擇一個發起調用,這就是負載均衡的所用了。需要考慮兩個因素,個是要考慮調的均勻性,也就是要讓每個節點都接收到調,發揮所有節點的作,另個是要考慮調的性能,也就是哪個節點響應最快,優先調哪個節點。
  • 梭子魚負載均衡醫療行業應用方案
    2.提高終端服務應用的性能:  在終端服務系統中,通常會採用多臺伺服器同時提供服務的方式。但是由於網絡中的流量並不均衡,因此經常會出現某臺伺服器由於訪問量過大而宕機,造成網絡應用性能的不穩定,從而影響到整個網絡應用系統的性能。需要智能負載均衡技術來提高終端服務應用的性能。
  • 解析防火牆負載均衡技術與功能實現原理
    在談及負載均衡應用的時候,說的最多的就是流量控制,網站負載,以及伺服器負載等等。那麼,現在要給大家介紹的是防火牆負載均衡的應用。還是讓我們從基礎了解,防火牆大家都知道,它是安全上網的一道屏障,有了它在很多不安因子都被擋在門外。那麼,我們現在來看看如何進行防火牆的負載均衡。
  • 縱觀網絡負載均衡發展歷史
    那麼網絡負載均衡技術也是隨著網絡發展而興起的。現在讓我們回首,看看它的發展歷史,同時,也是對網絡的發展有一個側面的認識。首先我們要弄清楚負載均衡從何而來,在什麼基礎上才被研發出來的。伺服器、FTP伺服器、企業關鍵應用伺服器和其它關鍵任務伺服器等,從而共同完成工作任務。負載均衡建立在現有網絡結構之上,它提供了一種廉價有效透明的方法擴展網絡設備和伺服器的帶寬、增加吞吐量、加強網絡數據處理能力、提高網絡的靈活性和可用性。需要說明的是:負載均衡設備不是基礎網絡設備,而是一種性能優化設備。對於網絡應用而言,並不是一開始就需要負載均衡,當網絡應用的訪問量不斷增長,單個處理單元無法滿足負載需求時
  • F5總裁:解密負載均衡市場發展內幕
    編者按:十年前,很少有人知道網絡負載均衡,十年後,網絡負載均衡已經成為網絡應用的重要設備,特別是大型網絡應用的核心設備。如今,負載均衡設備市場甚至並駕與基礎路由、交換設備市場。負載均衡市場機會是如何被發現的,它是如何成長起來的?
  • Array Networks負載均衡解決方案案例
    因此,提升陝西地稅系統網絡性能,進行伺服器負載均衡的部署優化就顯得非常關鍵。  按照陝西省政務應用系統所提供服務的相關要求,陝西地稅決定根據其稅務系統的現有網絡情況,通過部署伺服器負載均衡解決方案,實現對稅務系統現有網絡的優化改造。最終,Array APV系列負載均衡解決方案以其高可用性、高可靠性以及強化的安全保障成功中標。
  • 解析F5伺服器負載均衡方案
    那麼,前面我們介紹了一下ebay平臺的伺服器負載均衡案例的一些要求和對方案的介紹。那麼現在,我們再來稍微回顧一下這個案例的具體內容。解決方案針對eBay資料庫伺服器負載均衡的需求特點,eBay考慮了三種主要解決方案。1)將資料庫垂直分割,劃分成多層資料庫處理,減輕原來單層資料庫處理數據而形成的瓶頸與可用性問題。但問題:這種方案很難部署,而且也沒有從根本上解決單點故障問題。2)採用OracleOPS/RAC機群解決方案。問題:要求給便資料庫編程代碼
  • 這6種實現負載均衡技術的方式不容錯過
    這6種實現負載均衡技術的方式不容錯過 負載均衡(Load Balance)是集群技術(Cluster)的一種應用,可以將工作任務分攤到多個處理單元,從而提高並發處理能力,有利於提升中大型網站的性能。接下來小編就為大家介紹6種實現負載均衡技術的方式。
  • 「官網」F5網絡負載均衡解決方案-上海初成
    靜態路由 靜態負載均衡方式根據配置的指標分布流量,而不受動態環境變量的影響。鏈路負載均衡解決方案 循環 (Round Robin) 循環是一種靜態負載均衡方式, 它根據規定順序進行連接分布。
  • 高可用負載均衡最佳實踐五:總體實現
    這兩種機房相比較,BGP效果最佳,但價格最貴,可根據自己的資金預算和性能要求來權衡使用哪一類機房。另外在選定前先測試一下機房的網絡狀況,同時了解其電力供應,空調設施已經伺服器堆放密度,最好觀察一下是否有知名的網站也放置在這裡?  託管上選定以後,就要放置設備,接上電源、網線等線纜進行物理連接,為開機運行做好準備,如果有必要,則需要對交換機作一些設置。
  • Array Networks為陝西地稅部署負載均衡解決方案
    Array Networks為陝西地稅部署負載均衡解決方案 近日,Array Networks為陝西地稅的稅務系統成功部署了伺服器負載均衡解決方案,使得陝西省地方稅務網絡不再因為用戶訪問量過大而無法及時處理大量並發訪問,實現了系統的網絡優化,大大提升了系統的運行效率和用戶應用體驗,同時還為系統的數據提供了高度的安全保障
  • F5案例分析-IP V6負載均衡
    在系統最終測試時,發現了友商產品根本無法滿足性能要求,並且無法從根本上支持IP V6(該友商提供了外掛設備方式來解決)。因此通過渠道了解到了F5產品。但他們的數據流卻被BIG-IP靈活地均衡到所有的伺服器。
  • 弘積科技中標交通銀行負載均衡設備採購項目,樹立行業新標杆
    交通銀行作為中國第一家全國性的國有股份制商業銀行,中國六大銀行之一,數據中心信息化建設一直是走在行業前列,本次交通銀行總行數據中心負載均衡招標項目作為負載均衡產品「國產化」重要項目之一,產品涉及到中、高端性能產品設備,招標入圍選型測試僅功能和性能測試有一百多項,複雜而嚴謹。但弘積科技憑藉卓越的產品技術和性能,以優異成績技壓其它國產品牌,一次性通過了交通銀行嚴苛的選型測試。
  • 一文看懂集群、分布式與負載均衡的關係
    在「高並發,海量數據,分布式,NoSql,雲計算......」概念滿天飛的年代,相信不少朋友都聽說過甚至常與人提起「集群,負載均衡」等,但不是所有人都有機會真正接觸到這些技術,也不是所有人都真正理解了這些「聽起來很牛的」技術名詞。下面簡單解釋一下吧。
  • 低溫系統性能參數及如何提升
    低溫系統性能參數及如何提升
  • 中國電信終端年度評測:5000元以上通信性能第一是華為 Mate40 Pro
    今年,中國電信對14個品牌的62款5G全網通手機進行了測評,測評涵蓋了83項指標。綜合5G、Wi-Fi、GNSS、遊戲和續航五個方面的性能,華為Mate40 Pro摘得了5000元+檔位的通信性能綜合評測第一;中國電信還對5G手機SA(獨立組網)的性能進行了測評,華為Mate40 Pro再獲第一;同時,在AI應用——語音助手產品的測試中,華為Mate40 Pro語音助手的喚醒成功率、遠場、低信噪比情況下的語音識別性能等均排名榜首。