網絡分析系列之四_網絡數據包採集硬體和部署

2020-11-25 騰訊網

隨著對前面網絡分析基礎知識的了解,我們知道了網絡通訊的基礎原理,可攜式數據採集工具和企業級流量分析系統的異同等內容。這一節介紹抓包可能涉及的相關硬體信息,以及企業級流量分析系統的部署方式。

為什麼能採集到網絡數據包

網絡抓包軟體或流量分析系統之所以能夠抓取到不屬於自身接入到網絡中接口的數據報文,是由於該網卡啟用了一種叫混雜模式的方式,這種方式能扣看到所有流經這個網口的數據包信息。

Wireshark或企業級流量分析系統的流量採集網卡含有libpcap/WinPcap驅動,該驅動讓網卡變為混雜模式。

常見數據包採集硬體

數據包採集過程需要接入網絡中的硬體,常見硬體有集線器(hub,古老的設備,現在很少用到)、交換機(埠鏡像)、TAP(網絡分流器)等等。

集線器

在早期的數據包採集環境中,集線器是最常見的硬體設備之一。

使用集線器連接的網絡中,任意數據包都可以流經接入的其它集線器或設備。在這種環境下,你不需要做任何準備工作,接入安裝了抓包軟體的電腦就可以採集到所有的數據包。

但稍有遺憾的是,集線器由於自身的工作機制,會對網絡傳輸造成極大的影響,目前基本被完全淘汰。

交換機

交換機是當前網絡中最常見的數據轉發設備之一,但對於數據包採集來說,則不像集線器那樣方便了。因為每個交換機的埠是一個衝突域,即這個埠接入安裝了抓包軟體的電腦後,抓包軟體只能採集到交換機這一個埠的流量,無法採集其它埠流量信息。

在交換機環境下,通過埠鏡像,可以完整的採集流經交換機所有埠的流量。

埠鏡像的原理是告訴交換機,將一個埠上的所有數據包複製到另外一個 埠上。目前,基本所有的可管理交換機都支持埠精細。

如上圖所示,鏡像埠是管理人員通過配置,指定的埠,觀察埠連接抓包軟體,這樣,任何流經鏡像埠的數據包,都會在觀察埠被採集到。

TAP

TAP(Test Access Point),常見稱呼網絡分流器,還有人叫它NPB (Network Packet Broker),或者匯聚分流器。其核心功能就是架設於生產網絡鏡像口和分析設備集群之間,將一臺或者多臺生產網絡設備鏡像出來的流量匯聚後,分發到一臺或者多臺數據分析設備。

基於TAP的流量複製/聚合器,由硬體設備和其中自帶管理軟體組成,能夠支持多埠的流量聚合,實現完整的複製多個監聽埠,供多套分析系統使用。

業內知名的TAP廠商有big switch、brocade、Gigamon、VSS等等,處理速率從1G和10 G逐漸上升到40G和100G。

當然,除了上述常見的幾種跟數據包採集相關的硬體外,還有諸如分光器之類的其它硬體,這裡不再一一列舉和細述。

企業級流量數據採集系統部署

通常情況下,專業的流量分析設備部署在靠近監控的線路旁,監控方法是通過從交換機把流量鏡像,然後把鏡像的流量導入到設備裡分析。

為實現全面的鏈路和應用監控,常見的數據採集方式有2種:

多層應用架構環境

用戶環境由多個設備組成的多層架構應用環境中,數據源來自多臺網絡設備,需要匯聚數據,然後接入到性能分析設備。

單一應用架構環境

當應用架構較為集中時,數據源可從少量設備鏡像獲得,只需在對應設備進行鏡像設置,然後將鏡像流量接入性能分析設備。

專業流量分析系統支持多種原始數據存儲方式,針對不同的應用,可選擇是全包存儲,還是截取包頭一部分存儲。

同時,所有的分析數據以動態聚合的方式,長期保存在設備中。

相關焦點

  • 網絡分析系列之二_網絡通訊工作原理
    為了更好的理解網絡分析技術,了解並掌握網絡通訊原理是必須的。這一節我們將講述網絡通訊基礎知識,涉及到協議、OSI參考模型及數據封裝。 網絡通訊定義了計算機如何接入到網絡中,以及接入網絡中的通信標準,主要包含協議、OSI七層參考模型和數據通信時的協議封裝過程。
  • 大數據關鍵技術淺談之大數據採集
    在前幾篇文章中,企通查為大家介紹了大數據處理的基本流程。從大數據的一系列處理過程中(抽取、集成、分析、解釋),我們可以發現這一整套流程中涵蓋了數據存儲、處理、應用等多方面的技術。 大數據價值的完美體現需要多種技術的協同。
  • OCP China Day:數據中心自動運行光網絡
    騰訊的開放光網絡平臺是騰訊新一代光網絡系統,基於超強的採集和控制能力不斷提升光網絡的自動化水平,目標是構建一個高度自動化、友好的光網絡。目前,騰訊的開放光網絡平臺已經解決了硬體標準化問題,開發標準的OPC-4設備,實現電層系統與光層系統的解耦合,不再綁定單一供應商。同時騰訊開放光網絡平臺標準化的管控模型也已開發完畢。
  • 採用片上網絡(NoC)的新型FPGA數據架構賦能5G網絡和數據中心智能...
    隨著智能網卡技術的成熟,正在考慮引入諸如機器學習等越來越先進的功能,以最大程度地發揮數據流和數據包分析的潛力。下面的圖5顯示了智能網卡的一些功能。kmBEETC-電子工程專輯AC7t1500器件是首款部署多通道GDDR6存儲器接口的FPGA,它滿足了需要高速緩存海量數據和存儲大型查找表的通信系統的需求。除了可編程邏輯架構採用的面向位(bit-oriented)的布線結構外,這些外圍設備還通過一個智能二維片上網絡(NoC)進行互連。
  • 大數據技術在網絡安全分析之中的作用!
    不斷增加的數據量、隨著計算機軟硬體技術使得數據的傳輸速率加快,網絡安全要想在一定的時間內對龐大的數據進行有效的檢索,需要提升對數據採集、處理方面的速度,同時也要確保數據的有效性。流動性數據的增加,使得數據所涵蓋的種類更加的廣闊,使得網絡安全分析也需從多角度對這些數據進行有效的分析。隨著大數據時代的發展,傳統的網絡安全分析得到了有效的改善。
  • 軟體使數據中心SONiC網絡更快更可靠
    Apstra已經採用顯著的SONiC(雲中開放網絡軟體)運行和特性增強性功能,更新了其行業領先的數據中心網絡自動化、驗證和分析軟體。軟體增強性功能消除了複雜的部署和運行難關,這些都是SONiC進入的障礙。 Apstra不斷履行其SONiC承諾,大幅提高數據中心SONiC網絡的部署和運行的速度和可靠性,從而迅速滿足創新和業務需要。Apstra與Microsoft和開放計算項目(OCP)開發的SONiC集成,可輕鬆實現數據中心網絡部署和運行的配置和自動化。
  • 園區網絡的新引擎是什麼
    2013年,華為發布全球首個基於SDN的敏捷網絡方案及首款敏捷交換機S12700,讓園區網絡業務及策略部署和管理更為敏捷。 CloudEngine S12700E系列交換機可提供4槽位,8槽位及12槽位共3個款型,部分業務板卡兼容當前的S12700系列產品,你可根據待建園區網絡當前或未來需求進行靈活選擇。S12700E系列交換機沿用分布式硬體架構,確保設備的高可靠性,同時提供平滑演進的能力。
  • LSI推出網絡加速器卡系列
    NYSE:LSI)日前宣布推出網絡加速器卡系列,可用於減輕複雜的計算密集型任務,從而實現更高的性能並可加速產品上市進程。該系列加速器卡採用各種業界標準的封裝形式,具有高度的可編程性,不僅便於 OEM 廠商利用現有的軟體投資,而且還能降低開發成本。   LSI Axxia 網絡加速器和 Axxia 媒體加速器卡可為 OEM 廠商提供確定性的實時應用加速解決方案,適用於網絡智能、伺服器負載均衡、統一威脅管理、媒體代碼轉換和數據分析等眾多應用領域。
  • 數據中心網絡架構三層分析
    虛擬交換機技術的代表是H3C公司的IRF、Cisco公司的VSS,其特點是只需要交換機軟體升級即可支持,應用成本低,部署簡單。目前這些技術都是各廠商獨立實現和完成的,只能同一廠商的相同系列產品之間才能實施虛擬化。
  • Python視頻教程網課編程零基礎入門數據分析網絡爬蟲全套Python...
    ,然後再根據自 己的需求和規劃選擇學習其他方向課程,學完後一定要多實踐 總目錄 零基礎全能篇(4套課程) 實用編程技巧進價(1套課程) 數據分析與挖掘(8套課程) 辦公自動化(3套課程) 機器學習與人工智慧(7套課程) 開發實戰篇(4套課程) 量化投資(2套課程) 網絡爬蟲(
  • 大數據信息資料採集:Q音樂網絡紅歌基本信息及評論內容採集爬取
    大數據信息資料採集:Q音樂網絡紅歌基本信息及評論內容採集爬取-------------數據採集滿足多種業務場景:適合產品、運營、銷售、數據分析、政府機關、電商從業者、學術研究等多種身份職業市場分析:獲取用戶真實行為數據,全面把握顧客真實需求。產品研發:強力支撐用戶調研,準確獲取用戶反饋和偏好。風險預測:高效信息採集和數據清洗,及時應對系統風險。
  • 雲杉網絡DeepFlow容器網絡監控診斷方案 解鎖業務上雲新挑戰
    c)部署少侵擾:整個方案的部署應儘可能地避免對現有生產環境產生影響,對不同的容器環境須採用與之匹配的技術方案,在進行容器流量採集部署時滿足平滑部署且保證業務不間斷,確保對計算資源的消耗安全可控。d)數據標準化:企業IT環境往往是複雜和異構的現狀,其監控系統中的工具和數據也多種多樣。
  • Mellanox 為NPS-400網絡處理器推出高性能數據包檢測軟體包
    12/6/2016, 領先的端到端高性能數據中心互聯解決方案提供商Mellanox今天推出可以在最新的NPS-400網絡處理器上實現前所未有的性能的深度數據包檢測和狀態包處理軟體庫。
  • 數據中心自動化與網絡可視性的作用
    可見性在管理自動化數據中心方面發揮了什麼作用?未來的網絡性能監視和診斷(NPMD)解決方案如何幫助NetOps克服與之相關的挑戰?以下將探討自動化數據中心以及它們如何受到機器學習、軟體定義網絡和公共雲/私有雲遷移的影響。並且了解下一代網絡性能監視和診斷(NPMD)解決方案在提供可見性方面的作用。需要明確的是,「自動化」並不意味著缺乏人為幹預或疏忽。
  • 英特爾Lynn Comp:多樣化產品組合推動網絡轉型|5G on IA
    創新的產品之外,英特爾多年來與生態系統合作夥伴一起基於英特爾平臺不斷優化和擴展解決方案的積累也使英特爾成為邊緣基石的明智之選。英特爾數據平臺事業部副總裁兼網絡平臺事業部總經理Lynn Comp介紹了英特爾多樣化產品組合中,英特爾凌動P5900和全新第二代至強可擴展處理器這兩款新發布的產品。
  • Helium已在1000多個城市部署LoRaWAN網絡
    將LoRaWAN與Helium的區塊鏈相結合,企業無需部署自己的網關或網絡基礎設施。Helium通過連接LoRaWAN網絡實現的中心化途徑,即可將個人熱點和公共連接的熱點(網關)連結在一起,形成一個同構網絡。
  • 小姜學網絡(網絡中的網絡互聯設備)
    >網絡互聯是指區域網-區域網、廣域網-廣域網、區域網-廣域網之間的連通和互操作能力,這種互操作指的是網際網路上一個網絡的用戶和另一個網絡的用戶可以透明的交換信息而不管這兩個網絡上的硬體軟體差異。網絡互聯設備就是使上述網絡能夠正常連通、實現互操作能力的硬體設備。
  • 基於數據流計算圖的卷積神經網絡的理論和設計
    在硬體電路加速或晶片的設計中,數據流所得到的高輸出率、低延時特點是各廠家在寫 RTL硬體設計語言時著重提出的特點,其次基於數據流的軟硬體設計易於算法代碼之間的轉換、實現、移 植、調試、分析、綜合、集成、優化和驗證。
  • 國家稅務總局數據中心網絡安全加固項目(第1包網絡安全能力建設包...
    國家稅務總局數據中心網絡安全加固項目(第1包網絡安全能力建設包)招標公告 公告信息: >採購項目名稱 國家稅務總局數據中心網絡安全加固項目(第1包網絡安全能力建設包) 品目 貨物/通用設備/計算機設備及軟體/信息安全設備/安全審計設備,貨物/通用設備/計算機設備及軟體/信息安全設備/其他安全設備
  • 軟體定義、硬體加速的可編程InfiniBand NDR網絡 賦能E級AI和HPC平臺
    ,成為業界領先的軟體定義、硬體加速的可編程網絡,為全球的科研人員和工程人員設計新一代計算系統和提升應用性能提供了新的思路。 NVIDIA Mellanox NDR 400G InfiniBand產品系列 「Speed Of Light」是關於NDR InfiniBand技術的第一個特徵,通過加倍的帶寬、更快的包處理能力(Message