近幾年，隨著雲計算、大數據、移動網際網路等新技術的普及，部署大量虛擬機成為一種必然趨勢。不過，虛擬機需要在網絡中無限制地遷移到目的物理位置，在傳統數據中心網絡中幾乎無法滿足，這樣虛擬機在遷移範圍上要受到網絡架構限制，在規模上要受網絡規格限制，網絡隔離和分離能力也制約著虛擬機的大批量部署，解決這些虛擬機遷移問題理想的方案是在傳統單層網絡（Underlay）基礎上疊加（Overlay）一層邏輯網絡，將網絡分成兩個組成部分。在 Underlay網絡中，所有的轉發行為都由控制器決定，控制器通過OpenFlow協議或者定製的BGP協議將轉發表項下發給轉發器，轉發器僅僅執行動作，沒有單獨的控制面；而在Overlay網絡中，這種網絡的轉發器一般都是傳統設備，不支持OpenFlow，或者私有定製協議不能部署，這時就要用到隧道技術。基礎網絡還是傳統網絡形式，通過路由協議打通各個節點，但是在伺服器接入點，採用隧道技術將數據報文進行封裝或者解封裝。對傳統網絡來說見到的就是普通的數據報文，轉發即可。隧道技術實際上就是報文的馬甲，迷惑網絡設備，讓設備以為是自己人，實際上在外表以下還有一個真實轉發的內容。
Underlay網絡
乙太網從最開始設計出來就是一個分布式網絡，沒有中心的控制節點，網路中的各個設備之間通過協議傳遞的方式學習網絡的可達信息，由每臺設備自己決定要如何轉發，這直接導致了沒有整體觀念，不能從整個網絡的角度對流量進行調控。由於要完成所有網絡設備之間的互通，就必須使用通用的語言，這就是網絡協議，RFC就是網絡協議的法律，相當於國際法，各個設備供應商遵從國際法行事，就基本保證了整個網絡世界的正常運行。Underlay就是當前數據中心網路基礎轉發架構的網絡，只要數據中心網絡上任意兩點路由可達即可，指的是物理基礎層。我們可以通過物理網絡設備本身的技術改良、擴大設備數量、帶寬規模等完善Underlay網絡，其包含了一切現有的傳統網絡技術。
Overlay網絡
Overlay在網絡技術領域，是一種網絡架構上疊加的虛擬化技術模式，其大體框架是對基礎網絡不進行大規模修改的條件下，實現應用在網絡上的承載，並能與其它網絡業務分離。它是建立在已有網絡上的虛擬網，用邏輯節點和邏輯鏈路構成了Overlay網絡。Overlay網絡是具有獨立的控制和轉發平面，對於連接在Overlay邊緣設備之外的終端系統來說，物理網絡是透明的。通過部署Overlay網絡，可以實現物理網絡向雲和虛擬化的深度延伸，使雲資源池化能力可以擺脫物理網絡的重重限制，是實現雲網融合的關鍵。Overlay網絡也是一個網絡，不過是建立在Underlay網絡之上的網絡。Overlay網絡的節點通過虛擬的或邏輯的連結進行通信，每一個虛擬的或邏輯的連結對應於Underlay網絡的一條路徑（Path），由多個前後銜接的連結組成。
Overlay技術可以分為網絡Overlay，主機Overlay和混合式Overlay三大類。網絡Overlay是指通過控制協議對邊緣的網絡設備進行網絡構建和擴展，也就是本文所講的Overlay網絡技術。Overlay網絡技術多種多樣，一般採用TRILL、VxLan、GRE、NVGRE等隧道技術。TRILL（Transparent Interconnection of Lots of Links）技術是電信設備廠商主推的新型環網技術；NVGRE（Network Virtualization using Generic Routing Encapsulation）和STT（Stateless Transport Tunneling Protocol）是IT廠商主推的Overlay技術；以及大家非常熟悉的VXLAN（Virtual eXtensible LAN）等基於隧道的封裝技術。由於這些也都是新增的協議，均需要升級現有網絡設備才能支持。Overlay網絡中應用部署的位置將不受限制，網絡設備可即插即用、自動配置下發，自動運行，Overlay網絡業務變化，基礎網絡不感知，並對傳統網絡改造極少，最為重要的是虛擬機和物理伺服器都可以接入Overlay網絡中。
Overlay網絡和Underlay網絡是相互獨立的，Overlay網絡使用Underlay網絡點對點傳遞報文，而報文如何傳遞到Overlay網絡的目的節點完全取決於Underlay網絡的控制平面和數據平面，報文在Overlay網絡入和出節點的處理（如丟棄，轉發）則完全由Overlay網絡的封裝協議來決定。既然是隧道技術，就需要在原有報文的基礎增加一些報文頭，這無疑會增加網絡轉發負擔，要多傳遞一些「無用」字節報文，會降低網路性能，Underlay方式才是數據中心網絡發展的終極形式。還有Overlay網絡並沒有完全的與物理網絡解耦合，仍然需要在伺服器和網絡設備上做大量的人工配置，Overlay網絡的部署在可維護性上不是減少，反而是增加了運維的負擔。Overlay網絡和Underlay網絡實際上並不是什麼新鮮概念，比如在傳統網絡中，L3VPN、靈活QINQ、MACinMAC等功能都是隧道技術，這些協議的作用和Overlay的實現作用非常類似，只不過Overlay所用到的新協議考慮更多的是虛擬機遷移、移動性，新協議定義內容更加豐富和合理而已。Overlay網絡技術充分考慮到了數據中心網絡的現實問題，現有的網絡很難一下子切換到SDN網絡，網絡完全由控制器和Underlay網絡構成，轉發平面與控制平面完全解耦。Overlay網絡就可以充分利用現有的物理網絡，完全虛擬出一張邏輯網絡，這樣完全可以滿足虛擬機在網絡裡任意遷移的目的，又不會浪費現有的網絡資源，是在SDN網絡和傳統網絡之間做出的一種折衷方案，網絡的未來必要還是Underlay加控制器的方案。
將數據中心網絡分為Underlay和Overlay兩個部分，是在數據中心虛擬化的大背景下產生的，雖然目前Overlay網絡更為重要，但是也需要Underlay網絡，而且Underlay網絡必不可少，在相當長的一段時間內，兩種網絡形式將長期並存。隨著SDN技術的成熟，Overlay網絡也許會慢慢退出歷史舞臺，完全由控制器接管網絡。