漢建都之初，北方匈奴趁中原動亂之際，悍然橫跨秦、趙、燕長城，在北方進行殘酷的燒殺搶掠。這段時間長城年久失修，漢廷又無餘力在此駐防，匈奴竟逐漸習以為常，反覆南下掠奪，對漢朝早期的發展產生了巨大的影響。
四位漢初皇帝：高祖劉邦、漢惠帝、漢文帝、漢景帝，為了王朝的穩定，不得不對匈奴實行懷柔政策，用和親、進貢來換取邊境的穩定。在元狩二年，匈奴人再一次入侵河西，掠奪了無數的牲畜和財物。不過，這一時期的西漢已經和建國初期不可同日而語，漢武帝立即對匈奴進行了多次軍事打擊，終於把它擊潰。
在把匈奴趕出河西後，漢武帝開始向河西地區移民，大力支持農業發展，在邊境駐紮守衛部隊，修建長城，防止匈奴再次進攻。公元127年，漢武帝向匈奴宣戰，漢軍兵分兩路北上徵討匈奴：
漢軍主力由李息率領，從代郡出發，瞄準匈奴主力。衛青所率領的奇襲軍從雲中出發，偷襲匈奴右方。衛青一路順風，沿黃河橫掃隴西，戰無不勝，最後，光復河套地區。其後，漢武帝接受了主父偃的建議，在河套地區建立朔方郡，又遷往其他地方搞農業。漢武帝在朔方城秦萬裡長城原址的基礎上，又命蘇建對該段長城進行整修擴建。
公元121年，河西之戰正式爆發，霍去病兩度奇襲匈奴，共殲滅敵軍4萬餘人，又編入亂軍4萬餘人，徹底粉碎了匈奴右部。此後，河西走廊又併入大漢版圖。和開發朔方郡一樣，漢武帝也重新設郡，並修建防禦工事。建立了武威、酒泉兩郡，以令居為起點，經河西走廊，向北延伸到酒泉北部的「令居塞」長城。
漢武帝在公元前119年再次發起北伐。史稱漠北之戰，衛青、霍去病的舅舅率十萬兵馬，完成了「是後匈奴遠遁，而幕南無王庭」的戰略奇觀。從此，西漢王朝的版圖擴大到烏桓邊塞地區，秦朝時期的萬裡長城也得到了修復和利用。公元111年，漢代名將趙破奴再一次擊潰匈奴的進攻，在河西走廊另設兩個郡：敦煌和張掖。就在三年之後，趙破奴再次擊敗樓蘭王。
從此，漢長城從酒泉延伸到玉門，再一次擴大了防禦範圍。公元前101年，李廣徵討大宛後，漢長城再次從玉門延伸到蒲昌海，即今天的羅布泊。大宛史記·大宛列傳中記載：「敦煌置酒泉都尉，西至鹽水，常有亭子。」經過二十六年的對外戰爭，漢長城體系終於形成。
拔地而起的長城，使河西四郡成為穩定的農業地區。可以想像的是，河西四郡的穩定，直接影響了漢代對西域的開發以及絲綢之路的崛起。
前不久筆者在網上看到了關於「長城無用論」的論調，持此觀點的史學家們認為，長城是一種用來抵禦外敵的防禦工事，作用甚微。在作者看來，這是一個謬論，長城雖然不能抵禦北方遊牧民族的大規模入侵，但它還可以起到其它的輔助作用。
第一個是軍事行動。
在秦始皇統一後，漢武帝是將封建專制國家進一步鞏固下來的重要人物。古代人用烽火臺傳訊預警，早在兩周前就有了。長城烽火臺能把戰報迅速傳到京師，讓朝廷對此做出及時回應。
另外，長城雖然不能抵禦大規模入侵，但對小範圍的劫掠作用是明顯的，駐紮在長城附近的軍隊可以藉助長城快速機動，抵禦小範圍的劫掠，保境安民。所以漢武帝不但修好了秦城，還修建了新的長城。這座長城的規模之大，比秦皇長城還要大。
第二個是經濟因素。
河西長城、亭臺樓閣、列城、烽火，有力地制止了匈奴的進犯，在西域各國發展了農業生產，促進了社會的進步，尤其在同西方國家通商，同歐亞各國開展經貿文化交流方面，發揮了重要作用。
2000年前，通過這條「絲綢之路」，中國經康居、安息、敘利亞等地中海沿岸國家出口的絲織品在國際市場上享有極高的聲譽。這個「絲綢之路」從長安出發，距今兩萬多裡，在漢王朝的管轄區域就超過一萬裡。在絲綢之路建立以前，邊境走私可以說是司空見慣。長城可以有效地防止走私者穿越或進入邊境，保證邊境經濟的順利發展。
所以長城所具有的意義遠遠超過了象徵意義。古時修建長城的統治者大多為後世所詬病，主要原因在於長城所起的作用是「防患於未然」的，其作用並不明顯。另外，這座耗資巨大的長城，是一項利在千秋的工程，很難讓人理解它將給當代帶來怎樣的好處。
所以，古人(特別是窮人)對長城的建設大多持反對態度，於是，也就產生了「孟姜女」等關於長城的悲劇故事。總的說來，長城並非沒有價值的工程。今天所介紹的漢代長城，不僅對漢代的發展起到了不可磨滅的作用，更是為今天的華夏奠定了基礎。