有個民間傳說：明朝開國皇帝朱元璋有一次微服私訪，看到街頭有個猜燈謎的。燈籠上畫著一個大腳婦女，站在馬屁股後面，懷裡抱一個西瓜。朱元璋大怒，回宮之後立刻嚴查此事，還殺了人。朱元璋為何發怒？因為他猜到了謎底：淮西（懷抱西瓜）馬大腳。
對於「淮西」這個地名，朱元璋刻骨銘心。這裡是他出生的地方，也是他品嘗最底層的生存絕望的地方，是他無錢安葬父母的地方。很多跟他一起打天下、後又被他處死的兄弟們，都來自這裡。
朱元璋有一個非常出名的自稱——淮右布衣。他曾在討伐元朝的檄文中自稱：「我本為準右布衣，為部下所推，不得不起兵平亂。」淮右，其實就是淮西。
淮西在哪裡？現在安徽省淮河以南、長江以北，約滁州以西。以及湖北省最東部的麻城，河南省東南角的光山、固始一帶，就是淮西（淮右）。
淮西很好理解，在淮河流域的西部，為何又稱為淮右？關於淮河，古代還有一個地理名詞，叫兩淮。所謂兩淮，就是淮西與淮東。淮東，就是江蘇省淮河以南、長江以北，滁州以東這片地區。坐北朝南看的話，東向在左，西向在右，所以淮西稱為淮右，淮東稱為淮左。淮河流域為何又稱兩淮呢？很簡單，宋朝在這裡設了兩個省級的「路」，既淮南東路（淮東、淮左）、淮南西路（淮西、淮右）。朱元璋的家鄉鳳陽，屬於淮西（淮右），因此朱元璋經常自稱淮右布衣。
朱元璋在南京建立明朝後，非常重視淮西的軍防。之所以重視，帝鄉其實只佔一小部分因素，即使朱元璋不是鳳陽人，他也會重視這裡。淮西的地理位置，決定了誰在南京建都，都要把淮西當成南京的北大門。
定都南京，並不是朱元璋的優先選擇，因為南京的地勢，防守起來並不容易。雖然南京緊鄰長江，但敵軍從北過江攻佔南京的事並不少。南京的長江以北，是廣闊的淮河平原，地勢較低。雖然定遠、滁州一帶有丘陵，但這樣的高度是很難抵禦北方騎兵的。
怎麼辦？最好的辦法，就是擴大南京的防守縱深。有了這個基本原則，淮西之於南京的重要性就突顯起來。自古就有守（長）江必先守淮（河）的說法，只要明軍能牢牢守住淮河一線，距離淮河數百裡之遙的南京，就相對比較安全。出於這種考慮，朱元璋升鳳陽府為中都，並設中都留守司，下轄八個衛，屯集重兵於此。
而且鳳陽府有一個最大的特點，雖然治所在淮河南岸（今鳳陽縣），但鳳陽府的轄區卻主要在淮河北岸。鳳陽府包括現在的阜陽市、宿州市（不含碭山、蕭縣）、蚌埠市、淮南市，以及今江蘇省的泗洪、盱眙，還有天長，綜合來看，鳳陽府的轄區還是淮河北岸面積較大。
鳳陽府的任務，就是先守住淮河北岸，這樣鳳陽無憂。鳳陽無憂，淮河南岸就沒問題了，南京亦無憂矣。朱元璋懂歷史，凡是在江南建國者，無不死守淮河一線。三國時的東吳，就是因為沒能控制淮河，魏軍可以輕易地在長江北岸給東吳製造巨大麻煩。南北朝後期，陳朝北伐奪得淮南，保證了南京的安全。但陳軍敗給北周后，淮南盡失，周兵殺到長江北岸，對岸就是南京。之後，陳為取代北周的隋所滅。
五代十國後期，周世宗柴榮先取南唐控制的淮河流域。苦戰了三年，才拿下淮南，陳兵於長江北岸。北宋能滅南唐，首功是柴榮拿下淮南，否則一切都是空談。
這裡所說的淮南（淮河以南、長江以北），主要是指淮西。那麼，淮東就不重要嗎？同樣非常重要。但區別在於，淮西轄區較為寬闊，而且距離中原適合大規模用兵的河南較近。淮東被淮西「擠」在洪澤湖以東、黃海沿岸以西的狹長地區。就用兵的適宜度而言，淮西要比淮東更具優勢。雖然淮東最重要的戰略重鎮是揚州，但淮西距離揚州太近，淮西丟了，揚州也守不住。這樣的情況下，南京還怎麼防守？