在明初，濟寧城仍然叫任城，雖然處在「地勢高亢」的「漁山」，但還是土壘起來的舊城。為了預防被「河水淹沒」，確保城市安全，朱元璋定天下後，正趕上全國上下大築磚城的盛風中，洪武三年(1370年)，濟寧左衛指揮使狄崇，在接到上級下達的通知後，立即重建磚城(實為外磚內土)。這城是建好了，那麼城市的名是不是也該跟著洋貨洋貨呀。於是，洪武十八年(1385年)，改濟寧府為濟寧州，州治任城，縣省，從此任城縣的名字也逐漸被廢除，人們也就不再稱「縣城」，而改稱「濟寧州城」，或略稱「州城」。
朱元璋，還真不是一般的聰明。這用磚修築的城牆，那可比土壘的要堅固的多啦。什麼水災呀、戰爭呀，都不成問題。那這磚築的城牆，到底是怎麼個情況呢？據說呀，明代的城市建設中已把「下水道」提上了建設日程。
明初磚城是一個不怎麼規則的正方形，高三丈八尺，頂闊二丈，基寬四丈，周長九裡三十步，外磚內土。四門都是雙重門，內四門兩側築有軍、馬道。城上有城樓、炮臺、女牆、垛口，下有護城河，四門外各有「吊橋」，城牆內四角各有「海子」。此外，還有外城（土圩子）、圩門和外壕。可見，這座城堡氣派不凡，非同一般縣城和州城。所以，在全國「古名城「榜上有名，譽滿全國。
咱們大家在看古裝戰爭片的時候，都會有攻打城堡的鏡頭出現。對於實物性城堡上的城樓、炮臺，我們還好理解些。那麼，對於女牆、海子、垛口等等，都在城堡的什麼位置呢？這外包裝又是怎麼樣的呢？
城門，有東西南北門，並且有內外門之分，是雙重門。南門， 「宣阜門」；北門，「宗翰門」；東門，「綏華門」；西門，「萃城門」。四門左右的甕城又各建一小門，就是這小門也相當於一般縣城的城門，以南門的東南門最大。城門，都是內木外用鐵皮包裹著，並用每枚重八兩的圓頭鐵釘，按橫九豎十三排列鉚釘在每扇門上。另外，在「東門迤南」，還有「水門、鐵窗」，並築有「四門馬道」於每座城門內兩側各一條。由於該城，是按「八卦」的序列建造的，所以四個門的結構也是很講究的。
據濟寧老一輩人介紹，當時的明城牆大體的位置，北到環城北路，西到環城西路，東到共青團路，南到太白樓路。南門就在現在的南門口，東門就在東門小學那個大街，在和共青團路交錯的地方，西門就是環城西路和西門大街交錯的地方，它的面積九裡三十步。北門和南門不相對，東門和西門基本相對，在一條直線上。明城牆南門和北門不對，應該和當時的道路和建築障礙有關，所以南門和北門不在一個中軸線上。
在四門的內外城門的頂臺上各有門樓一座，城的四角上也各有戍樓一座，南門城樓左右和北門城樓又各有樓一座。總計，在城牆上共建樓十五座。在南門城樓左有「太白樓」，右有「玄武樓」，；北門城樓左有「得勝樓」。兩層的小樓，雕梁畫棟，朱甍映日，宏偉壯麗，稱雄一世。
另外，在四門處還建有「影壁」，俗稱「影壁牆」，也就是所謂的「四爻（yao）」。有炮臺二十一個，垛口七百，女牆一千八百。護城河，長一千六百七十丈，寬一丈五到三丈三尺不等，深依丈五。護城河有吊橋四架，城牆 內四角各挖有一大蓄水坑。當時，在東南角與西南角蓄水坑內還鋪築了穿城牆而過的「下水溝」，與護城河、府河、運河相通。環城外郭的土圩子，又建圩門十八個，像現在的濟安臺、興隆門、南辛莊、半截閣等等。
濟寧府任城縣城後來改為濟寧州、濟寧直隸州、濟寧縣以及濟寧市城，可謂是安如磐石，堅不可摧。
就是這座城，在舊土城改建為磚城以後，朱元璋在明洪武18年的時候，把濟寧「改府為州」，「廢任城縣」，是很有眼光的。不僅提高了濟寧的政治地位，更是發揮了它的經濟作用。所以，到了明朝的中、晚期，濟寧的商品經濟迅速的發展了起來。
城市建設得到了大力改善，環境衛生、居住條件也都個個達標。招商引資發展經濟，使得濟寧不僅是國內的「重要工商業城市」，而且是與日本等國進行貿易的運河沿岸七個主要商埠之一，已是一個對外開放的先進城市。
濟寧作為山東南部的漕運碼頭，發揮著商品集散的重要作用，它不僅把「來自江南及中原地區的各種商品，通過運河運到濟寧，然後向兗州、東昌、曹州及河北、河南等地輸送；同時，它還把吸收山東南部地區的各種土產商品，集中輸往江南及其他各地。」由於商品經濟的繁榮，因此，「吸引了大批外商及官僚到此地，或經商、或遊玩，從事各種活動」。加上運河穿過繁華的鬧區，河內帆船繁忙，岸上車水馬龍，頗有江南蘇州的風光，因而獲得了「江北小蘇州」的美稱。
自從濟州城建好以後，尤其是在京杭運河通過濟寧開始，濟寧城市就煥然一新，出現了令人可喜的面貌，不但這裡是一座整治重鎮、軍事重鎮，而且成為一座經濟重鎮。經濟的發展主要表現在運河暢通以後，商業迅速的繁榮，南來北往的船隻大量的從濟寧通過。
明代濟寧州，成為全國33個工商業大城市之一，成為運河上7個對外商埠城市之一。到了清，濟寧城池，幾經修繕，更是名噪山東，成為京城一大都會。乾隆四十一年(1776年)升為「直隸州」後的濟寧，市區規模逐漸擴大，老城區原有45條街道，此時又新增了59條；在郭城區，原有43條，更猛增了140條。
從民國時期到建國初期，由於經多次戰火的洗禮，城樓已所剩無幾。因建設需要，1951年該城已經被陸續拆除，如今所剩的東南角城牆，已改造成了人民公園中的假山；西北城牆角，現在也還只留下一段短牆；太白樓所在的城牆一段，被重建後也與原貌不大一樣了。有時間的話，去老城牆看看，追尋一下那年那時的故事，也是很不錯的。