蘭州在地理位置上處於甘、寧、青、新的交通樞紐，新中國成立前是西北政治、軍事中心，是國民黨西北軍政長官公署所在地。
經過三年的解放戰爭，尤其是隨著遼瀋、淮海、平津三大戰役的決定性勝利，國民黨的精銳部隊幾乎喪失殆盡，在軍事、政治、經濟上瀕臨絕境，我人民解放軍從根本上改變了長期戰略劣勢的地位，解放全中國成為歷史的必然。
1949年4月21日，毛澤東主席和朱德總司令發出向全國進軍的命令，渡過長江的百萬雄師，以摧枯拉朽之勢橫掃殘敵，相繼解放了南京、上海及江南的大片領土，並開始向東南、中南、西南進軍。國民黨政府分別向臺灣、廣州、重慶敗退。在這種情況下，仍不甘心失敗的蔣介石集團把最後的希望寄托在盤踞西北的胡宗南、馬步芳、馬鴻逵部和退縮西南的白崇禧身上，企圖保住西北和西南地區，待機捲土重來。
4月28日，毛澤東把中國人民解放軍副總司令員兼第一野戰軍司令員彭德懷從太原前線召回北京，商討制定了「鉗馬打胡、先胡後馬」的戰略決戰方針。按照這一方針，第一野戰軍在「扶眉戰役」中消滅胡宗南主力後，趁勝追擊「二馬」（馬步芳部亦稱「青馬」，馬鴻逵部亦稱「寧馬」)。
面對解放軍的強大攻勢，全線撤退的青、寧「二馬」處於戰、退兩難的維谷之中。戰則唯恐遭30萬解放軍的包圍殲滅；退則擔心失去甘、寧咽喉要地平涼，造成解放軍直搗蘭州、銀川的不利形勢。經過權衡利弊、反覆斟酌之後，「二馬」在靜寧召開軍事會議，制定了平涼會戰計劃，準備依託六盤山，在平涼地區與我第一野戰軍決戰。
根據西北戰局的發展，7月19日，第一野戰軍在陝西寶雞縣虢鎮文廣村召開了軍以上幹部會議，決定由原來的「鉗馬打胡」變為「鉗胡打馬」，並提出了實施平涼戰役的作戰計劃。
在生死決戰的關鍵時刻，素來不和的青、寧「二馬」為保存自己的實力勾心鬥角，都不願當「出頭鳥」，因寧馬提前脫逃，「二馬」平涼決戰計劃胎死腹中。鑑此，彭德懷隨即改變策略，分頭追擊「二馬」，8月3日，佔領六盤山，割斷「二馬」的聯繫，使其各成孤軍。
遭分割的馬步芳極度恐慌，但仍存僥倖。覺得青海是自己的大本營，草原廣闊，人熟地利，兵源充足，便於部隊機動作戰；而解放軍第一野戰軍勞師遠徵，人地兩生，補給困難。認為「保住西北大局惟在於同解放軍決戰一場，而蘭州有南山屏障、黃河天險，是決戰得好地方。」此時的蔣介石也深知，如果西北保不住，西南也就很難保住，決定利用青、寧「二馬」的所有力量與第一野戰軍拼個魚死網破。
為此，委派國民政府行政院院長兼國防部部長閻錫山，召集馬步芳、馬鴻逵、胡宗南等在廣州召開了「西北聯防會議」，策劃了蘭州決戰計劃，決定由馬步芳部節節抗擊，吸引和消耗第一野戰軍主力於蘭州城下，然後集結寧夏的馬鴻逵部和秦嶺地區的胡宗南部攻擊第一野戰軍側背，三路夾擊第一野戰軍於蘭州外圍。同時，還欲讓新疆警備總司令陶峙嶽部進行東援。
關於蘭州決戰的問題，中共中央進行了認真慎重的研究部署。毛澤東指出，解決青、寧「二馬」應區別對待，其核心是打擊馬步芳。一方面，青馬與我解放軍長期對抗，殘殺紅軍無數，十分瘋狂反動，政治爭取沒有可能；另一方面，青馬在政治上佔統治地位，在軍事上比寧馬強大，殲滅了青馬，即可基本上解決西北問題。
而馬鴻逵是傅作義將軍的拜把兄弟，曾派人向傅作義將軍表示有向我求和之意，即使不投誠，只要殲滅了青馬，寧馬必然無心抵抗，可達一石二鳥之功效。毛澤東進一步強調指出，如果蘭州一戰能殲滅青馬主力，大西北的解放便指日可待。這樣，新中國宣告成立就更具條件了。
由此可見，蘭州戰役能否實施及成敗與否，將決定整個西北解放的進程，關係新中國的成立，是重中之重，關鍵之關鍵。
8月4日，彭德懷、張宗遜等向各兵團發布了進軍蘭州的作戰命令：以2兵團之3個軍和19兵團之2個軍分兩路包圍進攻蘭州；由1兵團附62軍突破敵右翼向馬步芳青海老窩迂迴，以動搖其軍心，並攔阻和殲滅從蘭州逃竄之敵。爾後西渡黃河，直取西寧。另以19兵團的64軍在固原一帶向寧馬佯動，並準備阻擊來援之寧馬；以18兵團主力及第7軍等三個軍沿川陝公路前進，以鉗制胡宗南部。
第二天，又下發了《解放大西北的政治動員令》，我軍獨有的政治優勢增強了全體指戰員敢打必勝的信心，參戰部隊同仇敵愾、士氣高昂。
從8月9日起，第一野戰軍3路大軍邊打邊向西挺進。由於長途行軍，地廣人稀，又逢雨季道路泥濘，糧食、鞋襪以及彈藥接濟不上，給部隊帶來許多困難。繳獲的糧食沒有時間磨麵，只能煮麥粒為食。加上部隊不適應西北高原氣候，長時間露宿荒野、街頭，不少人患上感冒、痢疾、瘧疾等疾病。但廣大指戰員不為困難所懼，不為環境所屈，奮力前進。
楊得志、李志民率領的右路第19兵團於19日進至蘭州東南25公裡的定遠鎮以東地區，並攻佔了豬咀嶺、張中店；許光達、王世泰率領的中路第2兵團於同日佔領蘭州城南20公裡的阿幹鎮及9條路口，按計劃抵進蘭州城西、城南；王震率領的左路第1兵團和62軍逼近臨夏，鉗制青馬；周士第率領的第18兵團和7軍在寶雞、天水地區圍困胡宗南殘部，以配合蘭州戰役行動。
在廣州參加完會議的馬步芳急赴蘭州，對會戰作了精心部署，押上了自己的全部血本。用其精銳82軍所屬的三個師分別守衛蘭州南山三大主陣地。以100師和青海保安一團守衛東面的馬家山一線，以248師守衛正南的皋蘭山，以190師守衛沈家嶺、狗娃山。以129軍的兩個師為預備隊，將新1師部署在東面的拱星墩，為100師的預備隊，將357師部署在蘭州西關七裡河，用於支援沈家嶺的190師，一個全美式裝備的榴彈炮營配置於東教場，甘肅保安部隊的3個團駐守東崗及城內，總兵力5萬人。以隴南兵團91、120軍和寧馬81軍，共3萬餘人，配置在蘭州東北靖遠、景泰及打拉池地區，以保障蘭州左翼安全，並相繼從側面襲擊解放軍；以新編的韓起功之騎兵軍約2萬人，以臨夏為基地，保障鞏固蘭州右翼安全，並把守青海的大門。
部署就緒後，馬步芳自信蘭州是他設下的一個陷阱，第一野戰軍進入蘭州地區後，在他的正面抗擊下，加上馬鴻逵和胡宗南的兩翼出擊，就可全殲於蘭州城下了。自命不凡地叫囂要「挽狂瀾於既倒，定乾坤於西北。」