諸葛亮平定南方後，又過了幾年，南中已經比較穩定，與東吳的聯盟關係也比較鞏固。諸葛亮操練人馬，積極準備北伐曹魏，朝著統一天下的既定目標前進。
公元226年，魏文帝曹丕死了，明帝曹睿即位。諸葛亮認為這是北伐的大好時機，就在第二年率領大軍從成都出發，開往漢中一帶，伺機進攻魏國。
臨行前，諸葛亮給後主劉禪上了一個奏章，這就是著名的《出師表》。其中指出蜀國正處於「危機存亡之秋」，希望劉禪奮發圖強，任人唯賢，完成統一大業。同時，諸葛亮還表示了「北定中原」的決心。
公元228年春天，諸葛亮大軍向祁山推進。他為了迷惑魏軍，採用聲東擊西的辦法，揚言要從斜谷出兵，奪取魏國的郿城。蜀軍攻郿的情報迅速傳到了魏都洛陽。
魏明帝原來沒有估計到蜀國會來進攻，他匆忙派大將曹真趕到郿城。卻不料諸葛亮的軍隊所向披靡，祁山以北曹魏所屬的天水、南安、安定三郡響應蜀軍。關中形勢頓時緊張起來。
魏明帝又一次召集文武大臣，商討對策。他決定親自到長安坐鎮，以壯魏軍的聲勢，並派大將張郃領兵萬人，迎擊諸葛亮。