自從李世民消滅了竇建德，王世充這兩個主要的對手，大唐迎來了短暫的安寧。然而這樣的安寧並沒有持續多久就結束了，因為竇建德舊部又死灰復燃，大有燎原之勢。為首的是竇建德原來的部下劉黑闥，劉黑闥重拾竇建德舊部，攻克了漳南（河北故城東北）。
竇建德舊部死灰復燃，李淵開始部署圍剿叛軍
消息傳到長安，李淵大為震驚，於是在洺州設立了山東道行臺，任命淮安王李神通為行臺右僕射。李淵雖然對劉黑闥的重新起義感到震驚，但是他覺得這是一幫殘兵敗將，翻不起什麼大的波浪。然而這只是李淵的一廂情願，武德四年中秋時節，劉黑闥的勢力開始橫掃河北。
劉黑闥先後攻陷魏州，貝州，歷亭等地，並俘獲這裡的人馬武器，消息再次傳到長安，李淵才意識到了事情的嚴重。於是命大將秦武通，定州總管李玄通和幽州總管羅藝一起圍剿劉黑闥。一時間，剛剛平定的河南河北等地風雲再起，烽火滿地，如果不將這些叛亂壓下去，那麼李唐統一天下的時間將會延期。
李神通敗了
武德四年九月，李神通率領精銳火速抵達冀州與羅藝會合，同時徵調附近人馬五萬人，在饒陽與劉黑闥展開會戰。李神通與竇建德打仗基本沒贏過，但是這一次他相信他能贏，因為對手都是一群農民，他們衣衫襤褸，武器裝備極差，人數也遠遠比不上唐軍。他相信自己能通過這一戰找回自己的面子。
戰鬥打響，李神通策馬揚鞭衝向敵軍，後方將士也跟了上來。然而在這重要時刻，風向突然一百八十度大轉彎，唐軍眼睛睜不開了，劉黑闥立即率部反擊，唐軍大敗，人馬和裝備損失了不少，原本勝券在握的李神通再一次敗在了竇建德舊部的手下。羅藝聽到大軍被擊潰的消息，於是退守，劉黑闥趁勢擊敗了羅藝部，至此一役，劉黑闥士氣大振。
李玄通死了
武德四年十一月，劉黑闥攻陷了定州，生擒總管李玄通。劉黑闥看李玄通是一個有才能的人，打算招降他，讓他做自己的大將，李玄通不接受，於是被劉黑闥囚禁起來。李玄通的部下有人投降了劉黑闥，於是劉黑闥讓他帶著酒肉去勸降李玄通，在兩人酒喝得差不多的時候。李玄通對看守說「我要舞劍，請借給我一把」，看守沒有懷疑。李玄通舞過劍之後，仰天長嘆「大丈夫受到國家的恩惠，鎮守一方，現在卻沒有保全所守的地方，還有什麼顏面活在世上」，於是把刀刺入自己的腹部而死。
當劉黑闥宣布起義的時候，那些牆頭草也跟著隨風倒。徐圓郎和高開道也起兵反唐。局勢再次變得嚴峻，如果李淵處理不當，那些起義的軍隊就像雨後春筍般再次冒出，就像隋朝末年一樣。李淵不得不考慮下一步的做法。
李淵不用殺手鐧的原因
面對這樣的局勢，李淵經過深思熟慮，終於下了決定，要打出自己的王牌。他就是秦王李世民，那麼為什麼之前不直接派他出戰呢？李淵有他的目的。
自從唐朝建立以來，李世民一直就是唐朝的一把利劍，利劍所指，無不被克。武德四年先後平定了竇建德與王世充後，李世民就成了大唐王朝獨一無二的中流砥柱。他的身份很尷尬，李淵對他進行封賞就費了很大的腦筋，最後終於想起來一個官銜」天策上將軍「，至此李世民儼然成為了大唐帝國除了天子李淵，太子李建成之外的第三把手。
李淵不用李世民的原因是：他的功勞太大了，已經有功高震主之勢，他的存在嚴重威脅了太子，甚至威脅到了自己。因此他不得不將他雪藏，讓他開設天策府，創立文學館，讓他整日與文人書卷在一起，不到萬不得已，李淵不會讓李世民再以力挽狂瀾的姿態去平定劉黑闥，去建立更大的功勳。所以，李淵自然把平定劉黑闥的希望寄托在了李神通，羅藝等人的身上。可是，這些人卻讓李淵大失所望。
李淵用出自己的殺手鐧
武德四年，眼看劉黑闥等人的戰火已成燎原之勢，而派出的人沒有一個是劉黑闥的對手，李淵不得不再度起用李世民這張王牌。武德五年正月，李世民率領東徵大軍浩浩蕩蕩地奔向戰場。之後，李世民收復相州，挺進河北，在洺水南岸紮營。
武德五年二月，李世民與劉黑闥在洺水對峙，圍繞洺水展開大戰。三月二十六日，洺水之戰打響，這場戰爭決定了劉黑闥的命運。
劉黑闥率步騎兩萬，南渡洺水，直逼大唐軍隊。李世民親率精銳交戰劉黑闥騎兵，將其擊破，並且橫掃漢軍步兵。劉黑闥深知這一戰對他來說有多重要，所以不敢不盡全力，於是率部死戰。兩軍一直從中午打到黃昏，往來衝殺，難分勝負，一直處於膠著狀態。天漸漸黑了，劉黑闥軍開始出現頹勢。於是劉黑闥決定趁早退出戰場以便來日再戰。
幾天前，李世民在洺水上遊攔河築壩，準備用大水消滅劉黑闥的有生力量。這時劉黑闥跑了，但是他的大部分將士還在拼命砍殺，最後漢軍無力堅持，向洺水北岸逃跑。就在漢軍進入河溝的時候，洺河水似萬千奔騰的駿馬轟然而下。當漢軍士兵看見一丈多高的洪水席捲而來的時候，他們連恐懼和絕望都來不及體會，就在一瞬間被洪水全部吞沒。
這次戰役的結果是「斬首萬餘級，溺死數千人」，幾乎全軍覆沒，劉黑率僅剩的部下投奔了東突厥。這一戰是劉黑闥的有生力量喪失殆盡，這也達到了李世民的目的。有人說李世民這樣做不人道，但是在當年那個只要勝負的戰爭年代，為了勝利，這些只是手段而已。
讀史以明志，讀史以鑑古今，通過歷史我們可以學到很多知識，借鑑古人的智慧。古人說」腹有書香氣自華「，讀歷史是觀察世道人心的捷徑，向古人學習怎麼做事，怎麼積攢人緣，怎麼跟人打交道，就像李世民一樣。李世民之所以成功，就是因為他很會做人。