灌夫的父親是張孟。張孟曾做過穎陰侯灌嬰的家臣，受到灌嬰的寵愛和推薦，所以把姓也改成了灌。
勇冠三軍
吳楚七國之亂之時，灌夫和父親一起跟隨周亞夫從軍，參與到平叛的戰鬥中。灌孟和吳軍作戰時戰死了，按照當時漢朝的軍法，灌夫可以護送父親的靈柩回來，但是灌夫卻不肯，他要為父報仇。
灌夫率領十多個騎兵，衝入吳軍中，一直衝殺到了吳軍的將旗之下，殺死吳軍幾十人，其他人都戰死了，只有灌夫一人返回，但是他已經受了十多處傷，幸好有名貴的良藥，灌夫才活了下來。
灌夫傷勢好轉，就又要帶兵衝入吳軍陣中。太尉周亞夫堅決的阻止，灌夫的請求才沒有被批准。但是灌夫勇猛的名聲卻傳遍了天下。
仕途不暢
灌夫因為勇猛，被漢景帝任命為中郎將。但是僅僅幾個月，灌夫就因為犯法丟了官。灌夫到了長安安家，結交京城的權貴，後來在代國當國相。
漢武帝劉徹即位後，認為淮陽是天下的交通樞紐，便派灌夫為淮陽太守。而後又把灌夫內調為太僕。而太僕就是主管皇帝車輛、馬匹的官。這一調動其實是降低了灌夫的職位，看來漢武帝在考察了一番覺得灌夫不足以擔任如此重要的職位。
調任長安作太僕的灌夫並沒有安分，他喝醉酒打了竇太后的兄弟，因此被調往燕國當國相，後來又犯法，就沒有再當官，只能閒居在長安的家中。
結識竇嬰
灌夫雖然閒居，沒有了官職，但是靠著以前的積累，灌夫成為一方的富豪，家中有很多的食客，這些食客少則幾十，多則近百。灌夫在潁川一帶形成了一股勢力，這股勢力在潁川橫行霸道。
竇嬰因為得罪了竇太后，被免職，而原來依附他的那些人看到竇嬰失勢，便都離開了竇嬰。竇嬰很生氣，他便結交灌夫，想讓灌夫替自己去報復那些人。
灌夫雖然閒居在家，但還是想著結交權貴，再謀仕途。竇嬰雖然失勢，但好歹還是魏其侯，還是竇太后的侄子，灌夫因此也想結交竇嬰。
二人交往之後，一見如故，用司馬遷的描述就是"兩人相為引重，其遊如父子然。相得甚，無厭，恨相知晚也"。
結怨
田蚡失約
服喪期間的灌夫前去拜訪田蚡，田蚡隨口說要去拜訪魏其侯竇嬰，灌夫聽後便要一同前往。當時服喪期間是不允許飲酒作樂的，但是灌夫依然要去赴約。灌夫把丞相要來拜訪的這個消息告訴了竇嬰。竇嬰在家也籌備這次宴請。
然而到了第二天中午，竇嬰看到田蚡還沒來，就對灌夫說，丞相可能忘記了這件事。灌夫很是生氣，自己不顧喪服在身還來應約，而田說了要來，就不能出爾反爾。於是灌夫親自去丞相府中請田蚡。
來到府中，田蚡還在睡覺，灌夫將其喚醒。田蚡裝作驚訝的樣子，推脫昨天喝醉了酒。灌夫自然知道是推託之辭，忍住脾氣，沒有發作。兩人駕車前往竇嬰家中，但是田蚡故意走的很慢，這更讓灌夫更加的生氣。
在竇嬰家宴上，喝了酒的灌夫不斷用話諷刺，竇嬰見勢不妙，把灌嬰扶了出去，而田蚡卻一直喝到了天亮才離去。
奪田之爭
田蚡曾經派籍福去索取竇嬰在城南的田地。竇嬰已沒有官職，他非常氣憤，並沒有答應。灌夫聽說之後，也非常生氣。
籍福出於好意，回去勸田蚡，說竇嬰年歲已經很大了，等待他死了再索要那片土地。不久，田蚡知道是得不到土地是由於竇嬰和灌夫的不肯，兩人為此還埋怨他。
田蚡認為，當初竇嬰的兒子曾經殺人，是自己救了他兒子的命，現在僅僅是要幾畝的良田，竇嬰就不給。而且自己向竇嬰索要土地，又不關灌夫的事，正是有了他的撐腰，竇嬰才更有底氣。於是田蚡自此就十分怨恨竇嬰和灌夫。
把柄在握
田蚡既然怨恨上了灌夫，那他就會找機會報復。灌夫在潁川的橫行霸道引起了田的注意，田蚡上奏漢武帝，漢武帝讓全權處理此事。
但是灌夫也抓住了田蚡非法獲利的證據。二人手下的賓客才從中調解，二人才得以和解。
使酒罵座
田娶燕王的女兒做夫人，王太后下了詔令，讓列侯和皇族都去祝賀田蚡，田於是在家設宴招待眾人。
灌夫因為他得罪了田蚡，本來不想去的。但是竇嬰覺得是個緩和矛盾的機會，硬拉他一道去。
酒宴之上，田蚡敬酒，在座的賓客都非常恭敬。但是竇嬰起身敬酒，只有竇嬰的幾個老朋友表示出了恭敬，其他人根本沒有顯示出恭敬。這些人的讓灌夫很不高興，當初竇嬰得勢的時候都來巴結，現在失勢卻遭人冷落。
灌夫是個喝酒了就耍酒瘋的人，他起身敬酒的時候，先是羞辱了田蚡，又羞辱了臨汝侯灌賢。作為主人的田蚡就呵斥了灌夫。賓客們也漸漸離去。
好好的酒宴讓灌夫搞砸。田非常生氣，就讓侍衛扣留了灌夫。田蚡手下的賓客籍福按住灌夫的頭讓他道歉，來阻止事態進一步發展。但是灌夫根本不聽。
田於是叫來長史，彈劾灌夫在宴席上辱罵賓客，侮辱詔令。
竇嬰也因此感到非常後悔和慚愧，自己如果不拉著灌夫去宴會，就不會有這種事情。於是竇嬰出錢使人向田蚡求情，但是並沒有起作用。而灌夫的家人都躲藏了起來，也就無法去告發灌夫所掌握的田蚡的秘事。
東朝廷辯
灌夫被收押，他又得罪了很多的權貴，眾人正心底高興，自然沒有人為他辯解。只有竇嬰這時候挺身而出，私下上書給漢武帝。陳述此事不過是醉酒引起，漢武帝認為灌夫的罪行不至於處死，就讓竇嬰去東朝也就是長樂宮公開辯論此事。
長樂宮裡，竇嬰極力誇讚灌夫的長處，說他只是酗酒獲罪，田蚡卻拿別的罪名給灌夫。田蚡則敘述了灌夫驕橫放縱之所有行為。這些行為實實在在，竇嬰無法反駁。沒辦法，竇嬰就開始變攻擊田的短處，田蚡則攻擊竇嬰和灌夫招攬豪傑壯士，誹謗朝廷的政策，似乎有謀反之意。
漢武帝問其他臣子他們的意見，這些臣子不願意得罪人，回答的都是模稜兩可的話。漢武帝看到這樣，知道也辯不出什麼結果，便生氣的離開了。
回去後漢武帝親自派御史去追查灌夫的罪行，發現了竇嬰在東朝描述的灌夫的所作所為跟事實有很多不相符的地方，這是欺君之罪。於是漢武帝就將竇嬰拘禁起來。
三人相繼而死
灌夫罪行屬實，漢武帝將灌夫和他的家屬全被處決了。
竇嬰在灌夫死之前，拿出了漢景帝臨終之前給他的詔書求見漢武帝，想要再次為灌夫求情。
宮中的人查閱景帝留下的檔案，並沒有這份詔書的副本，這屬於"偽造詔書"。竇嬰不但沒有能夠為灌夫求情，反而落得一個"偽造詔書"的罪名。
竇嬰聽到灌夫被處死的消息後，憤慨萬分，患了中風，打算絕食而死。但是又聽到漢武帝並不打算殺他的消息，竇嬰又燃起了一絲生機，開始吃飯。
但是竇嬰之前得罪的人不斷製造流言蜚語，漢武帝聽到這些流言蜚語，最終將竇嬰斬首示眾。
灌夫和竇嬰被處決的次年，田蚡就病倒了。田的家人讓巫師來看病，巫師看到竇嬰和灌夫兩個人的鬼魂監守著田蚡，要殺死他。不久田就驚懼而死。
三人本可以相安無事，但是最終因為小事而引發大的矛盾，最終三人都沒有好下場。田蚡竇嬰雖然都愛好儒學，官至丞相，但是卻沒有容人之德。灌夫憑藉戰功，驕橫跋扈，其多次觸犯法律而不知悔改，最終也因為不知收斂而招致禍患。