湘軍，在本質上是屬於地方軍隊，但湘軍又和普通的地方軍隊有很多不同，其中最主要的是戰鬥力，在湘軍巔峰時期，應該是當時戰鬥力最強的軍隊，沒有之一；淮軍是李鴻章在曾國藩的指示下建立的，楚軍是左宗棠在曾國藩的指示下建立的。可以說，如果曾國藩有二心的話，可能清朝之後的王朝就要姓曾了。
湘軍成軍之時，擁有陸軍13營6500人，水師10營5000人，加上雜度役共17000人；但是隨著戰事的發展，有些營消失了，又新增了一些營，而且每個營的兵力並不再固定，所以就沒有一個明確的統計了；總之，在湘軍最巔峰時期，擁兵十二萬。但曾國藩在攻滅太平天國後，並沒有擁兵自重，反而是解散了湘軍，以至於曾國藩後期的地位遠不如李鴻章。
不過湘軍的強，也不是毫無緣由的，據記載，整個湘軍系統中位至總督者15人，位至巡撫者14人，其他大小文武官員不勝數。全國各地的優秀人才投入到曾國藩麾下，還包括一批卓越的工程師、科學家。但是湘軍之中，最精銳的部隊卻是曾國藩的弟弟曾國荃所率領的「吉字營」。
公元1856年，曾國藩率領的湘軍在江西湖口慘敗後，被太平軍圍困南昌周圍的狹小地區，處境十分險惡。曾國荃為了救援其兄，與吉安知府黃冕勸捐募勇3000人，援救江西，連陷安福等地，進圍吉安，並攻破了吉安城。曾國藩從吉安之役中，看到了九弟曾國荃倔強不屈的性格和帶兵打仗的才能，認定他是個可以擔當大任的人物。
自此以後，曾國藩就把曾國荃率領的「吉字營」湘勇看作是自己的嫡系部隊，處處予以照顧。這「吉字營」到底有多悍勇呢？安慶位於長江中遊，溯江而上則能據漢口、武昌，順水而下，則南京門戶洞開，軍事地理位置極為重要。在湘江準備攻取安慶時，該城已被太平軍佔領達9年之久，但是由於安慶防守得實在太嚴密，所以一直無法攻下。
公元1860年5月，曾國荃率軍進駐安慶以北的集賢關，開始了對安慶的圍攻。曾國荃率湘軍8000人進逼安慶，在城西、城北開挖長壕兩道，造成包圍之勢，斷其軍糧。城內太平軍屢次出城作戰，湘軍都堅守壕壘，不輕易越壕迎戰，屢屢挫傷太平軍的銳氣。太平軍陳玉成部前來救援，也始終無法突破湘軍的陣地。
這段時間，戰爭的激烈、殘酷，超過了湘軍以往參加的任何戰鬥，一月內，僅在集賢關內外，太平軍死亡一萬多人。湘軍除在戰場上殺戮外，又把投降和被俘的太平軍集體屠殺，屠戮之慘狀，連性格極為蠻狠、兇殘的曾國荃手腳都感到癱軟，表示打完這一仗後，他要回家做鄉農了。但最終，曾國荃還是順利攻下了安慶。
安慶之戰，曾國荃又為湘軍立了一大功。安慶的陷落，為進攻天京準備了極為有利的條件。清廷以曾國荃「智勇兼施」賞加布政使銜，並賞穿黃馬褂。公元1862年春，曾國藩開始部署進攻天京。他又把主攻的任務交給了弟弟曾國荃。但曾國荃並沒有按原計劃出師，反而是連下數城，直逼天京城。
曾國荃孤軍深入至太平天國軍的核心，兇險程度自是不必多說，就連曾國藩替他擔心不已，寫信勸他暫時後退，以求穩妥之策。但曾國荃絲毫沒有退兵的念頭，曾國藩準備派李鴻章部前去援助，也遭到他的拒絕。他開始在天京城外深挖壕溝，廣築防禦工事，並結合水師，全力出擊，靠2萬軍隊擊退了號稱20萬的太平軍援部。
曾國藩見他打了勝仗，又趕快勸其趁好即收，撤兵天京，以保全功業。此時已覺勝券在握的曾國荃力排眾議，還謝絕了白齊文指揮下的「常勝軍」的支援。而且還連戰連捷，幾年奪下天京城外所有的戰略據點，都是在極為艱難困苦的條件下取得的「戰績」。最終，曾國荃安排心腹、亡命徒李臣典點燃埋在天京城牆下面的三萬斤火藥，炸開了天京城，天京城陷落……
為何曾國荃和麾下的「吉字營」會這麼驍勇呢？因為他麾下的人馬都是招攬的山賊等亡命徒，每攻下一城，曾國荃命令放假三日，任憑兵勇燒殺搶掠姦淫，無惡不作。因此這支湘勇在攻城時，都能奮不顧身，鋌而走險，這個特點在後來圍困安慶、攻陷天京時表現尤為明顯。
估計如此特殊方式，估計也就曾國藩的弟弟敢用，因為一切事都有曾國藩兜著的，而曾國藩當時手握湘軍，朝廷還要倚仗曾國藩來對付太平天國，所以只要曾國荃做的不是太出格，曾國藩都能兜得下。試問，這樣的軍隊，即便再驍勇，又有誰敢用？關鍵的還有一點，那就是曾國荃自己不怕死，只有這樣，才能讓手下那些亡命徒臣服，這還真不是一般人學得來的。