曾國藩雖然是個文人，但他殺起人來卻毫不手軟。他在給朝廷的上疏中寫道：「欲用重典，以鋤強暴，即臣得殘忍之名，亦不敢辭。」
正因為有「欲用重典」的決心和勇氣，曾國藩在長沙辦團練時，下大力氣整頓會黨、維護治安，期間殺人無數，因此又得一綽號「曾剃頭」。長沙城中小孩啼哭，一提「曾剃頭」，哭聲立止。
為了樹威，曾國藩有時也不免濫殺無辜。
鹹豐二年（公元1852年），曾國藩到長沙辦團練，在城中魚塘口設立行轅。
開轅之日，曾國藩突然決定用人頭來祭奠帥旗。於是，他交給下屬一個特別任務——捉拿兩個匪徒。
由於事出倉促，下屬一時之間無法捉到匪徒，任務難以完成。情急之下，下屬只好在小吳門外抓了一個乞丐回來復命。
乞丐不知何事，跪在堂前瑟瑟發抖。曾國藩見只有一個衣衫襤褸的乞丐，並沒有發怒，反而和顏悅色地對乞丐說：「本帥行轅開張，想向你借一件東西，不知肯否？」乞丐答道：「小人但有，一定奉上。只是不知大人所要和物？」曾國藩說：「項上人頭。」於是，曾國藩不管三七二十一，命下屬砍了乞丐，用這顆人頭祭奠帥旗。
殺戒一開，從此一發不可收拾。
曾國藩辦團練伊始，發現湖南地區會黨極多，長沙尤盛。太平軍入湘後，會黨更是蠢蠢欲動，曾國藩便決定拿會黨開刀。
會黨原是城鄉無業游民、手工業者和社會黑惡勢力組建的一種民間秘密組織。在不良頭目的唆使下，會黨常幹殺人越貨、綁架盜竊之事。著名的會黨有天地會、串子會、紅黑會、半邊錢會、一股香會等。會黨雖然影響了社會治安，但無關大局，官府歷來也不予深究。
自從太平軍入湘，會黨就開始活躍，有的甚至公開投靠，如天地會。這引起曾國藩的極度恐慌和高度警覺。於是，他痛下決心，將清查會黨當作第一要務。
曾國藩在魚塘行轅設立審案局，一旦抓獲會黨成員或匪徒，便用嚴刑拷打加以審訊，並分別以會匪、散匪、盜匪、尋常痞匪等名目，誅戮處死。據說，審案局開局，他又殺了200多會黨匪首祭旗。
有一次，在湘江上發現有強行勒索民船的會黨，曾國藩聞訊後立即派人捉了三人，當即梟首示眾。長沙湘鄉碼頭開張，他殺了16個會匪「慶賀」。曾國藩還下令湖南各地團紳和地方官員，可以自行捕殺會匪，不必一一上報。
曾國藩的舉動令上下震恐，一時「曾剃頭」之名廣為傳播。
曾國藩的門生李瀚章，時任益陽縣令，見其殺戮過多，曾寫信勸諫「廣施仁義，緩於刑法」。曾國藩斥之為「書生之論」，置之不理。
至今，在曾國藩的家鄉荷葉塘，仍有民諺云：「不怕一萬，就怕萬一；不怕萬一，就怕寬一。」寬一即曾國遊小名。