《水滸傳》中梁山泊的一把手易了三次主，第一次是白衣秀士王倫，此時的梁山就以名揚天下了，不過在外人看來，梁山只不過是一群土匪的聚集地，況且想要入夥還要納投名狀，就是去山下殺一個人。林衝因奸臣陷害，殺了人後逃往梁山，也是被王倫處處壓制。
後來晁蓋等七人劫取生辰綱後被朝廷通緝，宋江為他們報信，建議他們到梁山落草。這七人來到梁山聽聞了林衝的遭遇後非常氣憤，於是與林衝聯手準備推翻王倫。在一次設宴上，林衝一怒之下殺了王倫，眾人推舉晁蓋為梁山的一把手。晁蓋統領下的梁山不再以打家劫舍為主，而是劫富濟貧，口碑逐漸提升，此時的梁山還沒多少好漢。
晁蓋為了報答宋江的救命之恩，多次勸宋江落草梁山，可宋江執意不肯，直到宋江因題反詩被判死刑，眾梁山好漢合力救出，這才同意落草梁山。在宋江趕路的途中，有多位好漢因為宋江的名聲而投奔梁山，梁山泊這才逐漸壯大。
後來周圍山寨不斷挑釁，官府也來徵繳梁山，宋江主動請纓帶兵出徵，在平定周圍山寨，對抗官府徵繳的戰役中無一敗仗，又收服了不少好漢，宋江的威名逐漸蓋過了晁蓋，梁山的事務也是由吳用和宋江兩人商議，晁蓋可以說被架空了。
為了不讓宋江功高蓋主，晁蓋主動親自率兵攻打曾頭市。不料中了埋伏，如果及時撤軍，損失不會很大，可晁蓋不甘心，就這麼無功而返的話會讓中梁山好漢瞧不起。於是不聽林衝勸阻，執意攻打，不料被史文恭一箭射到馬下。
回了山寨後，晁蓋臥床不起，臨終前問了宋江今後的打算，聽宋江說打算詔安，晁蓋心中萬般無奈，便下令「誰殺了史文恭誰做梁山一把手」。
晁蓋一死，眾梁山好漢都推舉宋江為一把手，宋江雖然再三推辭，可還是當了梁山的老大，後來設計將玉麒麟盧俊義坑到梁山後，派盧俊義去徵討曾頭市，史文恭被盧俊義殺死，本該盧俊義做得梁山一把手，可眾人卻一再反對宋江讓位，盧俊義也不好強行上位，也就順水推舟讓宋江繼續做梁山的一把手。
不久後朝廷詔安，宋江帶領梁山好漢下了山，為朝廷賣命，先後徵討遼國，高順，田虎，方臘，最後只剩下十餘人得以善終。
如果當初晁蓋沒有貿然攻打曾頭市，也不會死這麼早，宋江的詔安計劃也不會成功實施，畢竟梁山好漢大部分還是反對詔安的，朝廷肯定會一次又一次的徵討梁山，雖然梁山兵精將廣，可畢竟是與一個國家為敵，如果朝廷派重兵徵繳，梁山肯定會被踏平，並且無人生還。