清朝末年，因清政府腐敗，先後在鴉片戰爭、第二次鴉片戰爭、甲午中日戰爭等遭受失敗，為了挽救積貧積弱的現狀也為了鞏固自己的統治地位，再這樣的背景下清政府開始了著名的洋務運動，以圖能立於世界之林。
特別是在甲午戰爭中，清政府斥巨資重金打造的北洋水師也全軍覆沒。
經此慘敗以後，清政府痛定思痛，開始學習列強的軍隊編制，並在這一中心思想指導下，開始新軍的組建。由於新軍主要由北洋大臣負責訓練和組建，因此清朝的新軍也被稱為「北洋軍」。
至1901年，「北洋軍」逐步建立起來，不過在組建的過程中，北洋軍的編制最為複雜，因為與傳統的古代軍隊編制不同，又與現代軍隊編制也不一樣，同時又與西方列強的軍隊編制不同，而是很大程度上借鑑了日本改革後的軍隊編制。
採用「禛、協、標、營、隊、排、棚」的編制，「鎮」為最高級編制、「棚」為最低級編制。其中一個鎮下轄2個步兵協、一個步兵協下轄2個步兵標與1個獨立騎兵標、一個標下轄3個營、一個營下轄4個隊、一個隊下轄3個排、一個排下轄3個棚。
其中一個棚有14名官兵，有點類似於我們現在的「班」。如此算下來，北洋軍一個鎮的總兵力約為12000多人，那麼北洋軍總共有六鎮，也就是說其總兵力為7萬多人。
在這裡說明下，「北洋軍」與「北洋軍閥」是兩個概念，本文主要講的是「北洋軍」並非「北洋軍閥」。
隨著北洋軍的建成，並於河南彰德會操中出色表現，清政府對新軍非常滿意，並計劃未來將在全國建立54鎮新軍，總計六十多萬的新軍。毫不誇張的說屆時，清朝的江山將千秋萬代。
但，隨著辛亥革命的爆發，袁世凱的投降，清朝覆滅，這一宏偉的計劃也隨之宣告破產。彼時，北洋軍與南洋軍總計10多萬人，其餘的皆為舊式軍隊，僅做番號的更改，戰鬥力不高，最強的只有新軍。
到了軍閥混戰期間，北洋軍四分五裂，各個軍閥之間的編制又出現了很大的的差別。其最鼎盛的時期北洋軍閥大概有五十五個師合計兵力約120萬。但那個時期也是社會最動蕩，物價騰湧，人民生活困苦的時期。
直到北伐戰爭結束以後，軍、師、旅等常見的編制開始出現，不過由於各地的軍閥基本上各自為政，還出現了集團軍這樣的比較特殊的編制。