甲午之戰，清軍大敗，清朝傾全國之力建設的北洋水師幾乎全軍覆沒。清政府內外交困，亟需訓練一支強大的武裝，以維特自已統治。正是在這種形勢下，袁世凱走馬上任，在天津小站編練新軍。
他選定天津以南七十裡的小站，利用原淮軍營房。招壯丁4700人，編為十營，稱為定武軍，影響中國近代史的小站新兵從此走上了舞臺。
袁世凱是個有頭腦的人，他本人是科舉出生，有一定的文化，而且親身參加過戰爭，所以他操練新軍也是很有一套的。他首先從改革軍制開始，擬定了《練兵要則》、《管制》、《餉章》及《聘請洋員合同》等制度。
他編練新軍，完全按照西方的辦法，每營分為四隊，每隊分為三大排，每大排分為二小排，層層節制，又層層接應，所以，新軍雖然還沿用淮軍的營務處、營、隊、哨、棚等名稱，但軍制上已經用德國陸軍制度區分兵種，分步、馬、炮、工、輜重等兵種，每營官兵1228人。
武器也一律改為的五響「夏利曼」步槍、馬槍及六響左槍手搶和格魯森快炮，實行軍械統一。為了使將士能適應軍制和裝備，又聘請了多名德國教習，並利用原淮軍隨營學堂，辦了各種類的軍事學堂，有炮兵、步兵、騎兵、德文四所學堂。
袁世凱從士兵中挑選一些人在這些學堂了學習二年，畢業後除學習德文的去德國留學，其餘都分派到各軍內任下級軍官。以後又規定新軍的軍官必須選用從軍事學堂出身且有軍事知識的人充任，不準在學堂、新軍以外隨意任用。
1896年8月，又開辦講式堂，專門抽調在職的哨長學習，同時規定，受訓後仍回本營。為了保證士兵素質。袁世凱又對新軍進行了裁汰補充，又擴充步兵200人。馬隊250人，軍隊總教達7000人。定武軍也改稱新建陸軍。
新軍挑選士兵也有產格規定定，一般年齡為16至25歲，身高高在四尺八寸以上，南方人的減二寸，凡五官不全，體質弱，舉不起百斤以上的，眼睛有毛病的一律不收。來歷必須土著，還有對每個新兵的家庭背景進行調查。對於吸食雞片或犯有罪案，以及城市裡的街溜子一概不收，所以，新軍的素質是很高的。
由於袁世凱採取以上種種有力措施，革新軍制，改變軍風，使新建陸軍與八旗、綠營完全不同，為中外矚目。就連英海軍司令參觀小站後也讚揚「新軍為中國最有名望之軍」。可以說，小站練軍是中國軍隊近代化的開端。
袁世凱就是靠著這支強大的新軍，從一個普通的將領，一步步逼的溥儀皇帝退位，自己做起了大總統。那麼，這新軍本來是大清朝出錢訓練的，是大清朝的兵，為什麼不效忠朝廷，反而會死心塌地的跟著袁世凱造反呢？
其實，老謀深算的袁世凱，從一開始就在軍隊內的人事關係上，極力推行家兵家將，同鄉故舊，使之成為只知有袁世凱而不知有朝廷的私人軍隊。如徐世昌是袁世凱的的老朋友，新軍一成立，袁世凱立即調他任參謀之職。騎兵營後隊隊長吳風嶺是袁家傭人的兒子。
此外，袁世凱用很多的精力籠絡了一批原北洋武備學堂的畢業生，如大名鼎鼎的段祺瑞、馮國璋、王士珍、曹錕、段芝貴等，都被袁世凱收入麾下。對原準軍將如張勳、王懷慶諸人，也極力收買拉攏。這樣，在新建陸軍內形成了以袁世凱為中心盤根錯節的依附關係，使之終於發展成為影響中國政局幾十年的軍閥勢力。