袁世凯出身行伍，对清军弊病了如指掌。他接连上书督办军务处程文里、军机大臣李鸿藻、总理大臣荣禄等人，呼吁效法西方军制，对清军进行彻底、深入的改革。他撰写《练兵要则十三条》、《新建路军营制饷章》、《募定洋员合同》等具体计划，得到了军务处的认可。这样一来，朝廷上下无不赞同由袁世凯负责兴练新军的职务。几天后，袁世凯得到光绪帝的召见。这年年底，他来到天津小站，迈开了他人生中最重要的一步。
实际上，袁世凯并不是在天津小站练兵的第一人。小站原来叫新农镇，最早由李鸿章麾下的淮军驻扎，甲午战争的时候，淮军统领被杀，士兵弃营而逃，导致小站成为一片残垣断壁的荒地。1894年11月，胡燏棻受清廷任命，参照西洋军法在天津南马长练兵。尽管胡燏棻治军严明，也声称要学习西方练兵之法，但他实在对西洋军法一窍不通，尽管聘用了德国人为教习，但是根本没有达到预期的目的。胡燏棻主持军队的这年，定武军人数连一万都不到。
袁世凯自幼酷爱兵法，随着与西方接触的增多，他开始留意西方的治军方法，在对西洋兵法及军制的了解程度上，袁世凯远在胡燏棻之上，如果让他来仿效西法练兵，自然事半功倍。
到达天津之后，袁世凯接手了胡燏棻的定武军，并将军队迁到小站。
袁世凯初到小站的时候，是他最为意气风发的阶段。这时候，袁世凯刚刚三十六岁，他在朝鲜平定战乱，小试了牛刀。中国在甲午战争中的失败，更坚定了他整顿军队、洋法练兵的信念。
袁世凯是近代中国提出对军队进行全面改革的第一人，尽管在后人对他的评价中，不少人认为他军事才华一般，但如果横向比较，在对外国军队、军制的研究上，袁世凯远远超过了同时代的其他人，从袁世凯的《训练操法详晰图说》、《新建陆军兵略录存》等著作就可以看出。在这些著作中，袁世凯不仅对德国的军制有详细的阐述，还对日本的军队建设颇有研究。小站练兵时期，袁世凯还曾翻译过不少外国兵法著作，在徐世昌等人的协助下，袁世凯完成了新建陆军的军队编制、军队管理、军衔制度、军饷制度等一系列的改革。
清朝末年，清军内部已经非常腐败，克扣军饷成了军队中见怪不怪的事，普通士兵拿到的军饷只够自己活命，因此每到大敌当前，士兵宁可临阵脱逃也不愿奋勇杀敌，这就直接导致军队几无战斗力，在这样的背景下，士兵质量也就可想而知。袁世凯上任后第一件事就是招募新军。为了招募战斗力更强的新兵，袁世凯将新建陆军的军饷大幅提高，仅普通士兵每月就能领到白银四两五钱，新军统带（相当于营长）每月可支银两达到四百两。每月发放军饷时，袁世凯都要亲自到场监督，防止军官从中克扣。
除了重金买马，袁世凯还启用了大批来自全国各地的优秀青年军官，并在军队中设立武备学堂，培养军事人才。根据当时英国人贝思福的记载，新建路军“年轻力壮，身材适中，操法灵熟，步伐整齐”，新的制式，新的装备，新的军装，整个新建路军在袁世凯的操练下焕然一新。
这样一来，大批优秀的年轻人来到天津投奔袁世凯，甚至一些读书人也觉得从军是一个好的出路，纷纷加入新军。慢慢地，袁世凯身边集结了大量杰出青年，其中有名的有徐世昌、冯国璋、段祺瑞、王士珍、曹锟、卢永祥、王占元、段芝贵、李纯、唐绍仪、张勋等人，这些人后来都成了民国时期数一数二的人物，北洋系的最早势力也正是在这一时期形成的。
