光绪二十一年（1895年），刚刚在朝鲜立下战功的袁世凯接替胡燏棻的位置，奉旨到天津小站扩练“定武军”，更名“新建陆军”。这是甲午战争之后清政府首次尝试以西方模式训练军队，小站也因此成了清末第一支近代化编练军队的诞生地，袁世凯早起的盟友也多是在天津小站汇集。
小站位于天津东南七十里，远离城区，周边都是荒蛮之地，人迹罕至，鲜有人知。袁世凯来到小站之后，广募新兵，聘用德国教官，全部采用西方新式武器，参考西方军队编制和操练方法，很快就建立起一支有别于清廷军队的武装力量。这时候，徐世昌在朝中如鱼得水，而袁世凯却抱着绝对的信心，以一纸奏疏把徐世昌调到天津来。
1897年夏天，头戴五品顶戴、身穿藏青朝服的徐世昌在北洋新军官兵的簇拥下来到袁世凯面前，这两个兄弟已经好久不见，袁世凯顾不上寒暄，直接把徐世昌拉进厅内讲起了他对新建陆军的规划。袁世凯神采奕奕地向徐世昌展示自己这两年来的成绩，并和他交流关于兵种设置、训练方法、征兵标准、机构设置、军制改革等方面的想法，此时距离甲午战争已经过去了两年，看着操场上训练有素的士兵们，两个正当年的男人仿佛看到了清朝的希望。
袁世凯邀请徐世昌加入，起初徐世昌还有些犹豫，但看了小站训练出的精英部队之后，徐世昌果断放弃了在朝中的五品翰林身份，一心一意地投靠到袁世凯麾下，徐、袁二人正式结盟。
1897年秋，徐世昌应张之洞之邀请到武昌，先后参观了很多近现代工厂、武备学堂及名胜古迹，大概受到袁世凯的影响，每每与人交谈，总要提及军队改革的问题。年底，张之洞想挽留徐世昌，但徐世昌义无反顾地返回北方，选择在小站和袁世凯一起实现他们的梦想。
徐、袁二人不仅性格互补，在治理军队的才能上也非常合拍。袁世凯偏武，负责统管军队操练，徐世昌则偏文，充当类似军师的角色，“每日治牍外，阅各种操法，演试各种新炮，考校各学堂，仍乘间看书，研求戎略”。
徐世昌到小站后不久，袁世凯因为滥杀无辜及克扣军饷被告发，荣禄和陈奎龙奉旨前来查办。如果袁世凯这时被朝廷撤职，那么他今后的宏图伟略就再也无法施展了。幸亏徐世昌及时出现，在陈奎龙和荣禄之间巧妙周旋，才使袁世凯化解了这场危机。
通过这件事我们可以看到，徐、袁二人结盟并不是徐世昌投靠袁世凯，而是两人互相依靠、互相扶持，徐世昌通过袁世凯得到了提拔，政治地位不断提高，而袁世凯也因为有了徐世昌，才避免了很多麻烦，袁对徐一直心存感激，以至于袁在企图称帝复辟时，还一度想得到徐世昌的支持。
