在民国建立后，段祺瑞继续受到袁世凯的重用。尽管当时内阁总理像走马灯一样地更换，但段祺瑞担任的陆军总长却一直岿然不动。在“二次革命”的时候，段祺瑞还亲自代理国务总理，组织战时内阁并一举击败南方革命党人。
中国有句古话说得好：“飞鸟尽，良弓藏；狡兔死，走狗烹”，在袁世凯巩固了自己的势力后，他发现段祺瑞在北洋军中也已经自成一派，而且段祺瑞为人刚愎自用，很多事情不向袁世凯请示便自行决定，提拔的军官也大多是自己的学生部属。长此以往，恐有军权旁落的危险。
1901年，在段祺瑞的原配夫人去世后，袁世凯为了笼络这位干将，将自己视同己出的义女张佩蘅介绍给段祺瑞作续弦，两家女眷来往非常密切，袁世凯的子女有时候也叫段祺瑞姐夫。但在民国以后，段祺瑞与“太子”袁克定的关系一直不和，他对于袁克定试图插手军队的企图十分反感，而袁克定则利用各种机会在袁世凯的面前诋毁段祺瑞“擅权”、“图谋自立”等。时间久了，袁世凯终于起了疑心，后来便设立了陆海军大元帅统帅办事处，委派其侍从武官荫昌、陆军总长段祺瑞、海军总长刘冠雄、海军司令萨镇冰、参谋次长陈宦等人为办事员，并请出王士珍出来主持常务，一切军政要务均需报袁世凯定夺。
段祺瑞也是个聪明人，他知道袁世凯这是在有意削夺自己的兵权，于是他就干脆找各种借口不参加统帅办事处的会议，对于陆军部的事务也多交给次长徐树铮处理。有一次，袁世凯将段祺瑞召至总统府查问一件公事，段祺瑞不太清楚，说还要到部里去查一下。袁世凯很生气，说：“你们部里的呈文都上来了，你还去部里查什么呢？”
原来，段祺瑞根本就没有处理过这事，而呈文也是次长代他签名送上去的。由此，袁世凯见人就大发牢骚：“你看看，我们北洋的人都成了什么样子！芝泉不到部里去办公，华甫（冯国璋的字）身为地方大员，每天睡到中午十二点才起床！这像什么样子！”
在一些重大问题上，袁世凯与段祺瑞也产生了尖锐的矛盾，比如袁世凯对陆军次长徐树铮非常反感（此人有才，但人缘极差，比段祺瑞的脾气还要大），几次想把他调走，但段祺瑞一直袒护徐树铮，并声称：“要撤徐树铮的职也可以，那就将我也一起撤了！”
由于段祺瑞经常称病，袁世凯也就顺势让他养病休息，改由王士珍代理了陆军总长一职。袁世凯称帝前，段祺瑞曾召集心腹徐树铮、曾毓隽等人，十分悲愤地说：“项城看来真是要做皇帝了，无可救药啊！想当年，我领衔诸位将领发拥护共和之通电，如今我要是拥项城为帝的话，我在国人眼中还算人吗？试问二十四史，还能找出我这样的人物吗？所以无论公与私，我都宁死也不参与帝制，我打算归隐山林，决不多发一言。”
不过话说回来，像段祺瑞这等人物，本就是*的开国元勋，倘若按照民国政治的运作，他是完全有机会接袁世凯班的。如今袁世凯要搞“家天下”，断了段祺瑞等人做国家元首的念想不说，如今还要做袁家特别是那个袁克定的臣属，这就是降志辱身，令人难以容忍了。不过，段祺瑞毕竟跟了袁世凯这么多年，他当时并无反袁之心，不过以消极怠工加以杯葛，而袁世凯还是领着帝制的战车不断前冲，最后一哄而散，悔之晚矣。
“开弓没有回头箭”，世界上终究没有后悔药可吃。在后来取消帝制的当天晚上，袁世凯把张一麐找来谈话，极其悔恨地说：“我当时没有听你和范孙（严修的字）的话，现在想来真是又悔又愧啊！范孙跟随我多年，从来没有跟我提起过什么官阶升迁；你在我的幕府中也有十几年了，也是从来没有提过什么个人要求。可见那些淡泊荣华富贵、功名利禄的人是多么的可贵，这才是真正的国士啊！那些曾经推戴我的人，难道他们真的是为国为民吗？他们今天推戴我为皇帝，明天就可能反对帝制，这种人真是比比皆是哪！总之，我办事情的时候多，读书的时候少，这也是咎由自取，怪不得别人。”
最后，袁世凯沉痛地说：“只是误我事小，误国事大，当国者不能不引以为戒啊！”
李商隐有诗云，“嫦娥应悔偷灵药，碧海青天夜夜心”，苍天明月，故园秋风，想必老袁亦是愧悔自知，然往事不可追，虽悔何益？
