但这时，冯国璋给黎元洪带了个坏消息，那就是老段要在天津发辞职通电，并请各省的军政长官评个是非曲直。冯国璋的话里带话，黎元洪岂有不知，一旦老段辞职的事闹得全国皆知，恐怕就更不好收场了。于是黎元洪便请冯国璋不辞辛劳，一定要亲自去天津一趟，把老段接回为好。
冯国璋倒是乐意去跑一趟，但他也不能肯定自己就一定能说服老段。要说起来，段祺瑞的年纪比冯国璋、徐世昌几个人都小，但脾气却最大，一向是军人作风，说一不二，少有转圜的余地。冯国璋也知道这次是因为对德断交宣战的事情引起，于是他得向黎总统要个准信，不然事情还真不好办。
为了说服黎元洪赞同对德绝交案，冯国璋也不免费了点口舌，说如今德国虽强，但毕竟是寡不敌众，这次又触犯众怒，战争肯定不能持久，要是我国对他绝交，想必也不会有什么坏处；再说了，协约各国已经答应在战后修约，加入岂不是件一本万利的好事？
至于黎元洪，他在听说老段要将各省督军引为后援后早已是乱了方寸，这时哪里还顾得上对德外交的事情。无可奈何之下，黎元洪也只能满口答应，只要段总理肯回来，外交上的事情全由他做主；只要国会通过，他绝不干涉。
段祺瑞回京后，再次拿着对德绝交的咨文请黎元洪盖印，并在国会那边顺利通过。但是，绝交案虽然通过了，但对德宣战案却一波三折。段祺瑞的人马为了让国会尽快通过，不惜使用了一些军人甚至地痞流氓组成“请愿团”对议员们进行胁迫，结果引起了舆论的一片哗然，段祺瑞内阁中的一些成员也在压力之下提出了辞呈。
这时，北京的《京报》又突然披露了一个爆炸性的消息，那就是段内阁正在与日本秘密谈判，主要内容是日本借给中国一亿日元帮助中国参战，条件是聘用日本武官训练中国军队、聘用日本管理人员来主持中国的军事工业等等。
这消息披露后，立刻在全国引起了强烈的反响，各种质疑和骂名纷至沓来，令段祺瑞极为被动，只得多次出来辩明并无此事，其暗中与日本的谈判也就不了了之。
在段祺瑞陷入被动的时候，总统府的人却兴奋了起来，他们一致建议黎元洪乘机将老段赶下台，而黎元洪也觉得这次舆论上的胜利扬眉吐气，大快人心，从此腰杆子也可以硬起来，也不必再看老段的脸色了。
此刻的老段，也感觉到了总统府和国会的压力，他不得不后退一步，不再纠缠参战案的事情，而是重新拟定了一份内阁改组的名单，准备替换那些辞职的阁员。为了向黎元洪和国会示好，段祺瑞还特意挑选了一些亲近总统府的人入阁，以便顺利通过。
但是，黎元洪此时已经下定决心要倒段祺瑞的阁，他对这份内阁的新名单挑三拣四，一会说这个不行，那个不信任，老段忍耐不住，便和黎元洪争论了起来：“内阁应由总理全权组织，通过与否是国会的事情，不是总统的职权！”
黎元洪“哼”了一声，说：“国会对你已经毫无信任，之前‘公民团’的事情又闹得不像话，现在督军团还干涉制宪，说什么要解散国会，这难道不是你总理的责任吗？”
段祺瑞听了这话，气得鼻子都歪到了一边。他站起来一拍桌子，吼道：“我不干了！”说罢，段祺瑞一跺脚，掉头便走。
有了段祺瑞的这句话，黎总统一不做、二不休，当天下午便签署命令，将内阁总理段祺瑞免职，理由是段内阁阁员长期虚悬，对国事不利，应重新选择总理并另行组阁。
黎菩萨终于发飙了，这可是他到北京以后所干过的第一件大事。
此令一出，老段的鼻子再次歪到了两指开外。他怎么也没有想到，黎元洪竟敢真的将他免职！要知道，上次他不过出走天津，黎元洪便被吓得屁滚尿流，连连求饶；想不到这还没几天，翅膀就硬起来了！好，好，“此处不留爷，自有留爷处”，你不让我干，老子走！
当天晚上，段祺瑞便收拾行李，带着手下乘火车前往天津。由此，黎元洪与段祺瑞的“府院之争”，也就以段祺瑞的去职出走而告一段落。
