甲午战争爆发前，袁世凯在朝鲜知事无可为，托词返回国内。在回到天津之后，李鸿章以袁世凯人才可用，委派他办理前敌营务，但袁世凯并不想从事后勤工作，因而在工作之余又背着李鸿章在京中托人找关系，另谋出路。
袁世凯之所以能够得到迅速升迁，这与李鸿章提拔重用是分不开的，但让李鸿章不能容忍的是，袁世凯竟然求到了自己的政治死敌翁同龢的门下，这在当时的官场上可是犯了大忌的。由此，李鸿章开始疏远并冷淡袁世凯，而袁世凯更是一个现实主义者，他在甲午战败、李鸿章失势后，干脆就改投门户，另找靠山。
在经历甲午战争的惨痛失败后，清廷中改练新军的呼声渐高，而袁世凯凭借自己曾经帮朝鲜练过新军的经验，也试图抓住这个机会，实现自己以西法练兵的计划。为此，袁世凯上下奔走，向权贵们推销他的练兵计划，并最终获得成功。
李鸿章从日本谈判回国后，便一直闲居京城贤良寺，对袁世凯的所作所为十分不屑。当时的李鸿章，因为代表清廷签署了丧权辱国的《马关条约》，非但官居闲职，门前冷落，而且为舆论所不容，因而心态不免有些失衡。
时人刘体智在《异辞录》中记载说：“甲午战后，军机大臣李鸿藻用袁世凯为将，并令其在小站以新法练兵。李鸿章从日本马关回来后，李鸿藻曾对他谈及此事，李鸿章冷冷地道：‘我是败军之将，等着袁大少爷练成新军后打一仗试试看’。袁世凯听说后，心里十分不悦，引以为终生憾事。”
无独有偶，曾国藩的孙女婿、当时入李鸿章幕府的吴永也在《庚子西狩丛谈》中记载了这样一件事，说李鸿章从日本回到天津后，他与直隶的官员及候补官员一同进见，当时的袁世凯已被授予直隶按察使的职务，但并未到任而是专职练兵。直隶按察使是地方大员，自然在进见官员的前列。李鸿章到后，袁世凯便上前汇报练兵事宜，说初步的计划也已经部署，德国教习也已经聘请，日内便可签订合同，马上就可以正式展开了。
令众人没有想到的是，一向有风度的李鸿章这次却没有等袁世凯说完便勃然变色，他举起手中的手杖，“砰砰”地敲打着地面，厉声道：“嗐！小孩子懂得什么练兵！又订的什么合同！我治兵数十年，现在尚不敢说有什么把握。兵是这么容易练的吗？你雇几个洋人，扛上几杆洋枪，喊几个洋口令，便算是西式军队了么？”
袁世凯当年36岁，在遭此斥责之后，顿时面红耳赤，亦不敢反驳。周围的同僚们，从来没有看到李鸿章发那么大的火，大家都低着头，既不敢看李鸿章，也不好意思看袁世凯，场面十分尴尬。在吴永看来，袁世凯当时已经有崭露头角之像，李鸿章似乎有意要杀杀他的威风。
事实上，此时的李鸿章正处于个人政治生涯中最低潮，他对于袁世凯奔走于政敌翁同龢门下始终耿耿于怀。有一次，袁世凯来拜访这位过气的老领导，李鸿章终于再次爆发并痛斥了袁世凯一顿。巧合的是，这次吴永又在旁边耳闻目睹。
据吴永的记载，当他与李鸿章在贤良寺闲聊的时候，袁世凯前来拜见，于是他便避入别间。袁世凯寒暄了几句后，便为老上司的遭遇表示不平：“中堂当年铁马金戈，为朝廷立下了汗马功劳，如今朝廷只给予内阁首辅的空名，虽然每日随同上朝请安，实则无所事事，这样太不公正了。中堂大人不如暂时告假还乡，等到朝廷遇到难事了，届时必定会想到股肱老臣，这样中堂再次出山，岂不是名正言顺，而且能挽回昔日的声望？”
