匈奴汉主的刘聪却在大修宫殿，选美人，下令挑选大臣们女儿中有姿色的入宫，竟把大臣刘殷的两个女儿、四个孙女一并纳入宫中充当嫔妃。靳准的两个女儿靳月光、靳月华也封了贵嫔，一个皇后不够，设立左右双皇后。妃子多了顾不过来，总不能每夜都一龙数凤，身体受不了呀，也没那么多本钱啊，终于发生红杏出墙，弄得刘聪心神不定，加上前方战事不顺利，晋人整天吆喝迎接晋怀帝，消灭汉国。刘聪开始拿亡国之君司马炽出气，出宫行猎时让司马炽执戟充当侍卫头前开路，大宴群臣时 "使怀帝著青衣行酒"。晋朝士庶痛哭流涕，刘聪心虚下令将司马炽杀死，把从前赐给他的老婆收回仍做贵人，匈奴人就是开放，别人用过的，照旧可以收回来，女人一样。
大晋关中诸将不甘示弱，立马拥戴司马邺为新君，即晋愍帝，发檄天下，共讨汉国。新朝廷任命司马睿为左丞相、大都督，督陕东诸军事；南阳王司马保为右丞相、大都督，督陕西诸军事。下诏三路并进，"令幽、并两州勒卒三十万直造平阳，右丞相宜帅秦、凉、梁、雍之师三十万径诣长安，左丞相帅所领精兵二十万径造洛阳，同赴大期，克成元勋。"希图刘琨和王浚合幽并之兵南下，司马睿率江淮之兵北上，司马保督关中之兵西出。
新朝廷的战略意图是好的，可惜朝廷没有力量控制诸路兵马，诸侯们各怀异心。各路兵马中，只有刘琨是个忠臣，六月份，他与代公猗卢会师于陉北（山西代县），七月，刘琨进据蓝谷，猗卢派遣大将拓跋普根屯兵于北屈（在今山西吉县）准备攻打汉国北境的刘粲。幽州的王浚根本没有出兵的意思，何况石勒已经攻克襄国，对幽州虎视眈眈。最清闲的司马睿也没有北上的想法，不管司马邺怎样催促只是说"江东初平，未暇北伐。"倒是司马睿手下的祖逖接连向司马睿请命北伐，祖逖是范阳高门士族（北州旧姓），前文讲过他与刘琨是好朋友，曾经闻鸡起舞，而且每次总是他把刘琨踢醒，从这件事情上可见二人的优劣，祖逖主动，刘琨被动，祖逖有大志且能坚毅的付诸行动，而刘琨没有毅力改不掉天生的惰性，二人的结果与功绩也是不同的。
祖逖渡江后居住在京口，京口即今江苏镇江，原本荒芜贫瘠，中原战乱，北方人纷纷南渡，过江士庶、流民为避战乱，而又希冀重返故园，京口成为他们聚集地。范阳祖逖、渤海刁协、颍川庾亮、东莞徐澄之、臧琨等所率子弟、部曲、闾里士庶数千余家南渡，世居京口。祖逖有远见卓识，对时局分析比较透彻，他上书司马睿说："晋室之乱是由宗室争权，自相鱼肉引起的，不是老百姓反对，结果让胡族抓住机会，毒流中土。少数民族占据中原肯定引起汉民的反抗，大王您如果出兵的话，再用我这样人率领去收复中原，郡国豪杰，必然望风响应。"虽然他说晋室之乱是由宗室争权引起比较偏颇，但他对中原局势看得很准，不过他看不懂司马睿的心理。司马睿绝对不想北伐中原，因为北伐不管胜负与他有害无利。他是皇室疏亲，好不容易在江东站稳脚跟，一旦北伐失利，他如果在江东立足？如果成功的话，司马邺恢复晋朝基业，他身边的那些皇亲功臣必能秉政，怎么会有司马睿什么事儿？他，也包括一些在江东政权获得利益的士族也不愿意让关中集团得势，更不能让祖逖这种有名望，有大志的人去做统领，司马睿心里断然拒绝北伐。
为了顺应民意，不让人看出他另有居心，给天下人留下口实， 表面上他支持祖逖，封他做奋威将军，豫州刺史，鼓励他北伐，却一兵一卒也不给，仅仅拨给他千人的口粮，三千匹布，不供给兵器，让祖逖自己想办法募集。一个名动千古 "击楫中流"的典故在这样一个历史背景下流传开来。祖逖带领自己部曲百余家渡江，船行中流，击楫而誓说："祖逖不能清中原而复济者，有如大江！" 辞色壮烈，众皆慨叹。祖逖自己招募二千人马，在淮阴铸造兵器兵进河南，屡次打败石勒的军队，只不过他的人马太少并没有对匈奴汉国和石勒造成太大的威胁。
