在东晋立国的早期，祖逖是一个极其重要的人，重要的程度超乎想象，他没有崇高的官位，却是整个东晋政权得以稳定发展的关键人物。因为那时，经历无数次战火逃生的人们，正纷纷奔往南方的时候，他却掉头向北，望着沦陷的山河青锋出鞘，发出一声当时东晋政权已经集体失语的呐喊：北伐。
祖逖，生于西晋时代的公元265年，河北涞水县人，他的出身也不差，家族世代都是两千石的高官。他的父亲祖武做过上谷的太守，可以说，他出生在北方的一个军人世家。这种家庭出身的人，身上自然带有汉族武人慷慨好义的性格，年轻时候的祖逖就是如此。他年轻时最喜欢做的事情，就是练武，并且经常拿着钱财周济乡里，性格也豁然大度，属于当地非常有名望的世家子弟。但和类似家庭里的“富二代”不同，祖逖从小就极其刻苦，不但精心研究兵法，更勤练武艺，有关他年轻时期一段最著名的典故就是“闻鸡起舞”。公元289年，24岁的祖逖，结识了同样是世家军人家庭出身，游历到此的刘琨，两个性格直爽的铁汉一见如故，很快成了无话不说的好友，之后的许多时日里，他们同榻而眠，纵谈时事。这个时期，还是西晋的繁荣期，但是危机已经到来，当时的河北地区，已经“豪杰并起”。所谓的“豪杰”，大部分都是山贼草寇，也包括许多进入当地的少数民族部落，西晋王朝繁荣的外表下，已经隐隐汹涌着暴乱的暗流。这种情况，自然让两个年轻人忧心忡忡，终于有一天，祖逖提议，以后每天早晨，只要鸡叫了，就要起床练武，从此之后，两个年轻人结伴练武，度过了人生中最快乐最充满磨练的一段时光。也有说法是，当时的两个人，同在当地司州处做主薄，属于工作上的同事。但无论哪种说法成立，两位后来魏晋南北朝早期最杰出的民族英雄，就是因为相同的对国家前途的忧心走到了一起，并且一道经历了年轻时代的成长磨练。
祖逖命运的改变，发生在漫长的八王之乱中。这场持续在中国北方的战乱，消耗掉了强大的西晋帝国大部分的兵力，西晋政权对于全国的控制力大幅度下降，外加常年战争导致阶级矛盾激化，就像两个年轻人当年所担忧的那样，动乱很快发生了。祖逖的家乡河北，主要活动着羯族人石勒的羌族武装，以及当地鲜卑等部落势力，很快河北地区就陷入了大规模战争之中。在这场战争里，作为正统的西晋政权，他们在北方的首都洛阳，于公元311年沦陷，后来建立的首都长安，于公元316年沦陷，匈奴人建立的“汉”政权，将西晋彻底灭亡。与之同时发生的，就是战乱中大批北方汉人的南逃，以祖逖的家乡为例，当时的涞水地区，按照史书记载，大约有十分之七的百姓向南方逃亡，他们之中的大部分人，都死在了逃难的路上。祖逖也在这群难民之中，他率领亲族乡党几百人一路南下，历尽千辛万苦。这一段的逃亡路，让祖逖锤炼多年的军事才华，有了试验的机会，他作为家族的领头人，一路负责断后。从河北到江南的沿途，经常会遇到各少数民族政权的游牧骑兵，但凡见到逃难的汉人，不但格杀勿论，财物也被席卷一空。在这次逃亡旅途上，祖逖带着家族里的300多个青年，多次保护家族中的老幼妇孺逃难，与敌人浴血奋战。等他们这一支难民队伍抵达南方时，祖逖率领的断后青年们，只剩下30多人。当时大部分的汉人南迁，就是这样的悲壮。
逃到江南之后，祖逖因为一路上的英勇表现，得到了难民们的拥戴，因为他不只保护了自己的家人，还多次挺身而出，解救了许多逃难的百姓。一路之上，他也经常开动脑筋，缴获敌人的马匹，比如在路过山东的时候，面对追击的敌人骑兵，他故意将对手引进山中，用弓弩射杀，截获了他们的马匹为自己所用。因为这些，他被当地的难民推举为“行主”，一番辗转，他们最后到达了江苏镇江，并在当地定居。
祖逖到达镇江的时候，是公元317年，当时东晋司马睿政权已经称帝开国。祖逖的英雄事迹，在当时被人们广为传颂，这样的人才，正是东晋开国早期最需要的。在拜见了司马睿之后，祖逖被封为徐州刺史。得到任命的祖逖，给司马睿提出的第一个建议，就是北伐。但这却是当时司马睿不能接受的，第一，当时的东南地区，东晋的统治并不稳固，好多当地士族对东晋政权持观望态度;第二，司马睿本人也不是一个有进取心的人。比较著名的一个典故是，司马睿有一次问他的儿子，是北方远还是太阳远，儿子回答说，是北方远。司马睿问为什么，儿子说，因为我们看得见太阳，却看不见北方。司马睿听了很高兴，夸奖儿子聪明。也就是说，司马睿本人的愿望，只是要偏安东晋，至于光复河山，他不会想太多。
祖逖虽然看不到北方山河，却无时无刻不在想着北方山河，当时居住在京口地区的，主要是南下的北方难民，中国人从古到今的一大特点，就是恋家。离乡背井，永远是不得已的选择，所以，收复河山，重回家园，是每一个难民心中的愿望。而对于祖逖来说，他是军人家庭出身，从小就有匡扶社稷的愿望，北方山河的沦陷，对一个军人来说，自然是奇耻大辱，所以北伐，是不用动员的。
北伐不用动员，但东晋政府却不太有热情，不只是作为皇帝的司马睿，那些扶持司马睿的江南士族们，本身在晋朝的地位，一直不如北方士族，现在因为晋朝定都江南，他们的地位一下子上来了，所以东晋保持现状，对于他们来说是最有利的。这些政治家们，想的都是最复杂的利益问题，而像祖逖这样的热血男儿，考虑的却是最简单的军事问题。为了这个愿望，祖逖一次次进谏司马睿，这时候的司马睿立足不稳，既不能开罪于当地士族，也不能得罪祖逖这些南迁的北方人。所以最后司马睿活了个稀泥，给了祖逖一个奋威将军的名号和豫州刺史的头衔，看似对北伐很支持，但是在军饷方面，却只给了祖逖1000人吃的军粮和3000人穿的盔甲。至于兵马，则让祖逖自己想办法了。
当时的中国北方，存在着各个强大的少数民族政权，每个政权都拥有数万精锐骑兵，这种情况下要北伐，几千人根本不够人家塞牙缝。司马睿的本意，也只是想和祖逖客气客气，给你个空头支票，别整天拿北伐的事情来烦我，如果祖逖因此知难而退，那就更中了他的下怀。
祖逖是不会退缩的，他已经退过一次，从遥远的河北家乡，退到如今的江苏镇江，离乡背井，已经无路可退，他唯一的选择，只有前进。
