祖逖在北伐期间，精神上遭到的一个沉重打击，就是好友刘琨的英年早逝。作为祖逖一生的知音，同样投身光复大业中的刘琨，经历了与祖逖同样艰难的一生。
作为志同道合的朋友，在北方“五胡乱华”爆发时，刘琨和祖逖选择了不同的道路。
同为民族英雄，也同样出身北方世家大族，但是在性格上，刘琨和祖逖却是截然不同的两类人。祖逖出身于军人世家，身上带着北方军人的豪气和刻苦耐劳的性情。年轻时代的刘琨，却更像一个“花花公子”，他是汉朝皇族的后裔，其家在魏晋时期历任高官，自小锦衣玉食。他的生活一度也很奢侈，比如早年在洛阳为官的时候，经常出入娱乐场所，过着纸醉金迷的生活，和西晋的富豪石崇还是好朋友。他是个能文能武的人，除了早年和祖逖一起练剑的经历外，他还很擅长诗词创作。在他与祖逖一道练剑后，刘琨被诸侯齐王司马囧征召，在洛阳生活了很长时间，那时候的他，很少能看到青锋出鞘的勃勃英气，相反每天和一群狐朋狗友嬉戏玩乐，饮宴做诗。他和当时西晋著名文学家陆极、陆云、潘岳等人，并称为“二十四友”，一度是西晋皇后贾南风的心腹。如果没有那场颠覆西晋王朝的动乱，历史上的刘琨，很可能就是个花花公子。
刘琨有一点和祖逖一样：血气。他也是个有血性的男儿，后来刘琨得到司马囧征召，入伍从军，在和祖逖告别的时候，刘琨极为兴奋，对祖逖说，我每天枕戈待旦，就等待着这一天啊，真的很担心我会落在你后面。两个好朋友，从此有了一个约定：看看谁在沙场上建树多。外表花花公子的刘琨，内心却和祖逖一样，是个快意恩仇的血性汉子。
刘琨之所以和祖逖在“五胡乱华”时代，走上了不同的道路，也因为司马囧的这次征召，在后来的八王之乱中，司马囧兵败自杀，作为司马囧部下的刘琨，被编入了范阳王司马晓的麾下。在司马晓的身边，他得以飞黄腾达，公元307年，28岁的刘琨被任命为并州刺史。这一次任命改变了他一生的命运。中国少了一个虚度光阴的富二代，多了一个精忠报国的将军。
当时的山西并州，是西晋的北方边境，也是各民族的杂居区，民族关系非常复杂。许多部落趁中原战乱的机会趁火打劫，经常举兵作乱，这时候的刘琨，面临后来祖逖北伐时同样的困难。空有一个“刺史”的头衔，却连一兵一卒都没有。到达并州的时候，当地已经在常年战乱中残破不堪，而且经常有游牧民族骚扰。此时刘琨的麾下，只有1000多残兵败将。
在这样的局面下，刘琨迎难而上。他在当地修缮城墙，加强防备，但是没兵没人却是难题，这个局面比后来的祖逖还惨，祖逖尚且还有坞堡可以争取，刘琨却连争取谁都不知道，不过很快刘琨就知道了。这时期的并州，活跃着拓跋鲜卑部，这支鲜卑部落很特殊，他们从西晋早期开始，就和中原互通有无，一直仰慕中原文化。如果能够得到他们的帮助，并州的局面就可以打开了，刘琨再次迎难而上了，他主动邀请拓跋鲜卑部的首领奇卢深谈。拓跋鲜卑人很实在，提出要和刘琨比武，结果，当年“闻鸡起舞”练下的武艺，这次总算派上了用场，刘琨用其武艺折服了奇卢，成了鲜卑人眼中的勇士，后面的事情就好办了。在拓跋鲜卑的帮助下，刘琨得到了战马以及军队，开始壮大自己的力量。正当他雄心勃勃，意图统一北方的时候，噩耗却发生了，公元311年，匈奴人建立的“汉”政权占领了洛阳，俘虏了晋怀帝，闻听噩耗的刘琨，不顾自己力量弱小，毅然发动了对“汉”政权山西平阳老窝的打击。事实证明，这时候的他还不是匈奴人的对手，结果刘琨几年辛苦训练的骑兵，被匈奴人打得几乎全军覆没，刘琨的父母也死在了这场战斗中。刘琨本人也差点被俘，其部下只剩下了几十人，如果不是拓跋鲜卑关键时刻赶来营救，恐怕刘琨性命难保。拓跋鲜卑也很够朋友，为他再次提供了精良战马和一部分兵力，刘琨就借此守住了并州。在五胡乱华的早期，虽然晋朝已经南渡，刘琨却依旧坚守在北方。偌大的中原，他是唯一留守作战的晋朝将军。
留守敌后的刘琨，主要的战争经历，可以用“屡败屡战”来形容。他本身力量就弱小，比起石勒、刘聪等枭雄来，军事力量差得太远，能够坚守住并州就很不容易了，但刘琨本人性格豪放，一心想着尽快消灭敌人，所以经常主动出击，发动对敌人的进攻。从公元311年到317年，刘琨先后发动了5次对北方石勒和刘聪两大政权的进攻，虽然这5次进攻都以失败告终，但是两大政权的军队，也因此被牢牢牵制在山西地区，刘琨的好友祖逖，也得以从容在河南扩张，一步步北进。在东晋政权的早期，祖逖和刘琨一南一北，持续地发动着对北方敌人的打击。
和祖逖比起来，刘琨的局面显然更难，他深入到敌后，没有大后方，没有支援，只有唯一的盟友奇卢。为了团结鲜卑族，刘琨主动牵线，奏请东晋朝廷册封奇卢，奇卢得到的封号是“代”，他们也因此在北方建立了代国。奇卢的子孙以此为基地，后来迅速发展起来，他们这一支，就是南北朝赫赫有名的北魏。
在北方坚持抗战的同时，刘琨做了一件让他懊悔终生的事。公元313年，当时还是刘聪部下的石勒，假装投靠晋朝，而后发兵攻打同样留守在北方的晋朝将军王俊。王俊此时驻扎在河北冀州地区，和刘琨遥相呼应，但他俩人不和，结果刘琨作壁上观，坐看王俊被石勒消灭。这个王俊，可以说是西晋灭亡的罪人，就是他首先提出了引胡人入中原参加八王之乱，导致了后来北方的动乱。但他和刘琨一样，一直坚守北方，虽然与刘琨不和，但是抗敌的态度却同样坚决。王俊后来兵败被俘，临死前大骂石勒，最后被石勒处死。
王俊的死，让刘琨失去一支臂膀，随着石勒实力日强，刘琨也支持不下去了。公元317年，平定王俊的石勒，转而进攻刘琨，这次刘琨被打得全军覆没，连并州都丢了，他只能去投奔老友奇卢。然而，这时候的拓跋鲜卑，正好发生了内斗，刘琨被诬陷参与了奇卢弟弟的谋反，遭奇卢拘押。虽然最后刘琨的“谋反说”查无实据，但多疑的奇卢，迟迟不肯释放他。就在这个时候，东晋的王家枭雄王敦送来书信，命令奇卢杀掉刘琨。刘琨与王俊不睦，而王俊又和王敦是同宗，正好公报私仇。骑虎难下的奇卢，最终做出了杀掉刘琨的决定。是年，刘琨以及他的侄子被奇卢杀害，西晋灭亡后晋王朝在北方最后一个据点，就此沦陷了。
