天不尽遂人愿，石勒自称赵王后的第四年，张宾病故。石勒悲痛欲绝地说：“难道老天爷不让我成就一番大事业么？为何这么早就夺走我的右侯呢！”每当他与身边的谋臣意见不合时，总是想到张宾当初的好处，慨叹道：“右侯离我而去，让我和这些人在一起谋划大事，岂不太残忍了一点吗？”
尽管失去了自己一生中最得力的助手，石勒还是具备足够的智慧与手段，来收拾关东残余的割据势力。
首先是盘踞幽州的段匹，他杀死刘琨后，失尽幽州一带原先留下来的西晋士人对他的信任，实力日显单薄。自从兄长段就六眷去世之后，他的从弟段末柸也与他翻脸，双方内斗不止，段匹胜少败多。这时石勒又派部将孔苌大举进攻幽州各郡，一路破城略地，直奔段匹所在的蓟城而来。段匹眼看在幽州已无立足之地，只得弃了妻子儿女，前往乐陵投奔东晋的冀州刺史邵续。
这时段末柸前来攻打，段匹与邵续合力，将其击退。段匹以为形势已有缓和，便与弟弟段文鸯，一起带兵出击，意欲乘胜夺回自己的老巢蓟城，却把邵续的生死存亡丢在了脑后。久经沙场的石勒怎会错过这样的好机会，他派遣石虎围攻厌次，将邵续活捉。段匹并未攻下蓟城，回军途中碰上石虎的军队，才知道连唯一的据点也已失手。段文鸯是一名猛将，他亲率数百亲兵力战破敌，一路杀入厌次城内，然而人虽有杀敌之心，怎奈战马已乏，下马与不计其数的后赵军队苦战，终于力竭被擒。段匹终于山穷水尽，率部投降。不久段匹兄弟被人告发谋反，被下令赐死，于是幽州尽入后赵版图。
然后就轮到原先王弥的部下，割据青州的曹嶷，这家伙较之段匹尤有不如。石虎来攻时，他早吓破了胆，后赵军队包围了他苦心经营的广固城（今山东益都西北），他只好出城投降。石虎将他送到襄国斩首，又坑杀了他的三万部众（又是一起大屠杀！），青州也被后赵完全控制。
接着又来天赐良机，一心恢复中原的东晋豫州刺史祖逖抱憾病故，手下将领纷纷来降，后赵的军队顺势攻下了淮北的豫州、兖州、徐州之地，与东晋划淮而治，并且还能不断骚扰东晋的北部边境，使其在一段时间内根本无暇北顾。这样一来，石勒终于得到了机会转过头来对付他真正的对手刘曜了。
而在这几年中，刘曜的前赵一直处于周围不和谐音符的骚扰之中：先是秦州一带的氐族、羌族各部的叛乱，刘曜出兵平叛，总算安定下来。继而仇池的杨难敌又忽叛忽降，搅得刘曜心神不宁。此外还有来自凉州的威胁。
凉州的张寔于公元320年稀里糊涂地让身边一群被邪教鼓惑的将领所杀，所幸其幼子张骏随即被拥立继位，并由张寔的弟弟张茂摄政，捕杀了叛乱的将领，对外向前赵称藩，稳定了凉州的局势。四年后，张茂病故，张骏就不再对前赵真心臣服，虽然实力不济，却也时刻厉兵秣马，准备收复当年晋国的失地。
这些边防问题都是前赵身后的隐患，刘曜没有能力像石勒那样斩草除根，把关中周围的势力全部统一于自己的麾下。更要命的损失是由于受到几方面的牵制，刘曜的军队根本无暇东顾，坐视石勒慢慢解决他的后顾之忧。等到双方军队再次在战场上兵戎相见的时候，石勒的国土已拓展了将近一倍，军队也强大了不少，而刘曜却依然是老样子，甚至还得时时提防身后凉、成等国的偷袭。
（刘曜这个人，打了一辈子仗，所以十分相信武力的作用，即使当了皇帝以后也是动不动就要来个御驾亲征。对手如此之多，却根本拿不出一点像样的外交政策。至少你也给来个拉拢一方，打击另一方一类的策略啊，但他压根儿没有这种概念似的，于是与石勒的差距越来越大，渐渐处于下风。）
前赵光初八年（公元325年），原本介于两个赵国之间的北羌王盆句除归顺前赵，石勒大怒，派大将石佗进入前赵国境内，大败盆句除的部落后对其进行一番抢掠，准备再退回国内。刘曜得到消息，急派中山王刘岳追击后赵军队，在黄河附近赶上石佗，将其斩杀，石佗所带的六千多人的后赵军全军覆没。自这场战争起，两个赵国开始了三年多的交战。（刘曜和石勒都是马背上取天下的人物，这样的战争对于他们来说结果只有两个，不是彻底成功，就是彻底失败，是一场真正的生死决战。）
一个月后，后赵大将王腾杀死了后赵的并州刺史，把整个并州献给前赵。两国因此结怨更深。这时，石勒的大将石生正在攻打河南一带的东晋军队，东晋的守军屡战屡败，后方的援军又迟迟不到，走投无路之下，只好派使者向前赵求援。刘曜觉得这是进入关东一带的绝好机会，便派遣刚刚打了胜仗的刘岳和镇东将军呼延谟各率一支军队，分两路从孟津和渑池渡过黄河，前往救援。后赵军来不及防备，前赵军初战告捷，刘岳的军队包围了石生的军队。石勒马上派遣石虎的四万步骑兵出成皋关助战，两军在洛水以西相遇，刘岳的军队数量远不及石虎的精锐部队，当然打了败仗，刘岳还中了乱箭，军队撤退过程中反被石虎军包围。石虎乘前赵军大乱之际又前往攻打呼延谟的军队，一战便消灭了呼延谟。刘曜感到事态的严重，于是亲自出兵援助刘岳，石虎不敢怠慢，也亲率三万骑兵迎战。刘曜屯兵洛阳附近的金谷，然而前赵的军队早已军无战心，当夜竟然无故大乱，兵士四散逃窜，剩下的部队退兵到渑池驻扎。这一夜军中又是不战自乱，刘曜出关之后一仗没打，就惶惶不安地带着士气低落的军队退回到长安。久经战场的石虎当然不会轻易放弃这个可以利用的机会，很快就消灭了刘岳的军队，又北上并州，将叛变不久的王腾擒获。石勒将在这次战争中俘虏的上万前赵士兵，全部活埋。刘曜经此一战元气大伤，已再无能力主动进攻后赵国了。
