此时徐龛受到南北夹击，形势十分危急。然而，屯驻于下邳的羊鉴、刘遐等人却仍然畏敌如虎，不敢北上，因此蔡豹孤军也一直不能北进。
尚书令刁协上书司马睿：“北进诸军已经丧失了迅速进军的时机。目前炎热，不如暂筑深沟高垒，等到秋天来临再进军。”
司马睿下诏表明了自己的态度，说：“不战先退，将士士气大丧，并且目前已经拿下了敌人的堡垒，决不能退一步。”
可羊鉴拒绝执行司马睿的命令，刁协上书司马睿，罢免了羊鉴的官职，并降蔡豹为折冲将军，作为先锋以观后效。罢免羊鉴以后，有关部门要求诛杀羊鉴。晋元帝司马睿以羊鉴为外戚之家，特意免死，除名。王导也因为举荐不力，上书请求自贬，司马睿没有接受。
面对行动迅速的石虎四万大军，徐龛自知负隅顽抗下去，只能是以卵击石。如今，自己请求投降东晋，却没有被司马睿接受。徐龛只好将自己的妻儿送到襄国作为人质，再次向石赵投降了。
等到蔡豹率军进攻徐龛的时候，局势已经发生了突变。面临两路夹攻的已不是徐龛，而变成了蔡豹率领的东晋部队了。当一直往北推进到卞城(山东省济宁市泗水县)的时候，蔡豹突然发现，就在卞城以北不远的巨平(山东省泰安市)屯驻着石虎的大军。蔡豹不敢与石虎的主力部队交战，连夜率部南撤到了下邳。蔡豹大军的辎重留在檀丘，徐龛率部偷袭得手，大批军用物资落入徐龛之手。
东晋这次平叛战争，历时一年，不仅没有消灭徐龛，反而损兵折将，大败而回。蔡豹败退到下邳以后，打算只身回到建康谢罪。这时，蔡豹的顶头上司是王导的从弟、都督徐州青州诸军事王舒，他却对蔡豹说：“胡人将要南下，你还是先暂时执掌军务，保卫百姓。等到敌人退却以后，再去建康归罪不迟。”蔡豹是个老实人，就听从了王舒的话，没有赶回建康给司马睿表明一个态度。
其实，司马睿听说蔡豹损兵折将以后，就派遣使者前去追究责任。两面三刀的王舒带着使者，趁夜率军围住了蔡豹的大营。夜里不辨敌我，蔡豹还以为是敌人来了，立即整军攻击。两军相接，蔡豹听说有司马睿的诏书，才命令部队停止攻击。王舒拿下蔡豹，送往建康。结果司马睿下令诛杀了蔡豹，将尸体陈于建康街市中示众三天。史书称，蔡豹作为徐州刺史，很得当地军民之心。当大家听说蔡豹被杀的消息，都十分痛惜。
表面上看，这次讨伐徐龛失败是王导用将不当所致。其实，如果将一系列事件联系起来看的话，不能不怀疑王导在启用羊鉴作为都督、掌握帝国东北地区最高军事大权的时候，是否有遥制祖逖、呼应王敦的私心。因为也就是在这一年，深为王敦忌惮的襄阳周访去世了。随着周访的去世，王敦密谋废黜司马睿的计划也在加紧酝酿之中。此时的王导也“心思外济”见《晋书·王敦传》载王导与王含书。，以北伐徐龛之名让羊鉴领兵于外，掌握军队，这才是王导的目的。
仅就战役进程上看，只有蔡豹开始取得了檀丘胜利。后来，他又主张积极进兵，其他众将则寸功未立。在情况发生重大变化以后，司马睿仍然坚持要蔡豹北上进攻，结果才导致了兵败。可是，司马睿得罪不起高门大族，让王导、羊鉴等人全部逍遥法外，而次等士族的蔡豹却做了替死鬼。
反复无常的徐龛也未能善终。徐龛投靠了石勒半年多，到了晋元帝大兴四年(公元321年)春，他又一次投降东晋。石勒并没有让徐龛逍遥多久，翌年七月，他派遣石虎攻下了徐龛的老巢泰山，活捉了徐龛。石勒对此人恨之入骨，将其放入布袋之中，在百尺高楼上用棍棒打死，并将其手下投降的三千多人全部活埋。
