经过一番折腾，刘粲被立为皇太子，而靳准也掌握了国中大权，博取了刘聪的充分信任。汉麟嘉三年（公元318年），刘聪病死，临终前他想召手握重兵的刘曜和石勒到国都平阳辅政，两人当然是“固辞不受”。刘粲继位，当然重用靳准，靳准又一次利用刘粲之手铲除刘氏宗族中的异己分子，大杀在朝中任职的刘氏诸王。刘粲的荒唐程度，一点不亚于其老子，靳准很快就得到了军国大事的决策权。
仅仅一个月后，靳准领兵进入皇宫，将刘粲杀死，同时将刘氏一族不分老幼全部处斩，连刘聪的尸体也没逃过此劫，被挖出来斩成两段。（刘聪生前生活糜烂，死后落得尸首糜烂的下场，真是报应不爽。刘渊一族，下场如此之惨，与十六国时期深深的民族矛盾是分不开的。石勒大杀晋朝宗亲是一次，而这一回又是一次，在整个十六国时期，这样的大杀戮还会有很多次。）靳准自称大将军、汉天王，他觉得自己作为汉人，消灭了胡人的政权，定会得到汉人政权晋的支持，于是又向晋称藩。
靳准经过宫中的一番争斗后终于获胜，但却将自己变成众矢之的，而他好像还没意识到自己在军事上根本抵挡不住他的对手。正当靳准在宫中大肆杀戮的时候，两支精锐的部队正由刘曜和石勒率领，分别从长安和襄国，向平阳进发。
