在甘肃一省境内同时存在四、五个国家，今天看来简直不可思议，在十六国后期却的的确确是事实。这五个国家分别是吕氏的后凉（甘肃中部）、乞伏氏的西秦（甘肃南部）、秃发氏的南凉（甘肃西南部及青海东北部）、沮渠氏的北凉（甘肃中西部）和李氏的西凉（甘肃西部）。
吕光死后，几个儿子之间的争斗便爆发。他的侄子吕超劝嗣位的吕绍除掉握有兵权的吕纂，吕绍抱着吕光的遗命不放，坚持不肯。吕纂、吕弘兄弟就没那么客气，两人私下里一拍即合，率军攻入宫廷，吕绍被逼自杀，吕纂以庶长子的身份夺取了天王之位，改元咸宁。不久，吕纂、吕弘又彼此拥兵自疑，在宫中大打出手。吕弘战败，出逃后被抓回处死。
吕纂给内乱中与他作对、而后外逃的吕超等人官复原职，暂时稳定住国内形势，也埋下了定时炸弹。他一心想着攻伐外敌，其目的应该是提高自己的威望，但后凉兵在咸宁二年（公元400年）与南凉的“希望之星”秃发傉檀的对抗中吃了败仗，吕纂的威望不升反降。据守张掖的段业于一年前自称凉王，建立了北凉政权。这还不算，更西面的敦煌太守李暠又在这一年脱离北凉，也自称凉公，这就是西凉。
李暠是北方各政权统治者中极少有的汉人之一，他的出身没有太大的疑问，他是西汉名将李广的十六世孙。他的先祖在汉初奉命到陇西讨伐叛乱的羌人，不幸战死，后人前来奔丧，将他葬于陇西，并将全家迁到这里。李暠的家族从汉朝到晋朝，一直是凉州的大族。祖父李弇在前凉张轨的手下做到将军、侯爵，相当不容易。父亲李昶也很有名气，只是死得早，李暠是他的遗腹子。
李暠年纪轻轻，就文武双全，喜欢结交名士，与郭黁以及异父同母的弟弟宋繇志同道合，众人一致看好他会有一番作为。
段业、沮渠蒙逊起兵的时候，李暠也与宋繇等人响应。段业任命李暠做效谷（今甘肃敦煌西）县令。不到一年，敦煌太守孟敏去世，李暠又被推为敦煌太守。
段业自称凉王，他的右卫将军敦煌人索嗣想取代李暠，担任敦煌太守，在段业面前竭力构陷李暠，段业最后让索嗣去取代李暠。索嗣带着五百个骑兵，从张掖赶往敦煌赴任。在离城二十里处，得意忘形的索嗣给李暠写了封信，让他前来迎接。
李暠惊疑之际正欲前往，被宋繇和效谷令张邈劝止。他们说：“吕氏衰微，段业暗弱，正是英豪有为之时。将军既已据有敦煌之地，岂可轻易拱手送人？索嗣是个怎样的货色，将军可一战擒之。”
李暠早有野心，只是担心自己虽系陇西大族，毕竟不是敦煌当地人，吃不准敦煌名门大户的态度，如今见到身边的敦煌士人领袖都明确地表示支持自己，顿时信心倍增，回答说：“我这人向来没有叱咤风云之志，受了委派来此为官，没想到竟得到大家的拥戴。刚才准备出迎，实在是因为不知道你们的心意。”
于是，李暠在宋繇、张邈等人的支持下，乘索嗣没有防备，出兵击败了索嗣。索嗣逃回张掖，李暠又上书段业，历数索嗣的罪状。沮渠男成也因与索嗣关系不好，乘机怂恿段业除掉索嗣。无主见的段业不仅杀了索嗣，而且还专门派使臣到敦煌向李暠表示慰问，提拔李暠为都督凉兴以西诸军事、镇西将军。
李暠控制的地盘在段业的“支持”下不断扩大。北凉的晋昌太守唐瑶跟着背叛段业而支持李暠，传檄敦煌、酒泉等六郡，推举李暠为大都督、大将军、凉公。李暠下令大赦境内，改元为庚子，建立起一个类似前凉的汉人政权。
李暠的独立几乎是段业一手促成，段业这个懦弱书生作为领袖人物，表现实在差劲。沮渠蒙逊看出此人不足与谋，决定取而代之。段业任命的张掖太守马权有勇有谋，与蒙逊争权。他就在段业面前说些马权的坏话，事情果然进展顺利，段业杀了马权，为他排除掉一个障碍。
沮渠蒙逊想与堂兄沮渠男成联手，对他说：“段业愚暗庸碌，够不上做个君主的资格，我想除掉他，推兄长为主，怎么样？”
男成没这兴趣，回答说：“段业本是孤客，是我拥立为君主的，靠着我们兄弟，才如鱼得水。人家亲信我们，我们却要背叛人家，这可不行。”
沮渠蒙逊没得到支持，却不愿作罢，竟想出一招毒的！他在北凉天玺三年（公元401年）四月，约男成一同去祭告兰门山，在暗中却派人告诉段业说：“男成准备发动变乱，如果他请求祭告兰门山，我的话就可以应验。”
到了那一天，男成当然向段业提出要去祭拜，段业就派人抓了男成，命他自杀。男成说：“沮渠蒙逊先前曾和我商量谋反，因为他是我兄弟我没有把他告发。如今又因为我在，担心部众不听他的，才约我祭山，反诬我谋反，他这是想借大王之手杀掉我。大王不如假说我已被处死，沮渠蒙逊必然起兵反叛。那时我再奉大王之命讨伐，就可以无往不胜了。”段业不信，还是杀了男成。
沮渠男成一死，蒙逊便到自己的部众面前哭着说：“男成忠于段业，竟被段业无故杀害。当初之所以推举段业，是把他当作陈胜、吴广一样的人物，他却听信谗言，滥害忠良，我们怎么可以再忍耐下去？”
男成平时深得部众拥护，部众为了替男成报仇，都跟随蒙逊讨伐段业。不少匈奴人，羌人起兵响应，蒙逊走到氐池（今甘肃张掖一带），手下的部众人数已超过了一万，段业手下的一些将领也归顺了蒙逊。
