为了对付海都、都哇的反叛,加强对西域的控制,忽必烈采取了一系列军政措施。他令皇子北平王那木罕出征阿力麻里(今伊犁霍城县),并建阿力麻里行省,统辖伊犁地区。1281年改畏兀尔断事官为北庭都护府。接着在别失八里行省之下设置了别失八里、哈喇火州(吐鲁番)、斡端三个宣慰司,统管南、北疆的政务。1282年设阿力麻里元帅府,领天山北路;后又设别失八里元帅府,领天山南路。1295年,又设曲先塔林都元帅府(库车、塔里木附近)、北庭都元帅府,分统天山南北军务。
除了设置上述机构,元政府还采取了如下一些管辖西域的措施,如设驿站,以加强情报和号令的传递;定赋税,令畏兀尔境内计亩纳税;设交钞库,管理流通的钞票;设提刑按察司,掌管刑狱;设哈赞忽咱,主管户籍。
元朝末年,察合台汗国分裂为东西两部。东部以阿力麻里为中心,包括喀什、吐鲁番一带;西部以撒马尔罕为中心,统治河中地区。西域绝大部分地区在东察合台汗国统治之下。
1368年,朱元璋称帝,建立了明朝。东察合台汗国同明朝保持着友好关系。明朝为了统辖西域,1406年在哈密设卫。哈密卫是明朝在西域建立的行政、军事机构。明朝还册封西域各部首领为王,如哈密王、别失八里王、吐鲁番王、瓦剌王等,并任命西域各部头目为本部的都指挥、都佥事等官,管理本部行政事务。
东察合台汗国时期,1456年,克烈汗和贾尼别克汗率领哈萨克人在楚河流域建立了哈萨克汗国,都城为土尔克斯坦城,哈萨克族在楚河、塔拉斯河流域形成。后来哈萨克人及其分布地区分三个玉兹,大玉兹分布于巴尔喀什湖南部及伊犁河到锡尔河之间的广阔地区;中玉兹分布在大玉兹之北,即巴尔喀什湖西北草原地带;小玉兹分布在今哈萨克斯坦西部。中国的哈萨克族是大玉兹和中玉兹的部落,主要分布于现在的伊犁、塔城、阿勒泰地区。
明朝中叶,东察合台汗国演变为叶尔羌汗国。明末清初,蒙古族按照主要部落及其分布地区,分为漠南察哈尔蒙古、漠北喀尔喀蒙古和漠西卫拉特蒙古。卫拉特蒙古又分为四部,即游牧于伊犁一带的准噶尔部,游牧于乌鲁木齐附近的和硕特部、游牧于额尔齐斯河流域的杜尔伯特部和游牧于塔尔巴哈台地区的土尔扈特部。
卫拉特蒙古准噶尔部逐渐强大起来,迫使土尔扈特部、和硕特部迁出天山北麓,又迫使杜尔伯特部降服,从而占据了整个天山以北地区。当时叶尔羌汗国的黑山派和卓与白山派和卓为争夺政权而进行着激烈的斗争。
1671年,噶尔丹掌握了准噶尔部的政权,白山派的首领阿帕克和卓被驱逐出喀什噶尔,他向噶尔丹求援。1678年噶尔丹出兵天山南路,攻占叶尔羌城,叶尔羌汗国名存实亡。从此,天山南麓成了准噶尔部的属地。噶尔丹把政治中心由塔尔巴哈台(塔城)迁到伊犁河谷。
在野心勃勃的噶尔丹率领下,准噶尔部像是头草原野狼,露出了锋利的獠牙,长嚎着四处出击,让蒙古各部心惊胆寒,甚至威胁到大清的长治久安……