随着匈奴的西迁，汉朝的灭亡，西域逐渐成为了真空地带。魏晋只是在高昌、伊吾等地设置机构，进行屯田，对于更远地区则不能控制。十六国时期的前秦大将吕光曾经远征西域，："
首先是柔然。5世纪，柔然在和北魏的战争中处于弱势，于是选择向西征服西域各国。460年，柔然征服了高昌，接着又征服了焉耆、鄯善、龟兹、姑墨等国。467年，于阗国王上书给北魏孝文帝，说明了当时西域的局："
其次是高车。高车是一支生活在贝加尔湖一带的民族，在汉朝称为丁零，北朝称之为铁勒、敕勒。487年，柔然可汗豆仑进攻高车，高车族在阿伏至罗的带领下，迁徙到了天山一带，建立了高车国。此后高车国走向强盛，不断南征焉耆、鄯善、龟兹、于阗等，与柔然争霸。后来高车和柔然平分了西域，其中高车控制了焉耆、鄯善等。高车还和北魏联合共同对付柔然。520年，高车击败了柔然，称霸西域。此后，柔然复兴，在540年灭了高车国。
