东汉时期，北匈奴西迁的速度加快。公元46年，匈奴境内发生了大规模蝗灾，畜牧业严重受到打击，乌桓乘机进攻，使得匈奴分为了南北两部。公元87年，匈奴遭到周边的丁零、鲜卑的围攻，于是汗国瓦解，部落叛离。公元89年，东汉派遣窦宪破北匈奴于稽落山，公元91年，汉将耿夔又破北单于于金微山。此时的匈奴无法在漠北立足，于是选择西迁。
北匈奴西迁的第一站是乌孙。《后汉书》 记载："北单于为耿夔所破，遁走乌孙"。也就是说，北匈奴在公元91年后，西迁攻破了乌孙国，占据其地，后来再此建立了悦般国，一直到158年，匈奴还在西域活动。从158年之后，汉文献就中断了对北匈奴的记载。在158年之后，受到鲜卑的排挤，北匈奴又逐渐西迁到了康居一带，也就去过去郅支单于活动的坚昆国一带，大概在今天的吉尔吉斯草原地带。
北魏时期，北匈奴又西迁到了粟特一带，也就是奄蔡之地，大约在咸海以西的地方。北匈奴派遣使者到北魏为公元445年，可以推算出匈奴大约在360年占据奄蔡。
随后匈奴继续向西挺进，进入了黑海北岸，开始被欧洲历史学家记载。阿米安记载到"匈人，这一鲜为古代作家所知的民族，居住于亚述海附近的冰冻海洋"，这里的冰冻海洋也就是黑海一带。但是在西迁的过程中，北匈奴的族群不断加入塞种人、西徐亚人、伊朗族群等新的族群，导致其主体都可能发生了巨大的变化，演变为了匈人。
