居于漠北的北匈奴连年天灾，又不断受到南匈奴、乌桓、鲜卑的攻击，实力大为下降。公元89年，东汉窦宪大破匈奴，经过几年的战争，北匈奴被驱赶到天山南北，经过汉军的不断打击，160年北匈奴被赶到康居国一带，以后不知所踪。
南匈奴在曹操时被分为五个部安排在陕西、山西、河北居住，每个部以匈奴人为都尉管理，汉人任司马监督。
西晋八王之乱时，匈奴人刘渊建立前赵，后被羯人石勒所灭；匈奴人与乌桓、鲜卑的混血后代为铁弗人，铁弗人赫连勃勃407年在关中建立大夏国，后被北魏灭；融入匈奴人的月氏人称为卢水胡在甘肃建立西凉国，后被北魏灭，一部分人到西域建立高昌北凉，后被柔然灭。一小支匈奴人进入辽东半岛，融入宇文鲜卑。
从此匈奴人融入各民族，消失在历史之中，五胡乱华和南北朝成为盛极一时的匈奴人在中国历史舞台上谢幕演出。
