当时内附的匈奴到了曹魏时期形成了所谓的"五部匈奴"，也就是匈奴内部分为五个部落，这五个部落还会有共同的首领，当然这个首领嘛，就基本上是武力说话了。比如后来反晋建立五胡第一个北方政权前汉的刘渊，他父亲刘豹就是凭借武力当上了五部匈奴的首领。
这五部匈奴在曹操时期可是被严防死守的。汉末乱世，曹操对匈奴人的管控可是一点也没放松，当时曹操派出官吏监视他们，稍有异动就以军队在其周围震慑。所以匈奴人也是老老实实，直到西晋时期都安分守己，而且长期内附让它们在文化上和汉人毫无二致，当时的匈奴刘渊长期生活在洛阳，与西晋文人交往密切（根据唐长儒先生的说法，刘渊为了给自己壮大声势还故意编造了和西晋上流门阀的故事）。但是西晋爆发八王之乱以后，这些匈奴人可是坐不住了。
由于西晋爆发了八王之乱，刘渊终于看到了机会，因为当时来讲，西晋对匈奴的政策十分残酷。所有内附的匈奴贵族都"降为编户"，他们"怨毒之心，甚于骨髓"所以刘渊趁西晋衰落发动部众起兵山西，很快就势如破竹，扫荡两京。而且由于匈奴与汉朝通婚，所以他也假汉朝之名，不过有趣的是，这似乎就是匈奴人的巅峰了。
刘渊虽然建立了前汉扫荡了西晋，他的继任者刘聪和刘曜在关中建立了庞大帝国，几乎可以说占据了天下四分之一，但是却被羯族人石勒所建立的后赵所灭。之后匈奴人的力量就土崩瓦解，虽然后来的赫连勃勃还建立过一个小国胡夏，但是似乎匈奴人就再也没有建立过什么大国，就像后来的辽国契丹一样，销声匿迹，无影无踪。
