349年，石虎病死，后赵内乱，冉闵乘机进攻，在后赵大司马李农的支持下，冉闵得以进入邺城灭后赵。冉闵进入邺城后，宣布"与官同心者住，不同心者各任所之。"于是出现了羯族纷纷出城，汉人悉数进城。于是冉闵认为羯族靠不住，于是下达"杀胡令"，不管贵贱男女老幼，一律斩杀，共杀二十余万人。就连和冉闵合作的李农也被冉闵杀害。
冉闵还规定其他少数民族必须迁回边地，这引起了中原世居少数民族的反对，于是自己的统治基础越来越孤立。《晋书》记载冉闵下令"青、雍、幽、荆州徙户及诸氐、羌、胡、蛮数百余万，各还本土，道路交错，互相杀掠，且饥疫死亡，其能达者，十有二三。诸夏纷乱，无复农者。"设想一下，如果美国强制黑人迁回非洲会引发什么样的动荡。
冉闵的主要支持者是汉族，但是他后来的政策也并未得到汉族的支持。他在中原世家大族的支持下，在邺城称帝，建立魏国，史称"冉魏"。冉魏建立后遭到周边各族的攻击，于是试图联合东晋共同出兵，但是东晋君臣发现冉魏称帝，于是置之不管。
