一时间，邺都城内汉人纷纷拿起武器追杀胡族，冉闵亲自带兵击杀邺城周围的胡人，三日内斩首二十余万，尸横遍野，同时冉闵还扬言要六胡退出中原，"各还本土"，否则就将其统统杀绝。
各胡深惧其下场将如同羯族与白奴人，组成联军连番围攻冉魏政权。面对胡族联军的疯狂反扑冉闵沉着应战 ：首战以汉骑三千夜破凶奴营，杀敌将数名，逐百里，斩凶奴首三万；再战以五千汉骑大破胡骑七万； 三战以汉军七万加四万乞活义军破众胡联军三十余万；四战先败后胜以万人斩胡首四万；五战以汉军六万几乎全歼羌氐联军十余万；六战于邺城以一二千刚组织的汉骑将远至而来的胡军七万打的溃不成军。各地汉人纷纷起义响应，开始对入塞中原的数百万胡族展开大屠杀，史载"无月不战，互为相攻"，一举光复山东、山西、河南、河北、陕西、甘肃、宁夏。
迫于冉闵和诸路中原汉军的武力威胁,氐,羌,匈奴,鲜卑数百万人退出中土，各自返还陇西或河套草原一带原来生活的地方,一些胡族甚至从此迁回万里之外的中亚老家。在返迁的路上这些不同民族的胡族相互进攻对方,掠杀对方,抢食粮食，甚至人肉相食,能成功回去的人十个人中仅有二三人。
