羯族在石勒带领下在北方建立了后赵政权，经常压迫屠杀汉人，他的继任者石虎更是有过之而无不及，还被史家称为"万世暴君"。期间他夺汉女五万入后宫肆意变态凌杀污辱之行，由于汉人的反抗，死者不计其数;从长安--到洛阳--再到邺城，沿途树上挂满上吊自杀的人，城墙上挂满汉人人头，尸骨则被做成"尸观"，恐吓世人，数万反抗将士的尸体被弃之荒野喂兽。血腥屠杀和残酷的民族压迫，北方汉人锐减至六七百万，造成赤地千里的景象。在他们所建立的后赵政权中，汉族几乎到了灭族的边缘。
他的继任者石虎更是有过之而无不及，还被史家称为"万世暴君"。石虎的养子冉闵后来夺权，下了一道诛杀胡人的"杀胡令"，此令主要是针对后赵的羯族。结果此令一出，数百万羯人都惨遭屠杀，几近灭族。
后来羯人又投奔了鲜卑人，在北魏朝廷效力。此后羯族又出了一个首领叫侯景，此人也是暴虐之徒。由他引起的侯景之乱给南朝带来了灭顶之灾。后被南梁大将王僧辩和陈霸先讨伐，侯景身死，手下数万部众也被屠灭，自此羯族这一民族从史书中消失匿迹。
不过现在经过先进的科技手段检测到，在俄罗斯境内生活着一群羯族人后裔，经过人口普查现存有1219人。
