羯族的来源至今尚有争议，众说纷纭，汉武帝时，感到匈奴势大，独力难以对付，便派张骞为使者西出，前往西域联络匈奴的敌人月氏，月氏先强后弱，与匈奴是世仇，其时也经受不住匈奴的重击而西迁，"始月氏居敦煌、祁连闲，及为匈奴所败，乃远去"，待张骞千辛万苦联系到他们后，月氏人因为新得驻地，生活安乐，不愿再起战端而拒绝与汉朝联合攻打匈奴的建议。月氏与匈奴敌对时，互有胜负，抢货物掠人丁是常有的事。一些月氏人被匈奴抓去当奴隶，就是羯族的前身，经多年跟随征战，渐渐脱颖而出，成为匈奴的旁支。
在月氏的旁边有康居国，两个国家是同一人种，与匈奴时友时敌，汉武帝大败匈奴，汉宣帝接力，匈奴分裂为呼韩邪单于和郅支单于二大力量，呼韩邪向汉朝臣服。而郅支单于则向西扩展，被康居王接纳，安置在与乌孙国相邻的地方，联手对付乌孙，在此时期，应该也有康居人加入匈奴，羯族集两个国家的人而成，本是同一人种，都生得深目高鼻多须。《晋书》记载一件事，说后赵太子詹事孙珍曾患眼疾，请教侍中崔约如何治疗，崔约开玩笑说，泡在尿里就行。孙珍说，眼睛哪能浸得到？崔约说"卿目睕睕，正耐溺中"。
东汉时期，部分以匈奴人为主的少数民族主动归附汉朝，为了便于统治管辖，这些少数民族被不断地迁入内地与汉人杂居。而且相当数量的匈奴人被扩充到汉人的军队。这就为后来的五胡乱华埋下了诱因。
刘渊
