《魏书》卷九五《羯胡石勒传》云："其先匈奴别部，分散居于上党、武乡、羯室，因号羯胡。"也就是说，历史上的羯族是匈奴别部，也就是说是匈奴从其他地方带来的附属部落。属于白种人，信仰沃教，与匈奴不是一个种族。
后来研究他们其实就是康居人，康居是一个中亚游牧民族，活动范围主要在今哈萨克斯坦南部及锡尔河中下游。也有学者认为，康居是匈奴附属，因此，在匈奴征兵的时候，康居贡献出了自己的一个附属部落索格底亚那人，这些人才是真正的羯族。或者是这两个民族的统称。
索格底亚那人是一个来自伊朗的古代民族，活动在阿姆河和锡尔河之间。这也符合古代记载羯族高鼻深目多须、崇祆教的形象。
