在汉军中，有一支由投降过来的游牧民族人员为主体的骑兵部队，这支部队是汉朝长期积累而来的。汉武帝以这支骑兵为主体，重建了汉朝的骑兵。这支骑兵先是由卫青率领，后来又交给了霍去病。他们在战争初期，虽然数量少，但是显示了惊人的战斗力。几百人就敢深入匈奴内地千里，给敌人沉重打击。
在霍去病这位天才的骑兵指挥官的指挥下，这支骑兵日益发展壮大。霍去病就是率领他们，收复了河套之地，并迫降了匈奴的几万人马。在吸收了匈奴投降的军队后，霍去病的骑兵更加强大。这使得霍去病的骑兵兼有匈奴和汉朝的长处，成为当时最强大的骑兵。
在这个时期，汉朝由于有先进科学技术和强大的国力支持，在武器装备上已经碾压了匈奴。匈奴的弓弩在射程和穿透力上都远不如汉军。在李陵远征的时候，李陵的五千步兵以弓弩打得十万匈奴骑兵走投无路。李陵最后失败是因为箭矢射尽所致，李陵当时说再有几十支箭就能够冲出重围了。
