公元前99年，贰师将军李广利率领三万骑兵出击攻打匈奴，李陵也率领一支5000人的步兵协助出战，原本汉武帝是让李陵负责粮食运输的，但李陵与他爷爷李广一样，不愿意做辅佐工作，更愿意上战场与匈奴人打仗，而且李陵率领的5000人是丹阳楚人，是教边境军队射箭的军官教导人员，这支军队的战斗力非常强。
李陵率领这5000步兵从居延(今内蒙古额济纳旗）进入大漠，向北走了上千里，在浚稽山（今新疆与蒙古国境内的阿尔泰山）附近遇到了匈奴单于及3万骑兵，匈奴兵力是汉军的6倍，而且汉军是清一色的步兵，理论上无法与匈奴骑兵作战，更不可能取胜，在远离汉朝上千里的境外，李陵外无援兵，只能靠自己迎战匈奴人。
浚稽山之战
李陵用战车结成营寨，然后以步兵在营外结阵，阵前排士兵手持长戟与盾牌，后排士兵手持弓和弩，以前排长戟、盾牌抵御匈奴的骑兵冲击，以后排弓和弩大量射杀匈奴骑兵，匈奴3万骑兵被射杀数千人，而且完全攻不下汉军阵地，然后匈奴单于又调来援军合计8万人围攻李陵，匈奴军队数量已经是汉军的16倍了。
但是，匈奴人发现仍然攻不下汉军营阵，匈奴骑兵又被射杀3000余人，由于匈奴人太多，李陵边战边退，并寻找有利地形，李陵将匈奴人引入树林，在林中又射杀了数千人，匈奴骑兵马李陵团团包围，连续十余天进攻，又被射杀2000多人，最后李陵被迫退入山谷，汉军人员损失了2000人，50万只箭矢用尽，只能以近战兵器迎敌，这样就处于绝对劣势了。
