李陵年轻时担任侍中、建章监。善于骑马射箭，对人有仁爱之心，谦让下士，名声很好。汉武帝认为他具有李广的风范，命他率领八百骑兵。李陵曾深入匈奴二千余里，越过居延侦察地形，未遇到匈奴顺利返还。后升为骑都尉，带领精兵五千，驻在酒泉、张掖等地教习箭术以防卫匈奴。
天汉二年(公元前99)，汉武帝派遣自己的爱妃之兄、贰师将军李广利率骑兵三万出征匈奴。时为骑都尉的李陵主动请缨，带领自己亲自训练的五千名弓箭手独立行动，从侧面协助李广利的正面作战。但是主帅李广利没找到敌人，李陵一部反而遇上了匈奴的主力。面对强敌，李陵将他的弓箭兵战术运用得出神入化、淋漓尽致。他以辎重车环列为营，命令前列士兵持戟盾防守，后列士兵发弩箭进攻，趁匈奴被射退时再挥兵追击，杀敌数千人。
匈奴单于震惊于汉军的勇猛，紧急征调骑兵，将兵力增至八万。李陵以他卓越的军事才能，率领汉军在十余天内转战几百里，以这孤立无援的几千名弓箭手对抗八万匈奴骑兵，且战且退。在退到临近汉界时，已斩杀敌军一万余人，自己兵力还有三千多，并且一度用连弩突射匈奴单于，使单于狼狈逃走。
就在单于准备放弃这一支难以战胜的汉军时，汉军一名小军官因受校尉欺侮而投降匈奴，将汉军手无余箭前无援军的底细告诉了单于："陵军无后救，射矢且尽!"单于大喜全军合攻汉军。汉军一天之内将剩余的五十万支箭全部用尽，最后矢尽援绝。李陵率兵突围不成后，长叹了一声："无面目报陛下！"就放下长剑，降了匈奴。匈奴单于得到他如获至宝，将自己的女儿嫁给了他。
