长大一些后，李陵先后担任侍中、建章监，被汉武帝认为很有李广的风范，于是武帝''使将八百骑，深入匈奴二千余里，过居延视地形。''
轻松完成地形勘测任务后，李陵被汉武帝派到酒泉、张掖训练士卒，以应对匈奴可能的进犯。
天汉二年（前99），汉武帝指派李广利进攻匈奴右贤王，而李陵则被任命负责押运粮草。听到自己的任命后，李陵难以接受只作为后勤部队，于是请求道：''臣愿以少击众，步兵五千人涉单于庭。''
听到李陵的话，汉武帝不禁想起了十余年前英年早逝的霍去病，于是他当即同意了李陵的请求。
就这样，李陵带着自己精心训练的五千步兵从居延出发，经过三十天的跋涉来到了浚稽山。然而没过多久，单于率领着作为主力的三万匈奴精骑也来到了浚稽山，面对强敌，李陵临危不乱，先是用大车围成军营，再派盾兵戟兵在前、弓兵弩兵在后。
