消息传回长安，汉武帝怒不可遏，马上召集军队，准备进攻大宛。司马迁在《大宛列传》中详细说明了进攻大宛的准备情况，而且着重强调了选择将军的原因"欲侯宠姬李氏，拜李广利为贰师将军。"这个李广利的姐姐受汉武帝宠幸，汉武帝想给她点好处，便让其哥哥李广利做了将军。抛开选将这一可笑的标准不说，汉朝当时国内是什么情况呢，"是岁太初元年也，而关东蝗大起，蜚西至敦煌"，正是蝗灾严重之际，农业生产遭到严重破坏之时。
公元前104年，数万军队召集完毕，李广利为统帅将军出兵大宛。结果怎么样呢？汉军进了西漠，粮食供应不足，加之小国对于汉军没什么好印象，都拒绝提供粮食。没办法，李广利只好一路打过去，攻下城池取得粮食，虽说这样，依旧吃了上顿没下顿。到了大宛，汉军仅剩下十分之一左右，走了半年多。自己察觉攻不下大宛，李广利也服软了，公元前103年，李广利带着残兵败将回到了敦煌。对大宛的第一战，以失败告终。
公元前102年，汉武帝决定再次讨伐大宛。为了保证军队人数，汉武帝赦免大量囚徒，征用大量不良少年，同时调动边境骑兵。此次集结的军士有6万人，还有大量后勤人员。汉武帝吸取上次少粮教训，给这支军队配备大量物资，光是牛就10万多头。这次战争几乎是动用了全国的力量，但依旧让自己的舅子李广利带兵。
