外戚的身份只能给霍去病挣来立功的机会，并不能直接给他功劳和荣誉，他的战功都是凭借自己在战场上拼出来的。霍去病初生牛犊不怕虎，第一次出征就带领800人深入大漠数百里，杀敌2028人不说还活捉了匈奴单于的叔叔。霍去病打仗不拘古法，通过长途奔袭和快速突袭，凭借两次功冠全军的，被汉武帝亲封为"冠军侯"。时至今日，我们依旧会将比赛中的第一名叫做"冠军"。这一战让霍去病的军事才能展现得淋漓尽致，因此在不久之后他便有了指挥大兵团作战的机会。
元狩二年（前121年），19岁的霍去病先后两次出征匈奴。第一次率一万骠骑出陇西，6天中奔袭一千多里，歼敌约9000人，还缴获了匈奴祭天的金人，堪比汉人的九鼎。第二次出征霍去病再次带领大部队孤军深入，歼敌超过3万人。不仅俘获了众多匈奴贵族，还打得匈奴的浑邪王率众归汉。霍去病的这一战，让大汉的统治范围扩张至河西一带，为后来领略西域扫除了障碍。失去了祁连山的匈奴人也为此悲歌道："失我祁连山，使我六畜不蕃息；失我焉支山，使我嫁妇无颜色。"
