首次出兵，霍去病以其过人的气魄胆识，凭八百轻骑斩首匈奴2028名，得皇亲国戚若干，汉武帝非常高兴，封霍去病为"冠军侯"，表示他勇冠三军，年纪轻轻的霍去病成为了大汉的英雄。然而这场以少胜多的战役，不过是霍去病赫赫战功的序幕。公元前121年，19岁的霍去病获封骠骑将军，两次出兵河西，斩杀数名匈奴王，俘获大量匈奴贵族，缴获匈奴祭天金人。
霍去病恩威并重，稳定住局势，顺利招降浑邪王及其4万余众。汉军还向西打通，收复了整个河西走廊，打通了中原连通西域的丝绸之路。汉朝在那里设立了酒泉、武威等河西四郡。匈奴的势力受到重创，被驱赶到寒冷的漠北。从此以后，匈奴开始流传一句歌谣："失我祁连山，使我六畜不蕃息；失我焉支山，使我嫁妇无颜色"。
"封狼居胥"，是霍去病辉煌的顶点。公元前119年，汉武帝让霍去病和卫青各率骑兵5万，深入漠北，寻找并歼灭匈奴的主力。霍去病率军北进两千多里，与匈奴主力左贤王部接战。结果是歼敌70443人，还俘虏了匈奴屯头王、韩王等3人，以及将军、相国、当户、都尉等83人。霍去病这一战打得"匈奴远遁，而漠南无王庭"。
霍去病乘胜追击，一路追到了狼居胥山（今外蒙圣山肯特山）祭天，在姑衍山祭地，以昭示武功，因为相传这里是战神所居之地，史称"封狼居胥山，禅于姑衍，登临瀚海"。直到今天，"封狼居胥"都是华夏文化圈中对于一名武人的最高赞扬。南宋词人辛弃疾在《永遇乐·京口北固亭怀古》中有"元嘉草草，封狼居胥，赢得仓皇北顾"的句子，就用了霍去病的这个典故。
