霍去病21岁那年，汉武帝又命他与其舅舅卫青各率骑兵5万，分别出定襄和代郡，深入漠北，寻歼匈奴主力。霍去病率军北进两千多里，越过离侯山，渡过弓闾河，与匈奴左贤王部接战，歼敌70400人，俘虏匈奴屯头王、韩王等3人及将军、相国、当户、都尉等83人，乘胜追杀至狼居胥山，并在狼居胥山举行了祭天封礼，这就是史上有名的"封狼居胥"。"封"为祭天之礼，"狼居胥"为地名，是匈奴境内的标志性山脉。随及，又在姑衍山举行了祭地禅礼，兵锋直逼北海（今俄罗斯贝加尔湖）。
经此一战，匈奴被汉军在漠南荡涤，匈奴单于逃到漠北，"匈奴远遁，而漠南无王庭"。此战后，匈奴失去对东北地区的控制。霍去病于是徙居于东北的乌桓于上谷、渔阳、右北平、辽西、辽东五郡塞外，为汉侦察匈奴动静。汉朝要求其部落大人每年朝见，并置护乌桓校尉，使乌桓不得与匈奴交通。
那么，狼居胥山现在何处呢？狼居胥山就是现今蒙古国境内的肯特山，成吉思汗时称为不儿罕山，位于蒙古国北部中央省和肯特省。不儿罕山是蒙古帝国的发源地，为蒙古圣山。根据《蒙古秘史》，成吉思汗就葬于肯特山的起辇谷。
