为了报复汉朝，匈奴加紧了南下侵扰的步伐。公元前128年，匈奴铁骑再度南下，汉武帝命将军卫青、李息出击，斩杀数千匈奴兵。公元前127年，武帝再次命卫青、李息出击匈奴，收复河南地（今黄河河套地区），但匈奴不甘放弃河南地，展开疯狂反扑。武帝于是决定组织一次大战役以击垮匈奴。公元前123年，在漠南之战中未满十八岁的霍去病主动请缨，亲率八百骑兵在茫茫大漠里奔驰数百里寻找敌人踪迹。结果，他独创的长途奔袭遭遇战首战告捷，斩敌两千余人，霍去病也成为汉军楷模。在取得漠南战役胜利之后，汉武帝决定发起河西（河西走廊）之役。
公元前121年三月，河西之役打响，骠骑将军霍去病亲率一万骑兵从陇西出发，渡过黄河，翻越陡峭山岭，穿越扁都口，他转战六日如神兵天降，直捣匈奴地，敌八千多人，缴获休屠王的祭天金人，驱匈奴于千里之外，将河西走廊纳入汉朝版图。为进一步巩固对河西走廊的占领，武帝在这里先后设置了武威、九泉、张掖、敦煌四郡。匈奴接连丢掉焉支、祁连二山十分悲痛，他们唱到"亡我祁连山使我六畜不蕃息；失我焉支山，使我嫁妇无颜色。"其后大量匈奴兵投降汉朝，匈奴国遭到毁灭性打击，从此河西走廊无匈奴踪迹。
河西之战之后，汉武帝想要解决漠北匈奴主力。公元前119漠北之役，武帝集结十万骑兵，由卫青、霍去病分领，又征调数十万步兵转运粮草。此役，卫青、霍去病双双取得大捷，共消灭匈奴将近九万人，霍去病封狼居胥山，临翰海（今俄罗斯境内贝加尔湖）而还。漠北匈奴主力丧失殆尽，残兵败将远遁逃命不敢再战。
