汉武帝即位，申明和亲的规定，宽厚地对待匈权，互通关市，赠送大量财物。匈奴从单于到平民都亲近汉朝，往来于长城之下。
元光二年公元前133年春，汉武帝下诏问公卿说："朕曾装饰美女以配匈奴单于，金币文绣赏赐甚厚，而单于承诏之后表现傲慢，侵掠不已。边境被害，朕深感不安,今想发兵攻讨，众卿以为如何?"，大行王恢建议应该出击。
汉朝以出卖马邑城为诱饵，派御史大夫韩安国为护军将军，卫尉李广为骁骑将军，大仆公孙贺为轻车将军，大行王恢为将屯将军，大中大夫李息为材官将军，将三十万众屯马邑谷中，想引诱单于进塞，出其不意地发起攻击。
匈奴单于贪恋马邑城的财物，并不知其中有诈，率十万骑兵侵入武州边塞，单于入塞后，发觉有异立即退走，马邑城设伏失败。因此，匈奴断绝了和汉朝以往的和亲关系。
元光六年，匈奴侵入上谷掠杀吏民，汉武帝派车骑将军卫青兵出上谷，骑将军公孙敖兵出代，轻骑将军公孙贺出云中，骁骑将军李广出雁门。卫青至龙城，斩获敌首七百级。 公孙敖与李广因指挥失误受挫而回。
第二年秋天，匈奴两万骑兵侵入汉朝，汉朝派将军卫青率三万骑兵走出雁门，李息率兵逼出代郡，攻打匈奴，杀死和俘虏匈奴数千人。
元朔二年，这年是汉武帝抗击匈奴具有标志性的一年，卫青率军到达云中郡西边及西部的陇西一带，在黄河河套南岸地带攻打匈奴属下的楼烦和白羊王，杀死和俘虏数千人，大获胜利。
夺取了黄河河套南岸地区，并修筑朔方城，把从前秦朝蒙恬所修建的关塞重新修复，这样以黄河作为坚固的防线抗击匈奴。同时汉朝也放弃了上谷郡的曲折僻远的县如造阳一带给匈奴。
元狩四年， 骠骑将军霍去病率军走出代郡两千多里，同匈奴的左贤王交战，霍去病杀死和俘虏匈奴共七万多人，左贤王与其将军都逃跑了。骠骑将军便在狼居胥山祭天，在姑衍山祭地，举行封禅之礼，直到翰海才回师。
此后，匈奴向远处逃走，大沙漠以南没有匈奴的王庭。汉朝军队渡过黄河，从朔方向西直到令居，常常在那里修通沟渠，开垦田地，有官吏士卒五六万人，渐渐蚕食北方土地，地界接近匈奴旧地以北。
后来，由于汉朝要平定南方的南越和东越，无暇在于匈奴交战。
霍去病、卫青两位将军大规模地出兵围攻单于，杀死和俘虏八九万人，此后，匈奴向远处逃走，大沙漠以南没有匈奴的王庭，
高祖无奈的和亲，吕后时期的屈辱，汉文帝时的隐忍，在汉武帝时期终于报仇了。西汉建国以来近百年的匈奴边患问题基本解除了。
