但是距马邑城几十里的时候，单于发现沿途满山的牛羊在吃草，但是竟然没有一个放牧的人。于是感到很奇怪。就派人摸上烽火台，抓了一个亭尉。
在威逼利诱下，这亭尉说出了汉军伏击的计划，单于大惊之后又大喜，"我得到你这亭尉史不上汉天子的当，真是上天所赐"。我不杀你，封你为"天王"，赏你千两黄金！然后撤军跑了！
李广，公孙贺等将军埋伏几天后，不见单于到来，便主动追击，结果单于早跑没影了。最早发现单于逃跑的人还是大将王恢，但是此人胆小怕死，手上只有两万军队，不敢阻击单于，就故意延误时机。最终，汉武帝得知后，将王恢下狱，王恢也在牢中自尽。
自从"马邑之围"失败后，匈奴单于再也不愿和汉朝和亲，不断的派人骚扰汉朝边境，汉朝和匈奴之间出现了长达60余年的动乱，直到汉宣帝刘询时期，公元前72年，才彻底打得匈奴降服，在边境立下"定胡碑"，碑上刻文"凡日月所照、江河所至，皆为汉土！"。
至此，才彻底结束了匈奴犯汉的问题。
