公元前200年冬，刘邦率领西汉军队进入太原后连连获胜，韩王信的军队遭到重大创伤，其部下大将王喜被汉军杀死，韩王信则逃奔匈奴。匈奴单于冒顿派出左、右贤王各带一万多骑兵与韩王信的残部组成联军，企图阻挡汉军北进，结果被汉军多次击败。
汉军在连连胜利的情况下产生了麻痹大意的思想。刘邦在到达晋阳后，听说匈奴驻兵于代谷（今山西境内），于是派人去匈奴刺探虚实。此时冒顿将精锐士兵、肥壮牛马都藏了起来，只显露一些老弱病残的士兵和一些瘦弱的牲畜，前去侦察的十几批人回来都报告说可以出击匈奴，只有谋士娄敬侦察回来说不可攻打。娄敬的理由是：
"两国相击，此宜夸矜见所长。今臣往，徒见羸瘠老弱，此必欲见短，伏奇兵以争利。愚以为匈奴不可击也。"--《史记·娄敬列传》
刘邦听了娄敬的话大怒，骂娄敬是孬种，凭一张嘴才有了官做，能懂什么军事，还在此胡言乱语扰乱军心。于是将娄敬关押了起来，准备凯旋后再进行处罚，同时刘邦率轻骑先到达平城（今山西大同），此时的西汉大军还尚未赶到。
