不过，此时的匈奴还并不强大，它被夹在秦朝、东胡、月氏这些势力的中间，仅仅能勉强维持生存。后来冒顿杀死了自己的父亲头曼单于，并获得了"单于"地位，即最高首领之意。在冒顿单于的带领下，匈奴势力迅速扩张，成为当时北方当之无愧的霸主。
与此同时，中原王朝却发生了巨变，秦朝仅仅维持了十多年统治就被推翻，取而代之的是刘邦所建立的汉朝。
公元前200年，汉高祖刘邦亲自率军迎战进犯的匈奴大军，然而结果却是以汉军失败告终。无奈之下，刘邦只好采取了和亲政策，即每年赠送匈奴大量黄金、丝绸、粮食，同时汉朝皇帝还定期把皇室出身的公主嫁给匈奴单于为妻。此外，匈奴单于和中国皇帝在地位上保持平等关系，两位统治者在往来的外交文书中以"兄弟"相称。作为回报，匈奴单于承诺不再袭击汉朝。
可是，匈奴人的承诺却并不靠谱。尽管汉朝一直执行和亲政策，并不断增加给匈奴的岁贡，但匈奴却没有完全停止在汉朝边境进行劫掠的行动。每次和亲与和平协定都只能维持短短几年时间，然后匈奴人就会毁约进犯，并逼迫汉朝给予更多财物以换取和平。
