而这一时期的匈奴可以说是已经成为了中原王朝的心腹大患。在春秋战国时期，燕国就曾经修筑长城以抵挡匈奴人的入侵。而当时最早的中央政权是秦王朝，面对匈奴的袭扰，一方面秦始皇征发民夫，力主在北方修建了秦长城。而另一方面，命令蒙恬率领军队征讨匈奴，将其驱逐出当时较为富饶的河套地区。
根据《史记》记载：
秦已并天下，乃使蒙恬将三十万众北逐戎狄，收河南。筑长城，因地形，用制险塞，起临洮，至辽东，延袤万馀里。
而在两汉时期，可以说匈奴已经成为了当时汉朝的心腹大患。汉朝初年，因为楚汉争霸刚刚结束，民生水平处于低水平。而匈奴对汉朝北方疆域多有侵犯，汉武帝征讨匈奴，将其驱逐到漠南一带，分裂为五个部族。而在公元前119年，霍去病大败匈奴，封狼居胥，对匈奴造成了极其严重的打击。
