公元３７４年，匈奴在大单于巴兰姆伯尔的率领下，渡过了顿河，向东哥特人发动了进攻，东哥特人哪里是匈奴人的对手，经过奋战，依然惨败，一部分东哥特人只得向西逃窜，逃到了西哥特人那里，匈奴尾随其后，追击到西哥特人居住地。
欧洲人笔下画出的匈奴人
北匈奴退出蒙古高原
汉武帝对匈奴的猛烈反击，大伤了匈奴的元气。到西汉晚期，匈奴发生了分裂，呼韩邪单于率部归顺汉朝，而流窜到中亚与汉朝为敌的郅支单于也被汉将陈汤以"明犯强汉者，虽远必诛"为理由消灭掉了，汉匈关系从此走向和解。东汉初年，在匈奴贵族中反汉的势力重新抬头，导致匈奴再次分裂，南匈奴归顺汉朝，而北匈奴则坚持与汉为敌，经常发动对南匈奴和汉人的掠夺。
而当时东汉刚刚建立，国力还属于恢复期，因此，直到汉明帝时，才发动了对北匈奴的反击战。公元７３年，汉军四路出击北匈奴，窦固、耿忠的汉军一直追击到天山一带，并夺取了伊吾（今新疆哈密）。汉和帝时，又发动了针对北匈奴的反击战，公元８９年，窦宪、耿秉率领汉军大败北匈奴，一直追击到燕然山（今蒙古国杭爱山）。公元９１年，汉军再次出击北匈奴，在金微山（今阿尔泰山）大败北单于，北单于只得向西逃窜。至此，东汉对北匈奴的战争取得了全面胜利，而与汉为敌的北匈奴，则受到汉与南匈奴的合击，已无法在漠北蒙古高原立足，只得退出蒙古高原向西逃窜。
