无论战国还是秦汉，雁门郡都是边郡，北方就是中原王朝最强大的敌人--匈奴。赵国名将李牧就"常居代、雁门"，抗击匈奴，西汉的飞将军李广也曾做过雁门郡太守，卫青、霍去病出击匈奴也把雁门郡当成北进的桥头堡。秦汉时雁门郡的郡治在山西省朔州市右玉县。到了东汉末年，由于北方边境凋敝，雁门郡的治所南移放在了广武，就是今天的代县附近。
西晋八王之乱，然后是五胡南下，大将刘琨为了拉拢鲜卑拓跋部，把勾注山北面的地盘送给后来建立的北魏的拓跋部。北魏孝文帝元宏极力汉化，假装南征，把文武百官连哄带骗拉到了洛阳，然后说朕要迁都洛阳。不过，留守旧都平城(山西大同)的太子元恂反对父亲的汉化政策，截断勾注山南北交通，筑关派兵镇守。这应该是雁门关的最早起源，雁门关这个名字在此时第一次出现在史书上。北魏明元帝元恪视察代北，"幸代，至雁门关，望祀恒岳"。由于时代久远，人们已经不清楚原来的雁门山在哪了，就想当然地认为雁门关附近就应该是雁门山，勾注山稀里糊涂就成了雁门山。
山西省南北狭长，山西北部有大同盆地和忻州盆地，两盆地中间被恒山山脉隔开，现在所说的雁门山(勾注山)是恒山山脉的西段。恒山山脉东接太行，西连吕梁，地势非常险要，但在雁门关附近高度下降，可以通行，是天然关卡。这样的地理条件使得雁门关的战略位置十分关键，古人称雁门关"外壮大同之藩卫，内固太原之锁钥，根抵三关，咽喉全晋"。
