雄关雁门，居"天下九塞"之首（《吕氏春秋》）。从战国时期的赵武灵王起，历代都把此地看作战略要地。赵置雁门郡，此后多以雁门为郡、道、县建制戍守。雁门关之称，始自唐初。因北方突厥崛起，屡有内犯，唐驻军于雁门山，于制高点铁裹门设关城，戍卒防守。《唐书·地理志》描述这里"东西山岩峭拔，中有路，盘旋崎岖，绝顶置关，谓立西径关，亦曰雁门关。"后经五代十国、宋、辽、金、元约四百余载。元朝设千户所，关城被毁。明代吉安侯陆享于洪武七年（1374）自监民工筑新关于旧关东北十里处的要道。南距代城县四十余里，北邻广武古城二十一里，地势更为险要。明末清初的著名学者顾炎武曾亲临此地。他写道"雁门重关，山峦在演，霞飞云举，两山对峙，其形如门，而飞雁出于其间。"该关城，周长二里，墙高二丈，石座砖身，雉堞为齿，洞口三重，曰东门、西门、小北门。东门上筑楼台，曰雁楼，门额嵌石匾一方，横书"天险"（即"天险"）。西门上筑有杨六郎庙，门额嵌石匾一方，横书"地利"（即"地利"）。小北门未设顶楼，但砖石结构，格外雄固。门额石匾横刻："雁门关"三字。洞门两侧镶嵌砖镌楷书检联："三关冲要无双地，丸塞尊崇第一关。"东门外北侧建有"靖边寺"祀战国时代的军事家赵将李牧。西门外右侧建有关帝庙。关城正北置有驻军营房，东南设有练兵教场。整个关城建筑，虎踞龙盘，雄伟壮观。明清以后，关城虽屡有重建。但随着我多民族统一国家疆域的逐步形成，内长城作为"内边"的作用已经失去，所属的雁门雄关也随之荒废。现在的关城仅在东门、西门、小北门三个门洞和靖边寺前的一对石狮，一副石旗杆，明镌李牧碑石一块，以及寺后的数株青松。
"牧用赵卒，大破林胡。"这是唐代散文作家李华所说的战国良将李牧的故事。史载，赵武灵王曾进行军事改革，胡服骑射，大败林胡、楼烦的入侵，建立了云中、雁门、代郡。后来，李牧奉命常驻雁门，防备匈奴。为免除匈奴对赵国边民的袭扰，他廉洁奉公，"市租皆输人幕府，为士卒费"，因而深得士兵的拥护。同时，坚持慎重防守的方针，凭长城之险，加强战备。他在雁门数年，"习射骑，谨烽火，多间谍。"使匈奴数岁无所得，而赵军则兵强马壮，愿为一战。此时，他才选用精兵良马，巧设奇阵，诱敌深人。"大破匈奴十余万骑。"其后十余年，匈奴不敢寇赵。后人称李牧为"奇才"，并在雁门关建"靖边寺"，纪念其戍边保民的战功。
秦始皇统一六国后，派遣大将蒙恬率兵三十万，从雁门出塞，"北击胡，悉收河南之地"（即河套地区），把匈奴赶到阴山以北，并且修筑了万里长城。当地人传说，蒙恬死后葬于代县境内。现在上门王村有一座蒙恬墓遗址，其断碑尚存，还可看清："秦蒙恬将军墓"，及"清嘉庆"等字样。据史学家考证，蒙恬墓在陕西境内，此地乃传说而已。
汉代的雁门，更是风云多变。汉高祖刘邦时期，匈奴曾南逾勾注，直驱晋阳（太原）。为此，公元前201年，刘邦亲率三十多万大军，抵达平城（山西大同），抗击匈奴。可惜，被匈奴用计诱入，困于平城白登山达七日之久，最后用重金财物贿赂了单于阏氏（匈奴王的妻子）才得以解脱。汉武帝继位后，面对匈奴不断猖狂的南犯，着手反击。汉朝名将卫青、霍去病、李广等都曾驰骋在雁门古塞内外，多次大败匈奴，立下汗马功劳。"猿臂将军"李广在做代郡、雁门、云中太守时，先后与匈奴交战数十次，被匈奴称为"飞将军"。一次，他出雁门，兵败被俘。在敌军两马之间的网兜里，他表面佯死躺下，心里却在等待机会。突然，他腾跃而起，将一胡兵推下马去，立即夺马取弓策马南驰数十里，复收余军，杀退追兵，安全脱险。正是由于汉武帝时期创建了强悍的骑兵抵住了匈奴的南犯，才得以保护中原先进的经济、文化的发展，换来了以后同匈奴的和睦相处。汉元帝时，有胆有识的王昭君就是从雁门关前簇后拥，浩浩荡荡，出塞和亲的。从此以后，这一带出现了"遥城晏闭，牛马布野，三世无犬吠之警，黎庶无干戈之役"的安定局面。
可惜，到了唐代，雁门古塞"胡"汉相争，群雄逐鹿，战事连绵。唐初，年事已高的薛仁贵为代州都督，镇守雁门。据说，突厥进犯云州时，薛仁贵曾率兵出击。阵前，突厥人喝问：唐将是谁？唐兵答曰：薛仁贵。突厥人以为薛仁贵早死而不信。仁资脱盔示面，突厥惊视失色，引兵而还。唐末五代，契丹（辽国）崛起于北方，危及内地。后晋石敬瑭向辽国自称"儿皇帝"，割燕云十六州与契丹。从此，在山西北部，雁门山就成为了后晋和契丹的分界线，雁门关也成为了中原王朝和少数民族地方政权相对峙的前沿阵地。
