古代行军列阵，要依天文星象。用朱雀、玄武、青龙、白虎来代表四方之宿，朱雀为前为南方，玄武为后为北方，青龙为左为东方，白虎为右为西方。所以居于城北的门被称为玄武门，城南称为朱雀门。
用在军中时，前军宜迅捷，所以用朱雀来代表，后军用玄武。玄武又指龟蛇，龟有甲，能御敌，所以称为"武"；水色黑，所以称"玄"。
唐太宗时代的九成宫，到了唐高宗时代改名为万年宫，它的北门也称为玄武门。
史书中还提到过万年宫的玄武门：薛仁贵跟随唐太宗征辽，作战勇武，被唐太宗提拔为游击将军、云泉府果毅，负责守卫北门。不久又升他为右领军郎将，依旧守卫北门。
永徽五年，唐高宗去万年宫，正赶上大雨，一天夜里山洪爆发，直冲万年宫的玄武门，卫士们慌忙逃散，只有薛仁贵登门报警，护卫唐高宗离开，逃过一劫。
