由于赵氏与智氏的"晋阳之战"，晋阳城经历了三年的水浸，到西晋时城池已严重损坏，也是此时晋阳城也经历了第一次大规模的修缮和扩建。经扩建后的晋阳城比原来大四倍，商贾云集，成为了"鸡犬之音复相接"的大都市。
南北朝北齐高欢被任命为大丞相后，便又着手营建晋阳。此后北齐45年的国运中，晋阳一直被视为高齐的重要割据地，不断的营建。据统计，北齐七位帝王，有五位继位于晋阳，更有一位崩于晋阳。可见，晋阳在北齐的地位。
隋末，李渊、李世民父子驻守太原郡，并以此作为起兵反隋之地。唐建立后，晋阳自然成了龙兴之地，历代帝王都先后回到晋阳"探视"，又大规模的兴建晋阳城。690年，武则天将晋阳定为北都，与国都长安、东都洛阳起名。此时的晋阳城不仅有壮丽的宫殿，还有其他各式各样的建筑，汾水从城下穿过，可行舟捕鱼，一派繁荣，是晋阳城规模最大、最兴盛时期。诗人李白曾称赞"天王三京，北都居一"。
五代十国，后唐、后晋、后汉和北汉，或发迹太原，或定都与此。一时间晋阳被称为"龙城"。面对这座千年的古城，周世宗柴荣和宋太祖赵匡胤曾多次讨伐，无功而返。宋太宗继位后，他先用军事压力迫使漳、泉二州节度使陈洪进和吴越国献土归降后，又动用武力解决割据太原的北汉。
