司马炎建立晋朝以后，传国玉玺又到了晋朝手中，直到晋怀帝被俘，玉玺又归了前赵。接着经历后赵、冉魏，然后又回到了晋朝司马氏手中。南北朝的时候，传国玉玺再次过上颠沛流离的生活，直到隋朝建立，它才被送进皇宫里。
到了唐朝末年，传国玉玺又历经后梁、后唐，而就在后唐灭亡后，传国玉玺便从此杳无音讯。接下来的历任皇帝，都是一边找着传国玉玺，一边重新镌刻新玉玺，但不管再怎么刻，它的意义也无法超越前者。
在北宋哲宗时期，民间有人称找到传国玉玺，并进献给朝廷。朝中大臣经过多日研究和考证，均认为这是真的传国玉玺，不过也有很多人质疑，说这是朝廷故意为之，目的就是让人相信，宋朝皇帝是受命于天。
