彼时的司马睿虽贵为琅琊王，但他手中却并无兵权。所以，在西晋轰轰烈烈的八王之乱后，司马睿依附了受封于东海国的司马越。永兴二年，司马越起兵迎接晋惠帝，司马睿临危受命为平东将军留守邳下，随行的王衍和王导也被委以重任。正是从此时开始，繁衍于琅琊之地的王氏家族开始走上政治舞台。
当时，王导和王衍这些王氏子弟，都是司马睿在洛阳结识的朋友，以及嵇康之子嵇绍。因为，司马睿恭检避让的策略，洛阳不少有识之士都对其赞赏有加。王导算得上是琅琊的头等士族，而其族兄王衍更是当时有名的士族领袖。于是，有了这些世家大族的支持，司马睿逐渐在西晋政坛上站稳了脚跟。
永嘉元年，司马睿偕同王导等人南渡至建邺，使得晋朝的政治中心南移，史称"永嘉南渡"。此次南移后，以王导、王敦兄弟为代表的王氏家族，势力逐渐散布全国。当时，头号人物王导始终栖居枢机之地，而其兄弟王衍则主要负责征讨上游。最终，"王与马共天下"的局面开始显现。
建兴四年，刘曜围攻长安，晋愍帝被俘，西晋灭亡。次年三月，司马睿改元为建武，东晋正式建立。但需要注意的是，此时的司马睿还只是晋王位，并未称帝。建武二年，晋愍帝的讣告传到江东，司马睿才正式称帝。那时，东晋领土主要分布在长江中下游及珠江流域。
