曹丕临终时，令司马懿与曹真等为辅政大臣，辅佐魏明帝曹叡。明帝时，司马懿屡迁抚军大将军、大将军、太尉等重职。明帝崩，托孤幼帝曹芳以司马懿和曹爽。曹芳继位后，司马懿先是遭到曹爽排挤，迁官为无实权的太傅。公元249年，司马懿趁曹爽陪曹芳离洛阳至高平陵扫墓，起兵政变并控制京都。自此曹魏军权政权落入司马氏手中。
263年司马昭灭蜀。266年2月8日，司马炎逼迫魏元帝曹奂禅位即位为帝，国号晋，建都洛阳，史称西晋 。280年，西晋灭孙吴而统一天下，但是和平稳定的局面只维持了短短的十一年（280年灭吴统一结束东汉末期和三国时期总共96年的大乱到291年八王之乱开始了长达298年的五胡十六国及以后的南北朝纷争）。晋惠帝继位后朝廷渐乱 ，领有军权的诸王纷纷争权，史称八王之乱。晋朝元气大伤后，内迁的诸民族乘机举兵，造成五胡乱华的局面，大量百姓与世族开始南渡。
311年六月，晋怀帝被汉兵俘虏到平阳，刘聪封他为"会稽郡公"，享受三司礼仪。313年初，刘聪大宴群臣，席间，命令晋怀帝穿上青衣行酒令取乐，致使晋朝的故臣悲愤不已，大声痛哭。刘聪十分不高兴。二月，刘聪就将晋怀帝和晋朝的旧臣10多个人一举杀害。晋怀帝被害的消息传到长安之后，太子司马邺举哀服丧，并且于四月即皇帝位，即孝愍皇帝，改元建兴。当时的长安城里住户不超过100，公私加起来也只有车4辆，文武百官既没有官服，也没有印绶。316年，汉军在大司马刘矅的统领下，向长安发起攻势。九月，汉军攻陷了长安的外城。在内无粮草、外无援兵的情况下，愍帝决定向汉军投降。晋愍帝亲自光着上身，乘着羊车出城向汉军请降。汉帝刘聪降愍帝为光禄大夫，封怀安侯。到此为止，西晋共经历司马炎、司马衷、司马炽、司马邺四帝，历时52年（265～316）而覆亡。北方从此进入五胡十六国时期 。
时任丞相的琅琊王司马睿受到王氏和中朝勋臣的一致拥戴，于公元317年三月在建业称帝，改建业为建康，史称东晋，据有中国南方的领土。汉地世族及平民陆续南迁，形成北方侨民和南方土著聚居的局面。东晋初期，皇权衰落，朝廷大权主要由世族掌握，由于军权外重内轻，朝廷控制力弱，不少方镇心怀野心，先后发生了王敦之乱、苏峻之乱及桓温专政 。虽然部分士族当权者有恢复之心，前后发动几次北伐，但是朝廷担心野心家借此扩张势力，大多消极支持。
