在真正掌握大权之后,各地的武装以及中央的部分人依然效忠曹魏,并多次爆发叛乱。淮南叛乱时蜀汉和东吴曾相约进攻,给曹魏带来巨大的外部压力。但此时豪门世族已经掌握了曹魏的核心领导层,这不仅仅是司马一家。所以效忠曹魏的武将即便可以发动叛乱,也于事无补。
司马氏在篡夺曹魏并且初步巩固自己的统治以后。便开启了再一次统一天下的征程,首先被灭掉的是蜀国。当时蜀汉后主刘禅昏庸无道上下离心,而且实力最弱。司马动用20万军队兵分两路由钟会邓艾统领。后主刘禅开城投降,此后的30年里东吴与司马氏隔江相望,形成南北对峙。在这期间司马正式废除曹魏,建立晋国。并最终在公元280年灭掉吴国,重新统一。
公元265年司马炎承袭父王的爵位,最后逼迫魏元帝禅让给自己,国号晋,定都洛阳,改元泰史。建国以后确实采取了发展经济的一系列措施。由于当时晋国是在三个国家基础之上统一的天下,所以各地区的田制不同,司马炎实行有占田制,有互调制,更有占田荫客制以满足各地的实际发展需求,在太康年间也确实出现了繁荣的景象,史称太康之治。但是这更多的是因为息兵止战和土地政策获得小部分成功,基本的政治框架依然没有突破。