次年,扬州都督毋丘俭 、扬州刺史文钦起兵反对司马师。司马师亲率大军前去讨伐,和毋丘俭 、文钦的军队对峙、相持。因兵力单薄,毋丘俭军大败亏输,二人乘乱逃逸,毋丘俭在逃亡路上死于乱军中,文钦逃奔吴国。
在平定毋丘俭之乱时,司马师本已有伤在身,因关系重大,不得已带伤亲征。得胜后,刚一班师回到许昌就死了。他的弟弟司马昭接替其位。
两年后,新继任的扬州刺史诸葛诞(诸葛亮族弟)又起兵讨伐司马昭。这一次,诸葛诞吸取了以往两次起事的失败教训,他知道司马昭权力已稳固、兵雄势大,不容易凭武力战胜他,所以事先暗中和东吴取得联系,争取外援,并采取守势,坚守不战。