作为曹丕的坚定支持者，司马懿得到的回报也是丰厚的。在曹丕成为魏王、特别是取代汉朝建立魏朝之后，司马懿的上升速度犹如火箭般，先后担任了丞相长史转尚书、御史中丞、侍中、尚书右仆射。黄初五年，任抚军将军、录尚书事，黄初六年加抚军大将军，在曹丕率大军远征时留守许昌，总掌后方的军政大权。曹丕在世时，堪称时司马懿活动最舒服的几年，身居高位，而且还不被猜忌。正是曹丕对司马懿的这份信任，才有了司马懿后来的顾命大臣的身份。
曹丕去世之后，刚刚即位的曹睿年龄尚小，因为担心曹睿应对不了吴、蜀两国。曹丕便安排了司马懿、曹真、陈群、曹休共同辅佐曹睿。此时的司马懿，其实是没有什么突出的政绩，也没有没有率大军作战的经历，他之所以能担任顾命大臣，完全是因为与曹丕关系好的缘故，所以他的地位是排在四位顾命大臣之末的。但是也正是在这段时间，司马懿开始展露出他优秀的军事才能。
