曹操去世后，司马懿被曹丕委任为类似"治丧委员会秘书长"的职责，全权负责曹操丧事，算是熬出头了。他靠着曹丕赏识，官衔不断提升，不断接近实质兵权。曹丕于222年、224年两次伐吴，都以司马懿镇守许昌，并改封司马懿为向乡侯，次年又改任抚军大将军，领兵五千。曹丕不久驾崩，临终时命司马懿为四大辅臣之一。
魏明帝曹叡即位后，司马懿的个人事业随即蒸蒸日上。
天生一副阴阳脸的司马懿，征讨孟达前，为了稳住孟达，先写了一封充满善意的慰安信，令孟达放松戒备。然后，他麾动大军，用八天时间完成了对方以为需要一个月的路程，兵临城下，最终，孟达的尸身被传到京师。
司马懿征伐辽东公孙渊时，手段更是毒辣。为了树立威名，司马懿在确信自己有把握吃掉对方时，连投降机会都不给对方，最终，公孙渊战死在梁水边，司马懿大获全胜。
司马懿入城后，高举屠刀，下令把公孙渊伪朝廷里任职的所有公卿百官全部诛杀，各级官员以及军队里的将领被杀的有2000多人，城中15岁以上的男子无一幸免，前后多达7000余人（男子年十五已上七千余人皆杀之）。
司马懿不光对敌人残忍，对待自己的士兵也是毫不留情。
他大开杀戒的襄平城，即今天辽宁省的辽阳，当时天气严寒，随征军士衣衫单薄，他们见司马懿收缴了大量衣物，于是请求增衣御寒。众将认为：魏明帝给了我们一仓库的棉衣，完全可以分发给士兵们。但是司马懿的回答相当冷酷：这些是国家的财物，我作为人臣无权私自处置。("襦者官物，人臣无私施也"。)
魏明帝死后，齐王曹芳继位，司马懿与曹爽并受遗诏，共同辅政。一山不容二虎，具有魏国宗室身份的大将军曹爽，成功架空了司马懿，司马懿明升暗贬，成为太傅(皇帝老师)，不复握有兵权。为了彻底打消曹爽戒心，司马懿再次亮出了独门绝技：装病。
表面上，司马懿装出行将就木的样子，暗地里联络势力蓄养死士，伺机反扑。曹氏宗室因为长期被闲置，短期内难以聚拢强大的势力。
正始十年（249年），也就是辽东大战后的第11年，司马懿终于抓住曹爽兄弟麻痹大意的机会，发动了"高平陵政变"，以谋反的罪名，将曹爽及其党羽一网打尽。从此，掌控了曹魏的军政大权。
司马懿的成功，是阴柔奸雄战胜阳刚英雄的典范，他数十年如一日扮演着忠臣的角色，成功骗过了所有人，阴险可谓无出其右。正如李宗吾在《厚黑学》论《三国演义》人物厚黑之道时说，刘备皮厚，曹操心黑，孙权厚黑皆不够，唯独司马懿却是既皮厚又心黑。
