234年，诸葛亮去世，司马懿此时任曹魏大将军，相当于武装部队总司令，坐镇长安，全面负责对蜀汉的战事。诸葛亮去世时司马懿正在五丈原前线，此时蜀汉发生内讧，魏延、杨仪争斗，司马懿其实是想趁势发起进攻的，《晋书》记载，司马懿"欲乘隙而进，有诏不许"。
也就是说，不是司马懿不想伐蜀或者不敢伐蜀，而是魏明帝不想。魏明帝是站在全盘的角度进行考虑的，因为除了蜀汉那边还有一个敌人孙吴，与蜀汉对峙日久，曹魏损耗也很大，需要修整一段时间，并不具备马上伐蜀的条件。伐不伐蜀不是司马懿说了算的，司马懿当然得听命令。
235年，司马懿转任太尉，仍负责军事并坐镇长安，他在这里一边备战一边发展经济，《晋书》记载："关中连遭贼寇，谷帛不足，遣冀州农丁五千屯于上邽，秋冬习战阵，春夏修田桑。由是关中军国有余，待贼有备矣。"
