当时，曹魏的国家安全形势比较严峻，东南方向要防备东吴，西北方向还要防备鲜卑。而恰恰在此时，主持对蜀汉作战的大司马曹真生病（历史上真实的曹真绝不是三国演义写的那么无能），于是魏明帝曹睿将司马懿从荆州调来，让其坐镇长安，统一指挥张郃、费曜、戴陵、郭淮等部，主持抵御蜀军。对于这次军事行动，魏明帝对司马懿给与了高度信任，称"西方有事，非君莫可付者"（《晋书·宣帝纪》）。司马懿接受重任后，即以主力救援祁山。鉴于当时的军事态势和蜀军特点，司马懿认为蜀军远道而来，粮食有限，于是将此战的战略目标定位为：凭险坚守，不与蜀军主力决战，逼退蜀军就算完成任务。
诸葛亮得知司马懿进军的消息后，留下一部继续进攻祁山，自己则亲自率军迎战司马懿。起初，司马懿部将郭淮、费曜等抄袭诸葛亮，但被诸葛亮击败，蜀军乘机收割了上邽的麦子。随后，魏、蜀两军主力在上邽以东遭遇。
此时，司马懿在初战不利的形势下，立即收兵据险防守，不与诸葛亮交战，诸葛亮只得率军退回。而司马懿也尾随诸葛亮到达卤城。此时，老将张郃建议："彼远来逆我，请战不得，谓我利不在战，欲以长计制之也。且祁山知大军已在近，人情自固，可止屯于此，分为奇兵，示出其后，不宜进前而不敢逼，坐失民望也。今亮孤军食少，亦行去矣。"（《资治通鉴》）主张分出一支奇兵，包抄诸葛亮的后路，不应该只尾随而不敢追击。
对于张郃的建议，司马懿并不听从，还是继续尾随诸葛亮，追上蜀军后，司马懿还是不与诸葛亮交战，而是选择在山上扎营，继续据险不战。司马懿此举令众将极为不满，甚至说出了"公畏蜀如虎，奈天下笑何！"（《资治通鉴》）的话。
在成功的熬死了另一位托孤大臣大将军曹真之后，魏国谁能与诸葛亮一战？司马懿于是成功的从文臣首领过度到军队首领。但是此时他要面对两个问题，第一，曹休、曹真死后，军中还有张郃无论军工还是威望都是司马懿不能比的。第二、诸葛亮第四次北伐志在必得，只要补犯曹真那样的错误败给诸葛亮，自己便稳坐魏军第一把交椅。
