之后，张郃先和曹真，再和司马懿配合，多次击败诸葛亮的北伐。等到曹真病逝，司马懿成为大都督的时候，张郃的存在已经成为司马懿在军界形成绝对权威最大的障碍，更何况张郃是四朝老臣，对曹魏宗室非常忠心，尤其是在军界非常有影响力，并且不怎么听司马懿的话，多次在军事上与司马懿有分歧。
卤城之战的时候，张郃和司马懿就有着明显的军事行动分歧，身为主帅的司马懿欲以全部主力增援祁山前线，而副帅张郃建议分出前后军以防诸葛亮来袭。结果司马懿没有听张郃的，导致被诸葛亮击败，司马懿的雍凉主力被重创不说，还被诸葛亮抢先割走了魏地的小麦。从结果上来，张郃军事谋略比司马懿更高明，而这一点不是司马懿想看到的。
