自打跟随夏侯渊征西的时候起就是西部战区总司令的副手。他的勇猛善战素为刘备所忌惮，黄忠砍掉了夏侯渊的头颅呈递给刘备，刘备虽然高兴，却大叹一口气："要杀就该杀最厉害的，要这家伙的脑袋有什么用？"
夏侯渊一死，诸将推举张郃暂代最高指挥官，凭这才稳定了局势。
可是汉中失败之后没多久，曹真接手夏侯渊的职务，暂代又变成了副手。
此后的张郃就像是曹魏的救火队，哪儿需要打仗了就把他往哪儿调动。
曹丕当了皇帝要讨伐东吴，就把张郃调到中南给司马懿打下手。等诸葛亮一出祁山了，张郃又奉命都督诸军去支援曹真，到了关中又成了曹真的副手。尽管他建立了那么多的战功，却始终是个副总司令。
