没过几年，马超再次带兵攻打曹军，夏侯渊和张郃带兵迎击马超。张郃带领着5000人马，轻装上阵，突然在渭水之宾拦住了马超的大军。
这次战役，马超打得极为憋屈，双方才交手，己方兵马就溃不成军了。马超只好骑马退离战场，之后投奔了刘备。
曹操很看中张郃，之后多次派他担任前锋。在曹操与刘备作战的时候后，张郃也让刘备吃了不少苦头。刘备与曹擦争夺汉中的时候，老将黄忠在定军山，一刀劈死了主帅夏侯渊，蜀军大获全胜。
但是，刘备却没有那么放松，他说了句，不杀张郃，光杀夏侯渊有什么用？由此可见，刘备是真的很忌惮张郃。不过，刘备的担心是对的，夏侯渊死后，曹军这边一时群龙无首，张郃暂代主帅之职，带领曹军全身而退。
