但是袁绍内部勾心斗角，再加上袁绍用人不当，在官渡之战大败。于是张郃就投奔了曹操，受到了曹操的礼遇。跟随曹操平定了北方，又攻打汉中张鲁，在后期对抗诸葛亮北伐时期，张郃也是一位主力战将。
从诸多历史事件可以看出，张郃不仅仅是一位武将，更像是一位能文能武的全能人才。张郃多次亲自带兵征战沙场，可见他武力很高，而他又经常能够为主帅提供一些计谋，说明张郃并不是一个莽夫。在定军山之战中，张郃曾经劝告夏侯渊不要亲自上阵，但夏侯渊没有听从张郃的建议，最终导致了汉中的失守。
三国演义中描述，张郃与诸葛亮的对决中也是胜负参半，是诸葛亮攻打魏国的主要阻碍之一。张郃之死相当的冤枉，当时蜀军撤退，张郃主张归军勿追，但当时的总指挥司马懿固执己见，执意让张郃带兵追击，最终张郃受到伏击战死，或许是张郃的实力太强，让司马懿心生嫌隙，功高震主导致了死亡。
