张郃在《三国演义》中也是作战着力刻画的一员勇将。在书中，他是曹操手下最活跃的将领。尤其是和刘备阵营的交锋中，我们总能够看到张郃的身影。张郃除了没有和关羽单挑过，和其他的四位五虎上将都交过手。虽然张郃没有能够胜过一场，可是他也保证了自己能够全身而退。从战场的表现来看，张郃堪称蜀汉的劲敌。
《三国演义》的作者如此描写张郃，也是有着历史依据的。张郃的能力，得到了大家的认可。在汉中之战时，当手下献上夏侯渊的首级时，刘备轻蔑的说，这种人杀了有什么用，要杀就该杀张郃。夏侯渊死后，魏军群龙无首，在郭淮的推荐下，大家共同推举张郃为军主，这才阻止了刘备的攻势，稳定了局势。
正是因为张郃的军事能力强，这才给蜀汉造成了巨大的威胁。而张郃一生中最大的败仗，就是败给了张飞。在那一战中，张飞利用地形，前后夹击张郃，使得张郃首尾不能相救，因而大败。张郃在这一仗中败得十分狼狈，他丢弃了战马，带着十几个人爬山逃走。张飞也因为这一仗，入选七十二名将行列。
张郃的本事就是能活。他和张辽都是五子良将，可是，到了诸葛亮时期，他也成为硕果仅存的五子良将。由于其他名将都纷纷凋零，张郃就成为了曹魏首屈一指的大将。在关陇一带，张郃成为抵抗诸葛亮北伐的主力。街亭之战，正是张郃一战打败了马谡，才使得诸葛亮最有希望成功的北伐毁之一旦。
