公元209年，淮南地区多县反曹，掀起了一阵叛乱和骚动。曹操指派张辽督张郃、牛盖率军讨伐，最终大获全胜。
张郃是袁绍手下"四庭柱"，张辽是吕布手下"八健将"，他们各自在河北和并州都是十分出众的，从张郃的角度来看，四分之一明显要大于八分之一，大家归降时间前后不过两年，凭什么你张辽名气和官职比我高。
<spanclass="bjh-image-caption ">张飞、张郃
等到213年，因战略需要，张郃被派往汉中战场，张辽被派往合肥战场，张氏兄弟一人负责抵御蜀国，一人负责抵御魏国。张郃认为立功的机会就此到来，能不能赶上张辽就在汉中这个地方了。公元215年，孙权和刘备两边同时对曹操开战，汉中和合肥成为主要战场。不巧的是，张郃部队被张飞切断，首尾不能相顾因此大败，仅带十余人弃马爬山逃跑，而张辽仅靠八百骑就击退了孙权十万大军的进攻。
张辽因功升为征东将军，曹操也念张郃在汉中有功，让其补张辽荡寇将军之位，张郃官爵仍在张辽之下。
