张郃，先是带着家族部曲应募讨黄巾而成为韩馥的军司马，然是韩馥在冀州兵败于袁绍而变成袁绍的校尉，后是在袁绍与公孙瓒争霸河北中建数功而提拔为袁绍的宁国中郎将。
张郃，在韩馥手上是统管四百兵的军司马，在袁绍麾下先是归顺有功而升为统领八百兵的校尉，后是破公孙瓒有战功而提为统率千六百人的将领。《通典·卷一百四十八·兵一》记载：凡立军，……二曲为部，（四百人，立司马。）二部为校，（八百人，立尉。）二校为裨，（千六百人，立将军。）二裨为军。（三千二百人，有将军、副将军也。）。宁国中郎将，虽是袁绍在汉献帝建安初期设置，为杂号将军，大多由校尉和都尉升迁；但属于中级的武官，为统兵武职，掌领兵征伐。在小说《三国演义》里，张郃同颜良、文丑以及高览并称袁绍麾下四大战将。
在官渡之战的后期，袁绍与曹操相持阶段时，特别是乌巢之战的前期，身为宁国中郎将的张郃与身为谋士的郭图在讨论救援乌巢时出现相左的意见，即张郃意在直接派兵到乌巢以保住军粮，而郭图力主趁曹操夜袭乌巢之机偷袭曹营以间接救援乌巢。
《三国志·魏书十七·张乐于张徐传》记载：郃说绍曰："曹公兵精，往必破琼等；琼等破，则将军事去矣，宜急引兵救之。"……郃曰："曹公营固，攻之必不拔，若琼等见禽，吾属尽为虏矣。" 第一句话是张郃在乌巢之战之前，面临曹操将夜袭乌巢且焚毁军粮时说。第二句是张郃在商议乌巢作战之际，面对郭图将攻击曹营而解乌巢之围的提议时说。张郃，不管是提议派兵救援乌巢，还是反对重兵攻击曹营，都是属于具体问题具体分析。
