等到董卓死后，他又成为了吕布的手下。但是仅仅是一个小小的骑兵队长，这一切都让张辽觉得自己没有遇到明主。虽然自己有一身以一当百的武艺，但是却没有受到过重用。恰逢吕布失败，被曹操斩杀，走投无路的张辽带着自己的军队投降了曹老板。在这里，他见到了自己心中的明主，而他的才能也被曹老板发现了。
对于张辽来说，他遇到这个明主之后，就死心塌地的跟着曹操了。甚至连关羽失败之后投降都是在他的劝说之下才完成的。在公元200年的时候，袁绍曾经派手下大将突袭曹老板的地盘，于是曹操命令关张二将带兵去解围，正是这一战，他的地位在自己主公心中又高了一截。
