但这么一员无比风光的大将，前半生过的并不顺利。张辽的前半生，几乎没有太大的名气，还经常克死主帅。有人说，刘备是三国里最容易克死主帅的克星，到哪儿任职哪的主帅就得死，张辽何尝不是如此，简直比刘备还更容易克死主帅。
最初，张辽是在并州刺史丁原帐下，有一次被何进遣往河北募兵，等募兵结束还没回去时，何进就被宦官杀死了，之后丁原也死了；然后跟随吕布并入董卓帐下，没过多久，董卓也死了。然后就跟着吕布杀来杀去。
在吕布帐下，张辽被封了一个骑都尉，相当于骑兵队长，地位也不算低。但没过两年，吕布又被曹操弄死了。于是，张辽携剩下的将士，归降了曹操。
