张辽因为个人的勇武，被并州刺史丁原辟为从事。丁原让张辽派兵到洛阳，可能是在中平五年（即公元188年）组建西园军，从地方征兵到中央的时期后来在中平六年（即公元189年），汉灵帝去世，何进为首的外戚士大夫与何太后、"十常侍"等宦官关系恶劣、剑拔弩张。
何进决心召集四方军队靠近洛阳向何太后施压，最有名的就是董卓、丁原。其实还有其他的军队，何进自己也做了很多准备，来试图控制他自己制造的混乱场面。比如说派张辽、张杨、鲍信等人征募士兵。结果张辽的兵是征募回来了，何进也被宦官杀了，董卓趁虚而入，吃掉何进余部和丁原的军队，终于控制了洛阳。
张辽回到洛阳，带着自己的军队加入董卓集团；董卓被吕布、王允、李肃等人刺杀，张辽又跟随吕布；吕布被董卓余党李傕、郭汜等人击败逃出长安（董卓为避免关东联军和"白波军"的军事威胁而迁都），张辽跟着吕布一起跑，被任命为鲁国相。后来在建安三年（即公元198年），曹操亲率大军灭掉了吕布，张辽就跟着曹操混，并且在后续的历史舞台上发光发热了。
