因为是出生在边塞之地，所以张辽自幼身体强健，而在加上家族的教育，故而，年轻的张辽便以弓马娴熟武力过人而名闻塞外。事实上，年轻的张辽虽然勇武过人，但在那个乱世里，也是屡遭坎坷。先是被并州刺史丁原启用，而后被丁原派去京城的张辽又因为各种事变，成为了董卓的部下。董卓被杀后，张辽又跟着吕布，其实固然张辽骁勇，但是，毕竟不是嫡系，所以很难被人重用，一直到28岁的时候，才被吕布封为了鲁相。直到之后吕布被曹操击败，张辽率部投降了曹操，这位不世出的名将才开始逐渐展露锋芒。建安五年，三十岁的张辽被曹操派遣与关羽同为解救白马之围的前锋。很快，首战告捷，大破袁绍军。之后，张辽又是数有战功，被曹操升任为裨将军。
建安六年，曹操任命张辽与夏侯渊包围昌豨于东海，几个月后，还未能攻破，而大军粮草却快尽了。于是，这个时候的夏侯渊就有了想要撤军的想法。谁料张辽却说："数日已来，每行诸围，豨辄属目视辽。又其射矢更稀，此必豨计犹豫，故不力战。辽欲挑与语，傥可诱也？"通过观察敌情，张辽凭借多年来从军的经验，知道昌豨也快支撑不住了，只需要再努力一下，昌豨必降。所以，张辽先是派人传信，要求昌豨投降，果然昌豨有投降的想法，而后，张辽为了稳住昌豨，只身一人进入昌豨军营，拜访昌豨家人，果然，不久昌豨就率部投降了。事后的曹操知道此事后，因此而责备张辽，嫌弃张辽这样只身犯险，没有大将风度。好吧，什么是大将风度，张辽或许明白，但是，张辽肯定更相信自己的判断，从军这么多年，连这点判断都没有，张辽早不知道死了多少次了。建安七年，黎阳一战，张辽领军与袁绍之子袁谭与袁尚的军队相遇，大破敌军。战后，张辽擢升中坚将军。
