张辽和关羽其实本没有什么交际，二人第一次见面还是在吕布偷袭当时刘备所在的徐州，吕布命令张辽去拖住驻守下邳城的关羽，二人打斗了一番，分不出胜负，关羽生气的对张辽说："我哥哥好心收留你们，你们却趁人之危偷袭我哥哥"。张辽本就对吕布偷袭徐州感到不耻，听到这番话更是觉得这样的行为十分不义，于是便不顾吕布的命令撤军，张辽的义举不仅缓解了关羽的危机，更让关羽觉得此人是个忠义之士。于是在曹操想要杀掉张辽的时候甚至下跪向曹操求情让曹操放了张辽，曹操看在关羽的面子上，放过并且给了张辽职位，收服了他，从此以后张辽便和关羽私下里成了知己。这是属于两个英雄之间的惺惺相惜。
后来张辽在曹操军中屡立战功，他在曹魏前期和袁绍争锋的时候就建立了很多的功勋，他还曾和关羽一起作为前锋为曹操击败了袁绍手下著名将领颜良，他跟随曹操打败了袁绍的两个儿子袁谭和袁尚，将他们赶到了辽东辽西一带，在曹操率军征讨准备彻底消灭袁绍残余势力的时候，辽西的乌恒单于率军迎战，此时曹操的大军并未到达，身边的军队很少，大部分人都对眼前的敌人感到恐惧，希望等待大部队到来在打，只有张辽极力主战，建议曹操主动出击，曹操采纳了他的建议并命令他全权指挥，于是张辽就率军出击，大破乌桓。 但真正令张辽威震天下的战役并不是这些。
提到张辽就不能不提孙权，不能不提东吴，因为张辽真正成名就是凭借着他对阵东吴的战绩。合肥是孙权心中一直想要的地方，因为如果占领了合肥那么东吴对魏国的威胁就会大大增加，因此孙权在公元二一五年趁着曹操征讨刘备的时候自己亲自率领十万大军和江东十二虎臣中的六位大将进攻合肥，而合肥仅有张辽、乐进和李典几个将领和不到7000的兵力，实力悬殊，然而张辽却趁着孙权立足未稳自己带着仅仅800士兵突袭吴军大营，打了个措手不及，虽然最后只剩下几十人但却大大打击了吴军的士气，使得原本士气低落的魏军也充满斗志。
