因此，他开始去参军，他各方面表现得都比较优秀便开始慢慢地升级，最后成了当时还是大将的赵匡胤的手下。张琼打仗的时候从不畏手畏脚，每次都冲在最前面，助长士气，做出了很多好的示范，受到赵匡胤的极大赏识。
公元957年，当时的柴荣皇上命令赵匡胤带兵攻打寿春。知己知彼方能百战百胜，赵匡胤为了搞清敌情，准备事先亲自近距离观察一下战场。于是他便带了几个自己的亲信，当然也包括张琼。然而，由于他们靠的太近，行踪直接被城墙上的士兵给发现了。
看到敌军的将领上前来刺探军情，城墙上的弓箭手马上开始猛烈的射击，其余几个亲信都陆续死去，只剩下张琼和赵匡胤两个人。张琼拼命地掩护自己的上级赵匡胤，最后自己身中数箭，掩护赵匡胤全身而退。
在这之后，张琼就是赵匡胤的救命恩人，对张琼是极其的器重，将其视为自己的心腹，无论打什么仗干什么事都要把张琼给带在身边。
