赵匡胤当皇帝后先是封张琼为禁军步兵首领，后来又让他接替了赵光义殿前都虞候的职务，负责殿前司，成了赵匡胤最信任和亲近的人。但人一红就容易遭人嫉妒，张琼早年曾得罪过史珪、石汉卿这两个小人，他们一看到张琼这么被皇帝重用，怕将来对自己不利，于是就说张琼私自养了几百个家兵。赵匡胤一听这还得了，亲自就对张琼进行了审问。张琼的性格就跟关羽差不多，直性子，他根本就没养家兵，于是就跟赵匡胤辩驳了起来，赵匡胤一时恼火想让人把他打了几十大板，要了他半条老命，直接疼晕过去了。赵匡胤就让人把他打到天牢，让别人官员审问。
史珪、石汉卿这两人就是皇城司的人，拿着罗列的证据在官员面前一摆，他们算是彻底相信了，马上就把张琼赐死了。这时候赵匡胤的智囊赵普就心里不高兴了，找到赵匡胤一番指责，说到"你怎么看看实际情况，听了两个小人的谗言就把张琼处死了。你不看看张琼，尽心尽力的为你服务，舍生如是，把老母亲留在家里只留3个下人伺候，你现在却把这样的大忠臣杀了。"
这时候赵匡胤才知道自己误信了谗言，把自己的恩人杀了，他追悔莫及。但是张琼已死，他做什么也没用了，掉了两把老泪就算了。
