恰逢他当时对赵光义的行为非常不满，屡次告诉皇帝他怀有二心，私下里滥用职权，壮大自己的力量，要当心提防。字字忠言，但却尤为逆耳。他以为他们关系亲密，但实际上怎能比得过人家两个亲兄弟。正好被石汉卿等人抓住把柄，上书他的两条罪状，第一条说他暗自豢养私兵，恐怕有造反之意。第二条说他专门诋毁赵光义，离间兄弟感情。
皇帝当时心中对他就已经很不满了，这些罪状正中他的下怀。没有怎么多查就决定要亲自审问，他拒不承认，当场就被打得气息奄奄，被拖了出去。之后更直接下令处死，不久后得知真相，但人已经被冤死，说什么也晚了。
其实张琼之死并不单单是因为被诬告的那两条罪状，最重要的是当时的太祖已经戒备他，对他不信任了。
