刘仁恭和李克用结盟时，张居翰被李克用留在军中，为自己所用，被派去担任潞州守将李嗣昭的监军，并在朱温带领后梁大军，重重围困下，坚守潞州城达半年，直到晋王李克用率军前来，得以脱困，张居翰至此以后更受重用。
李存瑁称帝后，大将郭崇韬被封枢密使后，奏请封张居翰同为为枢密使，的庄宗的封赏。而张居翰深知郭崇韬对宦官不满，在朝政上，不发表意见，为郭崇韬之命是从，打消了郭崇韬杀害张居翰的念头。
蜀被后唐灭完后，庄宗答应保蜀皇王衍一家性命，可在秦川驿站时，受小人挑拨，下令诛杀王衍一家，并派张居翰前去宣旨。张居翰接到圣旨时，认为皇帝早已答应饶他一命，现在又出尔反尔，实在不该，而且圣旨上不止杀王衍一家，还要将随他一起的一千多人也一起杀死，张居翰于心不忍。
于是在去宣旨的时候，将"杀王衍一行"改为"杀王衍一家"，就这样，因张居翰的善念，本应赴鬼门关的上千人的以保命。
后来，张居翰在长安养老，最后在七十一岁那年病逝。张居翰一个举动为历朝历代的宦官证明，宦官中也是有好人的。
