辽圣宗非常喜欢张俭的朴素和真实，于是就决定重用这样的人才，而张俭也非常感激辽圣宗的知遇之恩，在自己的职位上兢兢业业，无论是百姓还是朝野上下对张俭都敬服不已，而张俭这个时候就更加自律和节俭，每次领了俸禄之后就只留下生活所需，其他的钱都用来救助贫苦百姓。
辽圣宗去世后，辽兴宗继位，张俭这时候已经官至宰相，是举足轻重的大人物，他对于政务也更加尽心尽力，虽然辽兴宗非常感激张俭对自己的帮助，但是看着他的生活如此朴素，每天都穿着同样的衣服，就觉得有些不可思议，于是他便在张俭的衣服上偷偷烫了一个洞，看到底他是只有一件衣服，还是有很多同样的衣服。
张俭当然不可能一年只穿一件衣服，但是过了一年又到了同样的季节后，张俭又穿着带有破洞的衣服，辽兴宗看到后非常惭愧和心疼，这才知道张俭是一个真的节俭不愿铺张的好官，于是立刻让人打开国库，并且挑选几匹上好的丝绸给张俭做新衣服，对此张俭虽然觉得有些破费，但还是恭敬不如从命了。
