张俭凭着自身的优良品质和才干很快成为了辽圣宗最信任的人，辽圣宗也十分放心地把许多重要事务交给他去办，如果有别的大臣要和张俭唱反调对着干，便会惹恼辽圣宗，等待他的便是贬谪之果了，可见张俭在辽圣宗心目中的地位之高。
历史上有很多得到了皇上信任就开始暗揣邪心党同伐异的人，但张俭依旧牢牢维持着自己的初心，从不狂妄自大，不被名利所诱惑，依旧和以前一样，秉节持重，沉厚寡言。
公元1031年，辽圣宗身染重病驾崩，张俭奉命辅佐下一任皇上辽兴宗，辽兴宗崇尚奢侈，总是看见张俭穿着同一件衣服上朝，便想要试探一下这个出了名的节俭大臣是不是真的节俭，便暗中派人把张俭的衣服烧了一个洞，他不相信，这个深受父亲重用的老臣衣服破了难道还能不换。
