辽圣宗在世时，由于他也提倡节俭品德，所以跟张俭很合得来。但辽兴宗却不一样，因从小就过着锦衣玉食的生活，辽兴宗逐渐养成了铺张浪费的习惯，所以他很看不惯张俭节俭的样子。在辽兴宗继位的第一年，天气格外寒冷，很多大臣花大价钱去买一些昂贵的厚衣服穿，朝中还一度形成了小小的攀比之风。只有张俭不一样，他依旧穿着自己破旧的衣服，与其他大臣格格不入。因此，便有人跟辽兴宗打小报告，称张俭的穿着有失宰相的威严。
之后，通过了解，辽兴宗才知道，张俭的那件衣服已经足足穿了30年。他在惊讶的同时，又有些怀疑，他不相信身居宰相的张俭还能节俭到这个地步。于是，趁着张俭不注意时，悄悄在他衣服上烧了个洞，看他还能够穿多久。没想到，张俭又穿了1年之久。辽兴宗忍不住去问张俭，张俭却称，相比起那些冻死的老百姓，自己已经很知足了。而且衣服能穿就好，无所谓破旧。而听了这些话的辽兴宗一下子面红耳赤，为自己以前的行为羞愧不已。此后，他也开始向张俭学习勤俭作风。
