张俭虽然对此很痛心，但是劝谏也没有用，他以一人之力难以改变现状，他只能在这样奢靡的风气下保持着最初的本心，每天只穿粗布衣服，吃饭只吃一个菜，有多余的钱就拿去接济穷困的亲朋好友。
后来辽兴宗发现，每年冬天张俭都会穿着同一件袍子，而这件袍子的颜色款式都非常陈旧，与张俭的身份格格不入，他觉得世界上怎么会有如此清廉的当官者，于是趁张俭祥不注意，派人偷偷在张俭的袍子上烧了个小洞。
几年过去了，辽兴宗发现张俭竟然依旧穿着这件袍子上朝，那个小洞依然在袍子上。辽兴宗就问张俭，为什么这么多年过去你还不换一件新袍子？张俭回答："臣服此袍已三十年"，就是说这件袍子我已经穿了30年了。
