有一段时间，辽朝国内盗贼猖獗，就连官员家中都曾经被盗。为了尽快交差官府捉拿了8个"盗贼"并将他们斩首，谁知后来阴差阳错的又抓到了真正的盗贼。被冤枉的几人家属就上述要求申冤，张俭去找辽兴宗好几次，请求重新审理此案。辽兴宗十分恼怒，他问张俭是不是要他这个皇帝为这几人偿命才能善罢甘休？张俭却说，这些人心中有冤屈，所以朝廷应该出面抚恤，让这几人可以好好下葬，辽兴宗见他说得有理，于是听从了他的建议。
还有一次，辽兴宗发现，张俭总是穿着同一件很旧的朝服来见他，他就让人悄悄地在张俭的衣服上烧了一个小洞。结果辽兴宗发现，张俭还真的是每次都穿的这件衣服，甚至到了第2年还穿着。他就跟张俭提起此事，张俭说这件朝服他已经穿了30多年了，因为并没有破损，所以也就没有更换。
其实当时辽兴宗就比较奢侈，所以张俭是专门以这种行为来提醒他。辽兴宗觉得自己的宰相实在也太清贫了，于是下令快打开国库，让张俭进去随意挑选里面的东西。《元史·列传·卷十》中记载："令恣取内府物，俭奉诏持布三端而出。"结果张俭只选了三匹布就出来了。
