宰相一职是由商、周的家臣宰制演变而成，惠文王十年名臣张仪为秦相，秦武王时期改置左、右丞相，以右相居首，秦始皇一统六国，确立了宰相制度，宰相辅佐皇帝，常言"宰相居一人之下万人之上"，辽朝时期，皇帝偷偷在宰相袍子上烫了一洞，一年后洞还在，皇帝含泪下令：打开国库。
在此之间，辽圣宗曾做梦有四人侍奉自己，赐给了他们食物每人两口，当辽圣宗得知张俭之名，觉得梦境奏效，因而张俭受到皇帝的重用，太平元年（1021年），张俭任职左丞相。
张俭清廉爱民，深受辽圣宗信任，太平六年，参与政事的吴叔达和张俭不合，辽沈得知后，将吴叔达贬为了康州刺史，1031年，辽圣宗病逝，太子耶律宗真继承皇位，为辽兴宗，同样倚重张俭。
