尚书省是中央最高权力机构，最高长官是尚书令，等级为正二品，麾下统领六尚书，即我们所熟知的"六部"的主管官员：吏部、户部、礼部、兵部、刑部、工部。对于尚书令的地位，史书中形容是"总领百官，仪刑端揆"。李渊在位时，李世民曾担任这一职务，但随着李世民称帝后，这个职位就一直空置了。
武德中，太宗为之，自是阙而不置
尚书省还设有左右仆射各一名，级别为从二品。起初是作为尚书令的副手，而当尚书令一职闲置后，仆射实际上就担任了最高长官。杨坚时期，长期担任俩仆射之职的，是当时最杰出的两位政治家：高颎、杨素。
中书省的最高长官是两名中书令，等级为正三品。中书令的任务相当的威风："掌军国之政令，缉熙帝载，统和天人。入则告之，出则奉之，以厘万邦，以度百揆，盖佐天子而执大政也"。即天子的辅政官。
