尚书省是国家最高行政机关，下设官部、礼部、兵部、都官、度支、工部六个部门，每个人都任命部长为最高领导。在尚书的命令下，尚书分为左右仆射。左为官、礼、兵，右为度支、都官、工部。这不仅加强了中央集权，还开创了中国封建社会三权分立体系的新阶段。
二是简化地方行政机构；
南北朝时期，地方政府混乱不堪，州、县、县三级行政区划极为混乱。为了使亲友当官，统治者不惜增加行政机关。当时，一个片土地不超过一百英里，却是几个县并列在一起。当户数不足一千户时，这两个县就被分割了。
于是，在隋朝初年，全国竟有241个地州、608个县、1524个县，共有2373个行政系统。开皇三年，隋文帝针对人少、官多、牧民多的缺点，进行了一次彻底的体制改革。废除了郡，实行地、县两级制，县归县，部分地县同时合并。
