魏晋南北朝的时候，政权更迭频繁，大多数都是当时的丞相篡权的。当时一般就是说有中书省、门下省、尚书省。不出意外就是这三个部门的老大是丞相。所以隋朝建立的时候，感觉丞相的威胁大，就不设立丞相了。直接设立中书省、门下省、尚书省三省。简单的说就是把之前丞相的职位由一个分为三个了。这下威胁小了。唐朝也是这样，而且三省的长官并不是三个人，每个省都是一个正的两个副的。所以一共有九个丞相了。这下威胁可以说更小了。而且这三个省并不是说和今天一样，是国家的必须机构。这个也是看皇帝的心情的。想设立几个就设立几个，不想设立的话就不设立。
宋朝的时候还是有宰相的，比较出名的是宰相赵普，就是"半部论语治天下"的那位。宋朝建立之后，不仅对地方不放心，对中央也不放心。想来想去丞相还是权利太大了。于是只给行政权，把军权和财政权从丞相手里拿出来了。这下只要没有钱和军队，丞相是彻底的反不了了。所以宋朝的权相比较少，但是南宋的奸相却不少。元朝的时候，蒙古人也学习汉人的制度。结果没学好。中国之前的三省六部元朝只保留了一省。中国皇帝千年来想尽办法减少丞相的权利这下又回去了。而且元朝皇帝更换频繁，就导致丞相的权利更大了。甚至可以决定皇位的继承。
明朝建立承袭的是元制，所以丞相权利也是非常的大。朱元璋本来对大臣就非常的不放心，这下有个这么厉害的丞相就更不放心了。所以据说是有意叫胡惟庸当丞相。任其胡作非为，最后找借口处死胡惟庸，然后废除丞相的职位。也有人说胡惟庸是冤枉的。从此丞相是彻底的退出历史舞台了。
