胡惟庸早年追随朱元璋，不仅时朱元璋的老乡更是大明开国的功臣，后来被朱元璋任命为大明的丞相。但是在他担任丞相的期间贪赃枉法，甚至扣留对自己不好的奏章。胡惟庸是继李善长后淮西集团的首领，他们打击其他势力，陷害刘伯温致死。据史书记载，胡惟庸还参与造反，勾结倭寇和北元。欺瞒朱元璋，占城派遣贡使来明朝纳贡，但是大明王朝却没有派人迎接，随后胡惟庸却将责任推给了礼部，这一桩桩一件件的事情，使得朱元璋大发雷霆。
1380年，胡惟庸因谋反罪被朱元璋处死，之后牵连一大批功臣，同时里面就有担任过丞相的李善长。朱元璋下令废除丞相制度，裁撤中书省，后代君主不准设立丞相。
朱元璋废除丞相，六部直接向他负责，独揽大权，中国封建君主的权力达到历史上的顶峰。但是废除丞相之后，朱元璋表现：压力很大。据史书记载，他要一天处理140多件奏章，政事400多件。为了能够帮助自己，他又设置了殿阁大学士。
而内阁大学士在明朝后期权力也变大，张居正就是例子。
内阁可以向君主提意见，而君主怕内阁权力过大，又用宦官来制衡。明代宦官专权也是废除丞相的恶果之一。内阁在奏章上提供的意见要想成为政令，就需要宦官的批红，宦官得以专权，并影响了大明王朝的走向。
