这样的制度就导致权力分散，中央政府对地方的统治会逐渐减弱。所以朱元璋面对的问题就是，如何巩固和增强自己的统治。明朝初期，政权中有很多的矛盾：朱元璋起兵早起吸纳的元朝旧地主和跟随他早起在淮河起兵的新地主之间的矛盾，这些跟随朱元璋的淮河领域的新地主与朱元璋之间的矛盾，甚至于还有丞相与帝王之间的权利矛盾，典型的代表就是胡惟庸。国家大事都有中书省掌握，加上胡惟庸是个有能力也有野心的人，在中书省多年，胡惟庸建立了很稳固的政治基础，有些事情没有上报皇帝就自行处置。
多年积累，矛盾逐渐尖锐，所以到了洪武十三年，明太祖找了个机会，假借一个罪名，就诛杀了胡惟庸，连带着胡惟庸庞大的关系网都被牵连，这场血腥的政治洗牌不在多说，还是继续说政权集中的问题。
胡惟庸被杀之后，朱元璋取消的宰相这个职务，撤销了中书省和行中书省，将原来下属于中书省的六部提起来，负责总管全国事宜，由他直接管理；地方上由布政使司管理民政和财政，按察使司主管司法，都指挥使司管理军事，也有皇帝直接负责。就这样皇帝代替了丞相，皇权和相权合二为一，就形成了中央集权制。
权力集中了，但是皇帝就很累了，什么事情都要交由皇帝处理，每天的公文多不胜数，最多的时候朱元璋每天要查阅公文两百多件，处理事务四百多件。只有皇帝一人处理是肯定不行了，于是朱元璋又想出了一个办法。建立内阁，寻找了一些有才有能的五、六品官员来做秘书，帮他处理公文和事务，称呼他们为大学士，内阁中的第一大学士被称为首辅。国家大事都放在内阁办理，内阁大学士们在皇帝手底下办事，时间长了就有人提升为六部尚书。这样看来，内阁也就相当于原来宰相的职务。
