同时按照当时的制度，皇帝下达诏书，都必须先经中书省，才能继续传递。事实上元朝的这种制度已出现了弊端，元朝后期已出现权相乱政的现象。再加上朱元璋出身卑微，一旦君临大位，十分忌讳相权膨胀。
朱元璋诛杀胡惟庸，废除丞相
起初的朱元璋也认为天下大乱是用人不当，所以他选相相当谨慎，甚至亲自撰写《相鉴》和《臣鉴录》，试图用道德规范宰臣。此外朱元璋还设立通政使司，从制度上防止出现权相，蒙蔽皇帝。
尽管朱元璋也从不同方面入手弥补宰相制的弊端，但他实际并不相信这群宰相。终于在调整了地方与中央矛盾之后，朱元璋以谋反为借口，诛杀丞相胡惟庸，并且株连人数达三万余人，史称"胡惟庸案"。在这场处理的同时，朱元璋终于露出本意，废除丞相和中书省，原尚书六部直接对自己负责。
