直到元代灭亡之前，元代丞相都一直大权在握，即"凡钱粮、兵甲、屯种、漕运、军国重事，无不领之"，严重威胁到了皇权。而在另一方面，元代丞相大权在握，导致元代内部矛盾非常激烈，甚至发展到了兵戎相见与随意废立皇帝的地步。可以说，元代百年而亡的原因，至少一半与元代内部争权导致的混乱局势有关，而混乱的原因又与丞相独揽大权、皇权不振有关。
朱元璋建立政权后，大致沿用了元代官制与传统，让中书省负责政务，丞相大权在握，而当时政权初创，各级部门官员只能任由李善长、胡惟庸等人推荐。
于是，逐渐形成了以李善长、胡惟庸、杨宪等人为首的圈子。更为重要的是，明代丞相虽然不具备元代丞相的权力，但也超过了历史上的丞相权力。一旦如此延续下去，明代极有可能与元代一样，陷入皇权与相权之争，最终导致政局混乱乃至国家快速灭亡。
因此，这不仅关系到权力之争，还关系到明代国运，由不得朱元璋不慎重。事实上，朱元璋早就想办法解决了，只是还是没能解决掉这个问题。
洪武三年，严礼等儒生提出臣民不得越过中书省上书皇帝，换言之就是架空朱元璋，让朱元璋听不到下面臣民的声音，将权力全部收归中书省。对此，朱元璋自然反对，他说"元氏之有天下，固由世祖之雄武，而其亡也，由委任权臣，上下蒙蔽故也，今礼所言不得隔越中书奏事，此正元之大弊，人君不能躬览庶政，故大臣得以专权自恣。"当然，朱元璋可以听取下面臣民的声音，也依然无法阻止丞相大权独揽。
俗话说，不能解决问题就解决制造问题的人，于是朱元璋换了丞相，李善长退休，先后任命徐达、胡惟庸、汪广洋为丞相，后来胡惟庸成为百官之首的左丞相。然而，胡惟庸在任时变本加厉，不仅形成了自己的圈子，而且经常不经过朱元璋的私自批阅并直接实行，这让朱元璋忍无可忍。
朱元璋制造的"胡惟庸案"，表面说是谋反大案，实际上是皇权与相权之争。至于为何株连众多，原因在于一部分是追随胡惟庸的党羽，一部分是支持推崇"相权"的朝臣。
朱元璋在位时，丞相尚且如此大权在握，担心在他去世之后，丞相更是可能会颠覆大明江山。于是，朱元璋一不做二不休，干脆直接就废除了丞相制度，让六部直接对皇帝负责。因此，将朱元璋废除丞相的原因，完全归结于他想加强皇权并不客观。
参考资料：《明史》、《元史》等
