当时，大都督能够调动全国各地的军队。为了与北元政权对抗，防止北元王朝的反扑，明朝维持了100多万常备军，这些军队都隶属于大都督管理和调动。其实，对于大都督的权力，皇帝朱元璋非常忌惮。朱元璋崇尚皇权至上的逻辑，对丞相和大都督存在很大的戒心。因为，这两个官职拥有巨大权力，这让朱元璋感到不安。公元1380年，朱元璋杀掉了丞相胡维庸，并且借着这个由头，废除了大都督府。就这样，正一品的大都督，仅仅持续了20年时间便被撤销。
大都督府撤销以后，各地的军队如何管理呢？交给兵部肯定是不行的，那样的话，就是大都督府的翻版。朱元璋撤销了大都督府以后，又建立了五军都督府。也就是前后左右中5个都督府，每个都督府又设立了左都督和右都督。换而言之，原来的1位大都督划分成为了10个都督。
那么，这些都督府如何划分权力呢？5个都督府分别负责两三个省的军务，例如左军都督府，负责山东、浙江等省份的军务。这10位都督，都是正一品的高官，但是权力已经远远不如当年的大都督。其实，这样的情况还出现在行政官员上，公元1380年，朱元璋撤销了丞相制度以后，面对全国复杂的朝政，依靠皇帝朱元璋一个人根本就忙不过来。朱元璋每天工作12个小时以上，但还是无能为力。在这样的情况下，朱元璋不得不建立内阁大学士制度。
内阁大学士与之前的丞相不同，内阁大学士仅仅是五品官，负责帮助皇帝处理那些无关紧要的事务，同时整理各种类型的文件。但是到了明朝统治的中期，内阁大学士们已经彻底崛起，内阁开始凌驾于六部之上。内阁大学士的情况，与五军都督府的情况非常类似。因此，内阁大学士出现了"虽无相名，实有相职，既有相职，却无相权，既无相权，却有相实"的说法。
言而总之，明朝统治时期，皇权在不断的提高，至于群臣的权力，则受到了很大的制约。明朝初期的大都督，能够管理和调动全国所有的军队。至于后来的五军都督，只能管理部分省份的军队，而不能调动军队。进入明朝统治的中期，五军都督府的权力，已经被兵部彻底架空。在这一阶段，五军都督府成为了养活朝廷勋贵的机构，几乎没有任何实际权力。明朝统治中期，全国有200多万军队，只有皇帝才能调动军队。就连兵部，也没有直接调兵的权力。
