除了五军都督府外，明朝还有另一个军队行政管理机构，那便是六部中的兵部，最高长官为兵部尚书，官阶正二品。兵部掌管全国军队的人事、后勤、军械、兵籍等事务。在发生战事时，兵部负责制定战略方针。
值得一提的是，自从正统十四年（1449年）的"土木堡之变"发生后，大批五军都督府的都督在战场阵亡。时任兵部尚书的于谦为了便宜行事，将原先由五军都督府对军队的管理权和指挥权都划归兵部。自此，五军都督府的权力被极大削弱。到了明朝后期，五军都督府已彻底沦为一个虚有其名的机构了。
五军都督府和兵部皆为中央行政系统，省一级的军队行政事务则归都指挥使司管理。都指挥使司的领导层依次为：一名正二品的都指挥使、二名从二品的都指挥同知、四名正三品的都指挥佥事。
