明代每个卫下辖五个千户所，千户所下设有十个百户所，百户所下设两个总旗，总旗下再各设五个小旗，以十名士兵为一小旗。所有军户，均归当地卫、所管理。
全国的卫所都归五军都督府管辖，五军都督府则归兵部调派指挥，以兵部尚书为最高长官。
明朝这一整套管理士兵的制度，一般叫做"卫所兵制"。这个制度在很多方面与唐朝的府兵制相似，都是兵农合一，而且将领不带私兵，所有士兵的管理、调动权都在中央。但是卫所兵制作为世兵制的一种，与府兵制也有相当大的区别。一是府兵制下，政府面向全国农户定期拣选府兵，属于部分征兵制，而卫所兵制下的征兵范围只是军户;二是府兵有服役期限，而且无需世袭，而卫所兵制则是军户世袭的。
