最终采取了刘伯温的建议，新创兵役制，名曰"卫所"。卫所制的重心是放在军事方面，可在政治、经济和民生等方面也有着极大的作用。卫所制脱胎于唐朝的府兵制，却又明显不同于府兵制，独具大明特色。卫所遍布大明全国上下，有名有姓、有点作用的军事要地都有，五千六百人是一卫，一千一百二十人为一千户所，一百一十二人为一百户所。一卫最高长官是卫指挥使，一千户所最高长官是千户，一百户所最高长官是百户，百户下面还有总旗及小旗。
卫所的大部分军队是在地方屯田耕种，自成体系的，俨然普通百姓的样子，一所相当于一城，一千户所相当于一镇，一百户所相当于一村，同理卫指挥使是城主，千户是镇长，百户是村长。这就是明明白白是在开荒拓地，建造出更多的适合人类居住的地方。极少部分的卫所军队进行驻守操练，定期轮换。
入了卫所就是入了军籍，世世代代得为皇帝种田，子孙皆世袭为兵，未经兵部许可不准脱离军籍离开卫所，为上官所奴役，从商入仕几乎是不可能了。战争时期，这一制度是很实用的，耕战合一，对普通士卒而言，安稳耕种一块田地有饭吃，就是莫大的幸福事。但到了和平年代，人心思变，当卫所军户是自己和子孙后代永生永世的折磨。
越到明朝后期，卫所军人操练的就越少，一点都没有兵士的样子。偏偏大明正规军的士卒，都是从这里面挑，挑出来入伍从军。卫所制逐渐糜烂，卫所养出来的"百万大军"越来越不成样子。明朝后期的四次大规模战争，充分地将大明卫所养出的军队十分没用表现出来。土木堡之变，倭寇战争，后金战争和镇压农民起义（其中也有大量卫所军户）。明军战斗力不堪一击，倭寇战争中常常出现，数千明朝官军被数百倭寇杀的溃不成军，哭爹喊娘的到处跑。稍微能打的就是戚继光重金招募，训练而成的戚家军。
