到了唐朝，经过近一百年的战争检验，府兵制的各种弊端终于全部暴露出来。
其一是，随着唐朝疆域的不断扩大，府兵的服役期限大大加长，最终不堪重负。原本每府之兵，每年只需要服役30到45天。但唐朝兵锋指向中亚后，从长安到高昌、龟兹乃至葱岭，单是行军就超过一月，府兵的负担极重，引发了不小的抵制情绪。唐朝一些现实主义诗人如杜甫的诗句，如"边庭流血成海水，汉皇开边意未已""去时里正与裹头，归来头白还戍边"，正反映了府兵的疾苦。
征兵制，特别是府兵制下的士兵，原来的作战范围只限于几百里内，征期虽长，但一旦罢归，很快就能回家。故而府兵少有怨言。黄永年先生针对这一特点，概括其为"地区性兵制"，是非常精准的。
其二，也是最主要的原因，随着唐朝土地兼并的加深，大量农民失去土地，甚至一些军府户也没有了土地。他们一边要自备衣粮出丁参战，一边要忍受地主的兼并与剥削，这种生活自然无以为继。于是大量军府户开始逃亡，到了武则天以及唐玄宗时代，府户终于逃亡到无法提供足够兵员的地步，于是唐朝终于不得不面对现实，全面废除府兵制。但又不能回到比府兵制效率更低的征兵制上来，于是只能无奈地选择了募兵制。
然而募兵就一定是万能的吗？并不是。
