李渊父子建立唐朝政权后，为了解决统一战争的兵源和粮食问题，于是恢复耕田与作战二者兼顾的府兵制度，开始设置军府，其制度完全沿袭隋朝制度。唐初的十二卫军将因战乱常常在外领兵或镇守，十二卫大将军只是崇宠的名号。当时关中地区分为十二道，每一道设一军府，后又改"道"为"军"，并为十二军。军下设坊。其实在当时关内军府的建立仅具雏形，除十二卫、十二军外，李建成、李世民、李元吉三王都开府领兵，东宫左、中、右三卫府，世民、元吉的秦齐王府也各设六护军及左右亲军府，它们都自成系统。
贞观初期，太宗李世民已经天下大定，开始整顿和加强府兵制度。唐政府根据山川自然形势，划分全国为十道，并派人员经常巡查各道，目的在于加强中央对地方的控制。唐太宗贞观十年，确定军府的专名为折冲府。折冲府是府兵的基本单位，它分布全国，而又以关中较为集中。据史料统计，唐十道折冲府分布的情况是：关内道二百七十六府；河东道一百四十一府；河北道三十府；山南陇右道二十九府；剑南道十府；岭南道三府；江南道二府。
府兵的统御机构是卫府。李世民用卫统府的办法，将军府统帅的品级降低，军府增加，即将原来的骠骑、车骑府统一改为折冲府，以折冲都尉、果毅都尉分任正副统将，使军府分隶于十六卫及东宫六率。折冲府按兵员的多少，分为上中下三等，上府一千二百人，中府一千人，下府八百人。府兵制至此定型。十六卫所属各折冲府，有内府、外府之分。内府有左右卫直属的五府，即亲府、勋一府、勋二府、翊一府、翊二府，左右卫之外其他各卫直属之翊府及东宫左右卫率直属之亲、勋、翊三府亦属内府；除上述内府以外的各折冲府都属外府。
