就大都督来说，唐初为了防止武将专权，大都督一般由亲王或者皇亲国戚来担任，多半是遥领，通常不负责具体的都督府事务，而其副手即大都督府长史则有正儿八经的武将担任，也是都督府的具体负责人，其品级为从三品。
比如贞观年间，晋王李治遥领并州大都督，而则为并州大都督府长史，负责具体的并州军事事务。无论是大都督、中都督或者他们的副手，其实都不可能握有实际的兵权，这和唐初的军事制度很有关系，唐朝延续前朝的府兵制。
大都督也好，中都督也好，手中并没有那么多兵力，兵权都在皇帝手中。唐初设十道约六百多个折冲府，折冲府分三等，上等有1200人，中等1000人，下等800人，这些人组成了全国的府兵。他们主要有两个任务，一是轮番宿卫京师，二是战时被抽调出征。
