另外由于三国两晋南北朝是战乱时代，各政权都要在地方上设立权力较大的军区来应对突发情况，都督便应运而生了。相比较负责行政的刺史，都督则是兼管军政，地位和影响都要比刺史大很多。
正因为如此，都督后来对中央集权也产生了很大的威胁，隋文帝登基前最大的政治危机"三总管之乱"就是都督制引发的。所以在隋朝建立后，都督开始被削弱。到了唐朝贞观初年，全国大部分都督都被唐太宗取消。
不过由于各种原因，唐太宗依然还保留了部分州的都督。不过这些都督基本上都是临时性的虚衔，基本上都不掌握实权。虽然如此，"都督"的品级和名义上的权力都是要大于"刺史"的，这也是方谦等人在狄仁杰面前心里发虚的原因。
