既然有常备军戍边，就有专门的军事长官负责管理，节度使因此应运而生，最开始，节度使也是临时性质的，由使持节的都督临时担任，随着时间的推移，为了更好地满足战争的需要，节度使成为一种正式的职业。
"景云二年，以贺拔延嗣为凉州都督、河西节度使。"这是节度使成为正式职业的开始，到了唐玄宗时期，为了应对边境随时发生的大规模战争，唐玄宗给了节度使越来越大的权力。"既有其土地，又有其人民，又有其甲兵，又有其财赋，以布列天下。"
节度使由此成为握有军、政、财权的地方大佬，相当于土皇帝了。这本来是为了方便边境的战争需要，但随着节度使制度的成熟，节度使在边镇的权力越来越大，兵员都他自己招募，很大程度上都是他的私兵，这与朝廷的正规军是有很大区别的。
安史之乱发生的时候，各地的节度使兵力近五十万，而正规军不到二十万。安史之乱之后，河朔三镇割据，成为唐王朝半独立的存在，其他的节度使虽然没有割据，但也在很大程度上谋求某些方面的独立，因此，唐朝中后期的藩镇割据是很严重的，几乎拖垮了整个唐王朝。
而在整个唐朝中后期，行军大总管和都督等并没有被裁撤，只不过基本是是废置了。在节度使强大的权力和皇帝对武将的不信任之下，行军大总管不再设置，而都督也名存实亡。
最典型的例子就是758年，郭子仪、李光弼等九大节度使领兵六十万攻打安庆绪，结果唐肃宗不信任武将，以至于不肯选出一人做行军大总管，统领诸节度使，反而让宦官鱼朝恩做观军容宣慰使，让外行对内行指手画脚，致使大家各自为政，一阵大风就把唐军折腾的够呛，也难怪安史之乱能持续那么久的时间了。
