唐朝疆域图
这种"以胡制胡"的管理方式在唐初起到了很好的管理效果，因为当时李唐王朝很强势，中央政府力量强大，羁縻府州制度有效地发挥了其积极的作用，既征服胡人之心，又表现唐王朝统治者的宽容友善的态度。当时边疆是比较安定的。
可是，羁縻府州制度要发挥积极作用，必须有一个前提，那就是中央政府力量很强大，足以威慑边疆州府，而一旦中央政府军事力量变弱了，羁縻府州制度便会发挥出消极的作用，既成了边疆胡将用以离心中央政府的政策工具，所以，这是有很大隐患的。
其次，"以胡治胡"政策让边疆地区胡风盛行，长期保留着胡化习俗，这给有谋反之心的胡将脱离中央政府提供了便利条件。
羁縻府州的都督或刺史是胡人首领，而且可世袭，州地风俗完全胡化，即便有汉族人在那里居住，也很快胡化，汉文化很难对其发生影响。久而久之，羁縻府州与唐皇室的关系就疏远了。唐统治者对其管理中间隔着文化、习俗和语言，只能靠通晓胡语、汉语的使者去沟通，管理自然很不顺畅。而且，后来朝廷还常常征调羁縻府州的突厥兵去外地打仗，这引起了突厥人的不满，羁縻府州的首领便有了复国的想法。
