张议潮死后，张议潮的侄子张淮深大体上还能保持相对安定的局面。但到后来，西州回鹘攻克了其所下辖的伊州地区，张淮深的实力和威望开始大幅下降。他死后，整个归义军陷入了内乱之中张淮深之子张淮鼎密谋杀掉了张淮深，但他随后又被张议潮的女婿索勋杀掉，可是这个索勋也在两年后被张议潮之孙张承奉杀掉。但在此时，境内的少数民族开始逐渐脱离了归义军的控制，地盘开始大面积的缩小，十几所管辖的地方也仅剩瓜沙二州了。张承奉时期，改归义军为西汉金山国，自称白衣天子，但却再后来被甘州回鹘打得丢盔弃甲，使得张承奉不得不被迫认回鹘可汗为父，成为甘州回鹘政权的附庸，其实力已经大为削弱。
吐蕃吞并安西都护府
后来，沙州另一大豪族的曹议金见到张承奉如此丧失民心，便趁机取代了张承奉，恢复了归义军的名号，自封为归义军节度使。曹议金和他的后代们吸取了张承奉失败的教训，努力的改善和周围少数政权的关系，并且通过联姻设法与甘州回鹘，西州回鹘等部落建立了相对平等关系，并积极恢复与中原王朝的同属关系，接受中原王朝的封号，奉中原王朝为正朔，利用唐王朝的在各民族心目中的声威，以求得在西北少数民族中取得正统地位，对内则继续吸收瓜沙二州地区的名门望族参与政治，扩大其政治基础。使得瓜沙二州地区的经济和民族关系得到了相对稳定的发展，他们不但得到了中原王朝和周边少数民族政权的承认，也得到了境内的军队和民众的支持。曹氏归义军历经七代，但到最后也陷入了内乱和战争归义军政权最终被西夏的李元昊所灭。
归义军政权是在唐末吐蕃奴役汉人而引起的一次正义的反抗，他们身为汉人，心向唐王朝，但怎奈唐王朝已是日暮西山，无暇西顾，国内矛盾激化，社会矛盾日益突出，又生活在复杂的民族关系之中，处境可谓十分的困难。归义军的建立，不但证明了他们对唐王朝的忠诚，也表现出了他们所处环境和地位的尴尬。他们扎根于唐朝西北方向的大漠地区，就像一颗坚韧的小草，远离中原五代十国时期的混乱。
上图为西夏党项族首领李元昊雕像
但他们依旧十分弱小，境内的少数民族也依旧离心离德，直到北宋时期，归义军最终被西夏李元昊所灭，可以说是固势之必然，而这也正是归义军政权的悲剧所在。
