张议潮认为机会来了，他联络乡亲朋友及唐人准备起义。当时张议潮起义后，没想到响应人太多，因为河西人在唐朝呆习惯了，即使百年过去了，他们依然认为自己是唐朝人。张议潮带领起义军先后收复了瓜州、伊州、西州、甘州、肃州、兰州、鄯州、河州、岷州、廓州等十州，一年后收复沙州，并派人到唐朝进献地图，从此被吐蕃占了百年的河西之地，除了凉州外，全部归为唐朝。
唐宣宗对于张议潮收复河西很高兴，立即对张议潮进行表彰奖励，升张议潮为沙州防御史，张议潮手下其他人也有封赏。此时唐朝政治腐败，国力衰弱，即使张议朝收复河西诸州，唐朝也无力经营，此时管理河西诸州的权力，就成了张议潮一人的事。张议潮虽然成大唐官员，但没有俸禄，为了养兵备战，张议潮采取开垦养兵的办法，平时军队耕田种地，搞好战备，只要吐蕃及西边小部落来时，就痛击他们。
张议潮靠自食其力巩固了河西的统治，吐蕃等一些部族就是打不过张议潮。此时，张议潮势力很强，如果称帝也够条件。如果他以河西之地登基，没人会反对。但张议潮始终坚定认为自己是唐人，即使唐朝皇帝再昏庸，王朝衰弱了，他都没有谋反之心。
