在服役六年之后，这批将士本来以为唐朝政府会履行自己的承诺，将自己送回家乡。但是当地的负责人以军费不足为由，要求他们再在桂林服役一年，这一言论彻底激起了戍边将士们的愤怒，于是他们联合起来，杀死了长官，并推举庞勋为首领，开始向自己的家乡徐州进发。虽然庞勋一行只有八百多人,但是他们战意昂扬，沿途的州县都无力阻挡他们。
在他们走到湖南境内的时候，唐朝政府为了安抚他们的情绪，下诏赦免他们的罪过，并命人护送他们回到徐州。庞勋等人便放下了兵器，接受唐朝政府的调动，但是庞勋看到沿途州县依然陈设重兵，便知道政府对于自己并不相信，于是他们决定重新拿起武器，并在当地招募人手。
此时唐朝政府对于如何处理他们也没有定论，因此还有当地官员为他们送来粮草，这让他们有了再次起兵的基本。
后来他们向唐朝朝廷申请处罚他们之前的领导，遭到了拒绝，两者再次闹掰，开始了互相攻伐。此时的庞勋队伍已经达到千余人，他们迅速击败了宿州的将领，并很快就来到了徐州城下。当时此地的部分百姓也不满意唐朝政府的领导，于是他们的队伍迅速扩大，并连续攻陷了徐州，濠州，泗州等军事重镇，声势十分浩大。
