隋朝免了梁师都的官之后，隋朝少了一个正五品的武将，多了一个即将造反的反王。
回到家乡之后，梁师都或许是对此心存怨恨，或许是看到隋朝已经风雨飘摇，马上就不行了。于是，在家乡一带，梁师都开始主动结交当地的盗匪，并且，借助梁家在当地的势力，开始起兵。大业十三年二月初一，梁师都杀了当地的郡丞，在当地正式起兵造反。
这时的梁师都，倒也不傻，知道自己势单力薄，难成大事。梁家在当地虽是大族，但如果放眼天下的话，那还真排不上数，更没多大影响力。所以，梁师都如果想活的更好更长一点，唯一的选择，就是尽快抱一条大腿，先站住脚再说。
最终，梁师都选择的这条大腿，名叫突厥。
梁师都的家乡，在隋朝的时候，已经是西北边境了，和突厥距离极近。起兵之后，梁师都果断投靠突厥。对于梁师都的投靠，突厥人也十分高兴。作为北方游牧民族，他们也乐得看到中原王朝内乱。在突厥人的帮助下，雕阴、弘化、延安等地，基本上拿下了今天的半个陕西。
