随着李渊势力的扩张，不久后内部便再次做出调整。由李世民担当了"北道元帅"，殷开山就是在这时，追随了李世民，很快就显现出了其超凡的实力。
由于隋末唐初时天下大乱，许多百姓活不下去了，便都纷纷反了隋朝，或占山为王或组团抢劫等，以致于关中地区混乱异常，流寇遍地。李世民便命殷开山，前去招抚这些流寇。
这其实是一项非常危险而艰苦的事。
一则，皆知人饿急了，啥事都能干得出。二就是，这些流寇没有啥道义可言，一句话说不好，后果如何谁都清楚。哪料，殷开山不但完成了这个任务，还把这些流寇们，组织成一支队伍，进行了相关改造后，给李世民带了过来。这等于是一彪生力军了！
