杜伏威是齐郡临济（今山东章丘西北）人，少时落拓无形，游手好闲，穷得叮当响，为了生计，常干些入室撬窃的勾当，是个典型的无业流氓。都说物以类聚，人以群分，结果赢得了同乡人辅公祏的赏识，两人相见恨晚，很快结为刎颈之交。
辅公祏是个讲义气的人，为了接济穷困潦倒的杜伏威，多次偷拿以牧羊为业的姑姑家的羊给杜伏威解决温饱问题。
而他姑姑也不是省油的灯，眼看羊圈里的羊一天天减少，一时又找不到贼，于是报了官。官府马上就派人来调查，结果吓得辅公祏和杜伏威两人拔腿就跑……这一跑，再也没有回头；这一跑，跑进了草泽地；这一跑，当了个山大王；这一跑，跑出了个未来。
辅公祏和杜伏威很快就不满足于山大王的职业，他们觉得要想成大气候，必须寻求强大的庇护伞，才能出人头地。正在这时，机会不期而降。隋大业九年（公元613年），王薄领导的长白山义军已成欣欣向荣之势，两人一合计，觉得王薄是个值得依靠的人，于是率众前去投靠。
