公元616年，由于对外连续征伐高句丽，对内同时开展了修长城、挖运河、建东都等浩大工程，曾经强盛得令人震惊的隋王朝，已经乱成了一锅粥，国内农民起义遍地开花，瓦岗军就在这个大势下诞生。
与后来割据一方的大多数枭雄一样，瓦岗军的创始人也来自体制内。东郡人翟让，当初是东都洛阳的司法官员"法曹"，平日里为人骁勇，得到了不少人的青眼。这一年，他因为犯事被关进了大牢，按律当斩。好在一个名叫黄君汉的监狱官鼎力相助，翟让得以逃出大牢，躲到瓦岗落草为寇。
当时天下大乱，民不聊生，安分守己难以立身安命，青壮年无不蠢蠢欲动。翟让落草后，他的同乡单雄信也纠集了一批后生前来投靠。
史书称，单雄信为人"骁健，善用马槊"，成了瓦岗的得力干将。此外，队伍中还有个名为徐世17岁小伙，他出身于离狐（山东菏泽），后迁居到卫南县（河南浚县），跟翟让等人也算半个同乡。
