隋朝末年，天下大乱。翟让对横征暴敛的隋炀帝深感不满，天天说一些杨广的坏话，被判处死刑，后被狱卒私自放走。翟让逃脱大牢后，干脆一不做，二不休，在黄河东南岸，也就是今天安阳滑县南部的瓦岗寨上聚众起义，举起了反隋的大旗。
翟让振臂一呼，单雄信、徐世勣、王伯当等等纷纷过来投奔他，尤其是徐世勣，在《隋唐演义》中被称作徐懋功，是军师的存在。实则真实历史上的徐世勣，却是一位狠人，他自己自我评价说："十二三时为无赖贼,逢人便杀；十四五时为难当贼,心有不快便杀；十六七为佳贼,临阵乃杀人；二十以后用兵以救人。"
他和单雄信、王伯当等，都是勇冠三军的猛将。当然，真正让瓦岗军从地方不知名的武装，成为几乎动摇隋朝根基的军事集团，和李密的到来密不可分。
