公元613年，由于隋炀帝无道，单雄信与徐茂公，一起投靠了聚众造反的翟让，在瓦岗山举起了义旗，也算是瓦岗寨的元老。单雄信深受翟让的器重，由于他骁勇善战，勇武过人，在瓦岗也算头号将军，有着"飞将"之称。
大业十三年（617年），翟让在王伯当与徐茂公的建议上将瓦岗之主的位置让给李密，李密自称魏公，封翟让为司徒，单雄信为左武候大将军，徐茂公为右武候大将军。
但随着战争的进行，翟让威胁到了李密的利益，双方矛盾越来越尖锐，李密摆下鸿门宴，打算除掉翟让和他的亲信，这其中当然也包括单雄信。
酒宴上李密的手下趁翟让不注意，直接一刀撂倒了翟让，徐茂公见状不妙，当即就逃了，而单雄信却磕头如捣蒜，向李密去求饶。
