隋炀帝大业十二年十一月，秦叔宝跟随张须陀征讨瓦岗寨，在荥阳张须陀和秦叔宝分兵两处，正好中了李密的埋伏，张须陀在大海寺力战身死，秦叔宝和其帐下的齐郡子弟因为没有了领头羊，只能投靠了虎牢关的裴仁基。
后来裴仁基和御史萧怀静不和，且天下以乱，各路诸侯纷纷佣兵自立，大隋朝名存实亡，裴仁基只能投降李密，而秦叔宝也被迫上了瓦岗寨。李密听闻秦叔宝来降，十分高兴，马上任命秦琼为账内骠骑，与程咬金等一起统领八千内军，地位不可谓不高。
在瓦岗寨，秦叔宝结识了程咬金、徐世绩、单雄信和谢映登等英雄豪杰，虽然没有演义小说中的贾柳楼四十六友焚香结义，但是秦叔宝为人忠厚正直，而且作战勇猛，所以和程咬金等人的关系也非常铁。
