离开北平府后，秦琼又辗转被杀父仇人靠山王杨林所赏识，成为杨林手下的十三太保。而后秦琼行走江湖所结识的好友及北平府罗成、张公瑾等人一同来历城县给秦琼母亲祝寿，却因为程咬金劫皇纲事泄漏，被杨林抓获，秦琼等救出程咬金后决定起义反隋，并于贾柳楼结义。
在徐茂功的建议下，秦琼单雄信等袭取瓦岗寨，以瓦岗为根据地，正式揭竿起义。程咬金称混世魔王、大德天子，秦琼为兵马大元帅，徐茂功为护国军师，单雄信、谢映登等为瓦岗五虎将(小说版本不同，五个人也有所不同)。
瓦岗后来因为新君主李密用玉玺换萧妃，搞的众将士离心离德，秦琼程咬金等离开瓦岗到了洛阳，因见王世充为人奸诈，于是设计离开，投奔到李世民帐下，随李世民东征西讨，统一天下，被李渊封为护国公。后参与玄武门事变，助李世民登上帝位。
