当年秦琼因为王世聪这个人奸诈无比，所以与程咬金等人一起投靠了李世民。李世民早就听说了秦琼的名声，所以对他十分的礼遇，还授予了他军马总管的职位，让他跟随自己一同镇守长春宫。
武德三年四月的时候，宋金刚因为粮草不足而现被逃走，李世民一路追击。宋金刚用残余的部队在城西列阵与李世民决战，李世民派遣秦琼、程咬金迎战。在与宋军交战后李世民假装后退，等宋金刚来追的时候，李世民又亲自率兵追杀，结果宋金刚打败了逃走。
同年期七月的时候，李世民率军攻打王世充，秦琼作为先锋。在征讨洛阳的时候，李世民挑选了一个由千余人组成的骑兵团命令这些人身穿黑衣玄甲分为左右队，由秦琼、尉迟敬德等人统领，每次作战的时候都亲自作为前锋使用，这些人所向披靡攻无不克。
