秦琼本是隋朝大将张须陀的部将，为人悍勇无双。但在大海寺之战中，张须陀中计为李密所杀，秦琼最终归降于瓦岗军。公元618年九月，瓦岗军在王世充手上阴沟翻船，几乎全军覆没，秦琼、程咬金、牛进达等将领被迫归降于王世充，而秦琼做了王军的龙骧大将军。
然而王世充为人奸诈，不讲义气，因此不为瓦岗军众将所喜。其后，秦琼等人与投靠唐朝的李密取得了联系，暗中商定投靠唐朝。唐武德二年（619年）二月，秦琼、程咬金等人趁唐郑两军于九曲对阵之时投奔了李唐，被唐高祖李渊安排到秦王李世民府上任职。要知道，当时秦琼等人的家眷还在洛阳，他们为了自己心中的信念甚至连妻子儿女都不顾。
公元619年11月，秦琼随李世民征讨宋金刚，谁知宋金刚手下悍将如云，其中尤以尉迟恭为最。在战斗中，尉迟恭屡破唐军，唐俭、于筠等唐将均被俘虏。
为了对抗尉迟恭，李世民派秦琼和殷开山在美良川截击尉迟恭，并且大获全胜，斩首2000余人。武德三年，宋金刚以残部2万余人与李世民决战，此战中秦琼一马当先，击破敌军北阵，随后李世民率领精骑掩杀，唐军大获全胜，而尉迟恭也在此战中被李世民收入帐下。
