双方相持很长一段时间后，等到敌军疲劳的时候，李世民率3500精锐轻骑出发，大军跟随在后，向东涉过汜水，直扑敌阵。
而窦建德的群臣正在朝谒，唐军骑兵突然降临，李世民率领骑兵赴援，所向披靡。淮阳王李道玄挺身冲锋陷阵，直冲出敌阵后方，又重新返回冲入阵中，几番进出，身上聚集的箭像刺猬毛一样，勇气仍然不减，放箭射人，都应声倒地。各军大战，战场上尘土飞扬遮天蔽日。
窦建德的士兵回头看见唐旗在阵后飘扬，迅速崩溃，唐军追出三十里，杀了三千多人。窦建德被长枪刺中，逃窜到牛口渚跑走。
在决定天下归属的虎牢关之战中，李世民将智谋、勇猛、耐心、果断等各种统帅才能发挥到了极至。
窦建德率领精锐主力十余万人前来支援王世充，李世民仅用3500名玄甲精兵为前锋增援虎牢关，结果大破窦建德十余万众，窦建德仅率数百骑逃遁。
随后，洛阳的王世充也被消灭。李世民也奠定了自己在唐军的地位和影响力，得到了军队的拥护，也为后来的宣武门之变打下了基础。
