621年,当李世民在洛阳全力围困王世充之际,背后遭到窦建德10万大军的进攻。在这场强强对决的战斗中,李世民敏锐地抓住窦建德犹豫不决的弱点,果断出击,以小规模精锐骑兵对窦建德军队进行反复冲击,最终将之击溃。兵败如山倒,窦建德虽然拥有10万大军,但到最后也无能为力,只能眼睁睁地看着自己的全部家当被玄甲军分割、消灭。
在李世民玄武门之变登基之后,这支强大的玄甲军被拆分,一部分留在皇宫里当禁军,保护李世民的安全,另一部分就分给了在外征战的李靖,玄甲军到了他的手上也发挥了很大的作用,在灭亡突厥中起到了关键的作用,李世民自己组建的这支玄甲军,贯穿着整个大唐的多次战役,在每一次战役中都是最关键的战斗力,多次以少胜多,功不可没。