李渊统一关中之后，接下来要收拾的对象，就是洛阳的王世充。当时李渊派出统兵的，同样是李世民。李世民靠着这支精锐，很快就横扫王世充的军队，将王世充围困于洛阳城内，不得不向旁边的窦建德求援。
当时的窦建德，希望李家和王世充两败俱伤之后，自己再出来摘果子。所以，等到王世充被围困洛阳之后，窦建德才率军而来。这一次，窦建德几乎是倾巢出动，带了麾下的全部家当，足有十几万大军。
面对十几万大军的来袭，当时李渊都已经感到害怕，下令让李世民班师回朝，返回关中。然而李世民冷静判断过局势后，并没有这样做，而是带着这支玄甲军，以最快的速度，抵达虎牢关，然后拿下了虎牢关。凭借虎牢关的天险，暂时挡住了窦建德的西进。
