在经过一个多月时间消耗后，原本斗志满满的夏军变得士气低落，军中许多将士都发牢骚抱怨凭什么来救援王世充。
武德四年（621年）五月初一，李世民让安插在夏军中的间谍给夏军高层散布了一个假情报，说唐军战马草料已吃完，现在正在黄河北岸放牧。冷兵器时代的战马就相当于现代战争中的坦克，虎牢关中的唐军没有战马在身边，那战斗力自然严重下降。窦建德决定利用这一机会向唐军发动全面进攻。
五月初二，窦建德率10万大军列阵鸣鼓，兵威大盛。虎牢关中的唐军将士见此情景不免心中感到惊恐。李世民却对大家说："盗匪在山东起兵，没遇过真正的强敌，眼下鼓噪喧哗，毫无纪律，不用多久就会士气衰竭，过了中午我们就能将他们击破。"众将疑惑地望着李世民，不知道这位秦王殿下葫芦里卖什么药。
农历五月的天气已经开始有点热起来了，夏军列阵敲鼓折腾了一个早上，唐军没有出战，夏军将士们自己却折腾地又累又饿，军中不少人开始松懈下来，阵地上不少人还在抢着喝水。李世民在虎牢关上一览无余，于是他认为与敌人决战的时机已到来，遂亲自率军发起总攻。
