公元620年七月，李世民以罗士信为先锋出征盘踞洛阳的王世充，激战至第二年五月，王世充投降，和王世充一起坐上囚车的还有赶来救他的夏王窦建德。李世民拿下洛阳后，挑出一些能用的人才留下来，踢走了一些人浮于事的人，杀了几人以平民愤，有段达、崔弘丹、朱粲等人，其中有一天名气很大，有点冤杀的味道，李世民似乎还在忌恨当年战场上那差点要他命的一刺，虽然被尉迟敬德救了，这人是谁，他就是大名鼎鼎的单二哥单雄信。李世民杀了单二哥，令绿林大感失望，更出人意料的是，他爹李渊将夏王窦建德杀了，这下捅了马蜂窝了，原本已经投降唐军的，原窦建德的部下重新走上了叛乱，许多名将猛将因此覆亡。
原窦建德的部将认为："王世充以洛阳降，其下骁将公卿、单雄信之徒皆被夷灭，我辈若至长安，必无保全之理。且夏王往日擒获淮安王，全其性命，遣送还之。唐家今得夏王，即加杀害，我辈残命，若不起兵报仇，实亦耻见天下人物。"他们怕死，反正投降得死，不投降可能也死，但还不如跟唐军拼下。范愿、董康买、曹湛、高雅贤、王小胡等窦建德旧部一商量，开始焚香占卜，当以刘姓为主，高雅贤等人奉神的"指示"找到刘黑闼，推举刘黑闼为主，聚众起兵，先后攻下数座州城，仅用半年的时间，就重新占据了整个河北地区。唐军损失惨重，连战连败，丧师失地，多位大将猛将被杀或击败，如淮安王李神通惨败，薛万均、薛万彻被俘虏，生擒定州总管李玄通（后自杀），甚至连大将李世勣（徐茂公）也被刘黑闼击败。
消息传到长安，李渊只好让秦王李世民率大军征讨。先头打的很顺，李世民派部将王君廓留守已经投降的洺水城，为了夺回洺水城，刘黑闼下了死手，一是命令死手是挖地道通往城内，二是严防死守，堵截李世民的增援。李世民连增援几次都被击退，眼看着刘黑闼的防线一天天巩固，行军总管罗士信主动请缨：代替王君廓守城。已经断粮数日，疲惫不堪的王君廓率领残部突围而出，与此同时，罗士信率领二百侍从冲进洺水城，以罗士信之才足以坚守，来解洺水城之围。然而天气跟他开了致命的玩笑，罗士信进城不久，大雪纷飞，一下就是八天。这八天里，刘黑闼日夜不停进行攻击洺水城，而李世民的援军却寸步难行，原地踏步。八天后，洺水城破，罗士信成为了刘黑闼的俘虏。
