听闻刘黑闼起兵，河北地区的窦建德旧将均纷纷响应。他们杀死了当地的唐朝官吏，刘黑闼的军队迅速扩充到十多万。随后，刘黑闼击溃了李神通和罗艺的联军，生擒唐朝名将薛万均和薛万彻，并打得大唐军神李勣仅以身免。
仅仅不到半年时间，刘黑闼就收复了夏国所有的地盘。而刘黑闼之所以进展如此之快，除了足智多谋、勇猛善战之外，其主要原因就是李渊杀害了窦建德。都说"哀兵必胜"，刘黑闼统领的，就是为窦建德复仇的"哀兵"。
但在洺水，刘黑闼粮草吃尽，加之中了李世民的水攻之计，不幸被挫败。于是他带领亲信骑兵，奔入突厥。
武德五年（622年）六月，刘黑闼借助突厥的力量卷土重来，与齐王李元吉交战。在战斗中，刘黑闼大败李元吉，并杀死了唐军大将、李世民的堂弟--李道玄，再次恢复窦建德的旧境。
