为了消除窦建德在河北的影响力，李渊还将窦建德的部将都招到长安进行统一管理。但是窦建德的部将看到窦建德被处死，并且王世充的部将也遭到唐廷诛杀。他们担心唐廷并没有自己的容身之处，所以毅然决定反唐。
于是以刘黑闼为首的窦建德旧部在河北聚集，并且对河北的唐军发动攻击，一时间河北地区大部分土地都落入刘黑闼的手中。
刘黑闼在河北那么闹腾，唐王朝自然不会放任不管。公元622年二月，秦王李世民再次率军去平定刘黑闼的叛乱。双方在洺州发生决战，刘黑闼虽说是一员猛将，但是国力毕竟不如唐王朝，并且对方主帅还是能征善战的秦王李世民，最终刘黑闼被李世民打得大败，刘黑闼本人带领一千部众逃到了突厥，等待机会再次出击。
