后来，由于遭到冤枉，所以窦建德的一家老小都被杀了，此时的他对朝廷更加不满，所幸直接投靠了起义军高士达。这个高士达说是起义军，实际上就是个流氓，经常欺凌老百姓，很没出息的一个人，但窦建德投靠了他后，他十分器重窦建德，给他极大地权利。而孙安祖最后身死，他手下的人也纷纷过来投奔窦建德，窦建德的兵马越来越多，已有一万余人。
后来隋朝企图扫平高士达的势力，便派来了郭绚讨伐高士达，这下弄得高士达非常慌，他所幸直接把军权给窦建德，窦建德跟高士达预谋好，玩了一手无间道，最终大败郭绚，权势再度提高。之后，高士达身死，于是窦建德就成了老大，他带着百余人逃走，跑到了饶阳县，凭借着百余人，成功攻占了这个县城，而且城内的百姓都十分支持窦建德，不少人还选择跟随他。
窦建德很重情义，他选择了替高士达报仇，回去替高士达举办了葬礼，全军都穿上了白丧服，并且把之前被打散的弟兄们招集起来。当时窦建德名声极好，所以不少郡县的守军都不想抵抗他，所幸直接投降，窦建德的势力越来越大，拥兵数十万，自立为王。后来隋炀帝身死，窦建德攻打宇文化及，并成功处斩他父子二人，在河北割据一方，声望以及势力都达到了鼎峰，此时的窦建德离统一中原，已经相差不远了。
但只可惜，到最后虎牢关之战，窦建德因为没有坚信自己的谋士所提出的建议，而败给了李世民，导致前功尽弃，痛失江山，最终还是李唐夺了江山。但他却是真正的起义军，为百姓着想，对手下的将士也极好，有好的东西都会拿去给他们分享，绝对不会自己一个人贪污，这样的领袖，也值得百姓的悼念。所以当时河北有许多窦建德的庙，不少百姓都去那里烧香，这对差一步美满的窦建德，也算是一种安慰了。
