窦建德就带着这两百人，首先加入了家乡附近最大的一股势力，这股势力当时的首领，名叫高士达。加入高士达之后，窦建德被任命做了一个司兵的小官，大概就管着他手底下这两百多人。窦建德起义之后不久，因为早有威望，所以不断有人来投奔他。尤其是后来，当年曾被他接济的那个名叫孙安祖的家伙，兵败被杀了。孙安祖麾下数千人马，也是走投无路，最后大家一合计，干脆直接投奔了窦建德。
就这样，窦建德麾下的势力，开始迅速膨胀，很快就超过了一万人。
已经拥兵过万的窦建德，这时候依然保持了他的朴素精神，习惯于和士兵们同吃同住。正是因为他这种带兵方法，使得士兵们对他也十分信服。这一万人，虽然都出身底层农民，但在窦建德的带领下，却渐渐成了气候。
大业十二年，实力迅速膨胀的窦建德和高士达这边，终于引来了隋朝官方的注意，开始派兵前来围剿。结果这一战当中，当时作为首领的高士达，狂妄自大，不听窦建德的建议，最后自己兵败被杀了。而窦建德，也一度被隋军打得溃败，仅率百人逃了出来。后来到了饶阳县后，才凭着这百来号人攻下了饶阳县作为据点。当时高士达的很多残兵败将，再加上周围一些活不下去的农民，再次来投奔窦建德。就这样，窦建德手下实力再次恢复到三千人左右的规模。
