杀父之仇不共戴天，单雄信又重情重义，自然不会轻易原谅他。更糟糕的是，后来李渊遭到宇文述的刺杀，在逃亡的路上误以为单雄信的哥哥单雄忠是前来追捕自己的追兵。于是一箭射死了对方。这三件事情叠加在一起，单雄信对李渊的仇恨更深了。
于是在后来，各路人马纷纷起兵反抗隋朝统治时，单雄信加入了瓦岗军中，同期起义的还有李渊等人，他们一边共同反抗隋朝，一边又互相斗争，毕竟谁都不想让对方夺得这个天下。最后，势力最大、实力最强的李渊打败了隋朝，成立了李唐王朝，剩下的起义军不少都投奔了李渊父子。
而单雄信怎么也不答应，就算自己的结义兄弟再三恳求，他也不肯屈服。当时大局已定，小小的单雄信自然无法影响当时的局面，可他不甘心，于是他单枪匹马要与李渊父子决一死战，最终被李世民活捉。虽然李世民多次想要招揽单雄信，但"绿林盟主"誓死不降唐。
