但在唐朝建立之后开始的大战中，李神通虽然被委以重任，但是实在难堪大任。他做山东道安抚大使的时候，在山东一带与宇文化及遭遇，宇文化及被李密打败之后逃到了魏县，在魏县匆忙称帝，但元气大伤，所以在与李神通的对战中，宇文化及一路退到了聊城。
后期宇文化及看躲不掉了，就告诉李神通要投降，但是李神通觉得投降了就没有办法得到战利品来论功行赏，因此不听副手的建议硬要攻打宇文化及。在攻打的过程中又害怕别人抢功而耽误了最近进攻时间。
总之，宇文化及没有打下来，窦建德却来了。李神通一步步退到退无可退，最后直接被窦建德俘虏，山东的大片地盘都成了窦建德的。
这是李神通的第一次大败，第二次也有窦建德有关系。李世民拿下窦建德和王世充之后，将两人押赴长安，李渊下令将窦建德处死，这一下子激起了窦建德旧部的反抗，他们联合起来选了刘黑闼做首领起兵了。
