后来宇文化及的弟弟运来了粮草，窦建德也带人赶了过来，李神通只好被迫撤离。而窦建德只用了两天就打下了聊城，将宇文化及的地盘全部接手。之后窦建德又带着大军攻陷黎阳，俘虏了李神通、魏征、李世勣等人。因他是唐室宗亲，所以窦建德并没有为难他，还以宾客之礼对待他。
唐朝消灭窦建德后，李神通回到唐朝，并再次受到启用。当时窦建德部将刘黑闼起兵造反，李世民让李神通带兵镇压。李神通召集了五万人与刘黑闼大战，结果再次大败而归。兵马和武器辎重都损失了三分之二。后来李世民要对朝臣论功行赏，要他们自述功绩。李神通还为自己居于房玄龄、杜如晦之下感到委屈，李世民当场翻出他的老底，让他尴尬不已。
李神通死后，让人给他写了一篇墓志铭。上面将他的几场败战都篡改了结局，还有万夫不当之勇，简直是当世战神。吹牛吹成这样的，估计唐朝也就只有他一个人了。
