谁知在饶阳城南的战斗中，李神通一鼓而败，本人带着亲信望风逃遁，兵马和军需物资损失三分之二，一时间刘黑闼声势大振。
经过此战后，李渊终于明白，李神通并无担任一军统帅的本事。于是李渊将李神通任命为李世民的副手，跟着侄儿混混资历。最终，李神通跟随李世民一同平定了徐圆朗、杜伏威、刘黑闼等割据者，并因功被封为左武卫大将军。虽然李神通功劳没立多少，但升官倒没停过。
由于长期在李世民手下任职，两人结为了死党。在李世民与李建成的争斗中，李神通毫不犹豫地站在了二侄子一边。武德九年（626年），李世民发动玄武门之变，夺取了帝位。虽然李神通没有直接参与，但在前天晚上却参与了谋划，因此也被李世民高看了一眼。
