李密上瓦岗军之后，徐世勣使用奇计帮助李密逐鹿中原，在洛水两岸几次大败王世充，之后又打败宇文化及，迫使其解围而去，使瓦岗军军力大振，但是这个时候的李密开始骄傲自满，不再体恤将士，使得瓦岗军将领离心离德，徐世勣数次相劝，遭到李密的疏远；李密反而对贪财的邴元真言听计从，李密被王世充击败，聚集余众归顺唐朝，之后不久徐世勣也投降李渊。
徐世勣投唐之后，一生历事唐高祖、唐太宗、唐高宗三朝，深得朝廷信任和重任。他随唐太宗李世民平定四方，两击薛延陀，平定碛北。后又大破东突厥、高句丽，成为唐朝开疆拓土的主要战将之一。他出将入相，功勋卓著，被朝廷倚为干城，为凌烟阁二十四功臣之一， 历任兵部尚书、同中书门下三品、司空、太子太师等职，累封英国公。
公元669年12月31日，李勣病逝，享年七十六岁，李治闻讯后为之悲哭，下令辍朝七日，册赠李勣为太尉、扬州大都督，赐谥号"贞武"，允其陪葬于昭陵，但是在公元684年这个为唐朝开疆拓土，立下不世功勋的名将，因为其孙李敬业起兵讨伐武则天，勤王救驾被武则天追削李勣的官爵，将其掘墓砍棺，恢复本姓徐氏。公元705年，唐中宗李显复位，下诏恢复李勣的官爵，并重新为他起坟改葬。
