之后李世勣开始跟随李世民、李孝恭以及李神通平定天下。先后参与灭刘武周、宋金刚之战；虎牢关之战；平定刘黑闼叛乱，斩杀徐圆朗；讨伐杜伏威的旧部辅公祏等。625年，突厥攻打并州，李世勣为行军总管讨伐突厥，在太谷将突厥赶走，自此，李世勣就开始镇守并州。626年的玄武门之变发生的时候，李世勣人在并州抗击突厥，所以并没有参与玄武门之变，但还是在李世民登基后得到食实封900户。
629年，李世民命李靖为定襄道行军总管，张公谨为副总管攻打东突厥。其中，李勣为通漠道行军大总管带领一支军队受李靖指挥攻打突厥，几路大军联合作战，在630年迫使颉利可汗投降。这一仗之后李勣还是驻守并州，前后长达十六年的时间。一直到641年，李勣被召回，做了兵部尚书，接着就参与了平定薛延陀之战。
643年，李世民设凌烟阁，用以表彰那些在平定天下、玄武门之变和治理天下的过程中功绩卓著的大臣，其中就有李勣，只是李勣比较靠后，这是由当时李勣的官职所决定的。当时李勣的官职是兵部尚书（正三品）、文散官金紫光禄大夫（正三品），爵位是英国公（从一品）。排在李勣后面的只有秦叔宝。当时秦叔宝已经去世了四年多，虽然秦叔宝在平定天下的过程中战功卓著，又参与了玄武门之变，但是在贞观时期，秦叔宝一直处于半退休状态，并没有任何出征记录，所以官职在贞观时期并没有什么变动。
644年，李世民决定攻打高句丽，七十多岁的李靖因为身体的原因并不能出征，李世民命李勣为辽东道行军大总管从陆上进攻高句丽 ，与水上的张亮协同并进先行。第二年李世民带兵御驾亲征，这一次攻打高句丽虽然没有灭亡高句丽，但还是取得了不错的战绩。
时间很快就到了649年，这一年，李世民病重，凌烟阁的功臣们也剩不下几个了，李世民将李勣留给李治做辅政大臣，从此李勣才真正牛逼起来。在650年成为尚书左仆射（从二品），653年进为司空（正一品），成为军方的大佬，并在后来废王立武中发挥了重要作用。668年李勣终于攻灭了高句丽，一年之后，76岁的李勣去世。
