贞观十九年（645年）二月，李世民亲征高句丽。李勣率所部抵达幽州，与各路唐军会合。四月，李勣暗中渡过辽水，抵达玄菟。高句丽人大为惊骇，各城都闭门自守。李勣与李道宗攻陷盖牟城，俘获百姓两万多口、粮食十多万石。之后，李勣陆续攻陷辽东城、白岩城、安市城。次年，李勣乘薛延陀内乱之机， 纵兵击破薛延陀残部，彻底灭亡薛延陀政权。
此后，李勣一直在朝廷辅佐唐太宗、唐高宗。永徽六年（655年），李治欲立昭仪武氏（武则天）为皇后，李治暗中询问李勣说："朕打算立武昭仪为皇后，这件事应该怎么办呢？"李勣回答说："这是陛下的家事，何必更问外人！"李治自此坚定了"废王立武"的决心，而李勣也因此得到了李治和武皇后的信任。
唐高宗乾封元年（666年），李治任命李勣为辽东道行军大总管，郝处俊担任副手，庞同善、契苾何力等一并受李勣调遣。乾封二年（667年）九月，李勣挥军进击，连陷高句丽十六座城。总章元年（668年）二月，薛仁贵攻陷高句丽重镇扶余城，扶余川等四十余城陆续投降。高句丽权臣泉男建又派兵五万救援扶余城，与李勣在薛贺水遭遇。李勣合军交战，大败高句丽军，斩获三万余人，乘胜攻取大行城，与唐军各部会合。李勣率唐军对平壤形成合围之势。
经过一个多月等战斗，高句丽王高藏投降，李勣以礼相待，而泉男建仍闭门抵抗。李勣趁势进攻，一举攻陷平壤，擒获泉男建。至此，高句丽灭亡。此战，唐朝共获五部、一百七十六座城、六十九万七千户口，将其划分九个都督府、四十二州、一百县，设安东都护府统管整个高句丽旧地。
总章二年（669年），李勣去世，年七十六。册赠太尉、扬州大都督，谥号"贞武"，陪葬昭陵。后配享高宗庙庭。李治命令所筑的坟依西汉卫青、霍去病的先例为准，仿照阴山、铁山及乌德鞬山建筑，以此表彰李勣击败突厥、薛延陀的功劳。
