李勣为人小心谨慎，对于皇帝家事一概不过问。公元655年，李治欲废王皇后，立武则天为后，但朝中的大臣都反对他这个做法，反对派与支持派双方剑拔弩张，呈拉锯之势，李勣位高权重，他要投的一票显得非常关键，李治想到了李勣，便问他：朕打算立武昭仪为皇后，褚遂良固执己见，以为不可，爱卿有何看法啊？"
李勣考虑再三，觉得这个难题十分不好解决，表面上看似乎没有太宗驾崩时的那一次有眼前的杀身之祸，但旋窝之下暗流更为险恶，李勣回答到："此陛下之家事耳，何必更问外人!"对于李勣的这个回答可以说是完美。皇帝自己的家务事，你尽管再位高权重，但毕竟你是外人，掺和入宫闱之事无论成败，最终恐怕难逃一死。
公元666年，高句丽国内发生内乱，李治看这是一个好机会，于是任命李绩为辽东道行军总管，率兵二万进攻高句丽，李勣一路北上，大破高丽军，不久，城内人投降唐军为内应，大开城门，平壤城最终被攻下。自此高句丽被灭，归唐朝统一管辖。
李勣回国后不久，因征伐劳累而病重，于公元669年12月31日去世，享年七十六岁。李勣的一生历事唐高祖、唐太宗、唐高宗三代帝王，深得朝廷信任和重任，而他也被朝廷看做是最为重要的中流砥柱
