东突厥灭亡后，原来受东突厥欺压的铁勒族人薛延陀部开始强大起来，不断积蓄力量，袭扰边境。贞观二十年（645年），李勣奉唐太宗李世民率军，穿越沙大破漠、草原，进军达乌德鞬山，大破薛延陀部。唐朝军队悉数占领了薛延陀的领土，并在其地设置燕然都护府（今内蒙古五原县）。
李勣参与平定东突厥和薛延陀的战争，对稳定唐朝初年的国家局势起了很重要的作用，促进了当地经济发展和社会进步，也促进了各民族之间的融合。劼利可汗被唐军俘虏后，受到唐太宗的宽大处理，任命他为右卫大将军，并"赐以田宅"。唐太宗宽大为怀的民族政策，因而在当时的各民族中享有很高的威信，"西北诸蕃，咸请上尊号为天可汗"，成为各民族的最高领袖。由此可见，李勣平定东突厥和薛延陀部的战争，是符合整个中华民族利益的，是可以被称为民族英雄的。
李勣在并州驻防十六年，是唐初著名良将。贞观十五年唐太宗就说，隋炀帝不能选择良将"安抚边境"，只知"筑长城以备突厥"，这是极愚蠢的做法。朕今委任李世勣于并州，遂使突厥畏威遁走，塞垣安静，岂不远胜筑长城耶？可见，太宗称赞李勣"其为长城，岂不壮哉！"遂又任命李勣为兵部尚书，不久又升任其为宰相。
