隋朝末年，他家本身一方富豪，但是他身上并没有公子哥的习气，反而一身正气。他认准了瓦岗军这支队伍，毅然加入。在主帅面对隋军产生逃跑想法的时候，他却毫不畏惧还劝主帅要坚持战斗。最后果然打败了隋军，还绞杀了对方的将领。这临阵不退缩的强者风范，在战争初期就显露无疑。
在洛水与隋军大战时，他用兵神奇，施计巧妙，使隋军大将多次惨败，最后还逼得对方向唐王李渊投降。李勣是个有谋略有胆识的大将，唐朝初期对战突厥的时候，他的威风也令突厥大受打击。
贞观十五年，李勣曾令大度设一族二十万大军惨败。这场战役，他的军队斩杀了三千多的敌军，还俘虏了五万多人，另外抓回马匹一万五千多。这次战役后大度设落荒而逃，从此听到他的名字就十分惧怕。随后他还在平定突厥某部的叛乱中，再次俘获了一千多部民。多次与突厥的作战，他都把大唐的军威发挥到最大，使突厥望而生畏。
