直到公元627年，唐朝初年，李世民计划北伐突厥颉利可汗，开始从民间招募隋末各路义军将士，苏定方选择再次入伍参军，任督道府折冲：折冲府分上、中、下三等，上府一千二百人（有时增至一千五百人），中府一千人，下府八百人，所属的兵士通称卫士。每府置折冲都尉一人，左右果毅都尉各一人，别将、长史、兵曹参军各一人，这是府一级的组织。府以下，三百人为团，团有校尉及旅帅；五十人为队，有队正、副；十人为火，有火长。
贞观四年（629年），太宗采纳代州都督张公谨建议，以颉利可汗与唐结盟又援助叛军梁师都为借口，派大军征讨突厥。共兵十余万，分道出击突厥，630年正月，李靖在阴山大败颉利可汗，而生擒颉利可汗就是苏定方，他奉命率200弓弩骑兵突袭东突厥颉利可汗大帐，让突厥部队阵营大乱，李靖随即率大军合围，斩杀突厥上万人，俘获突厥男女十余万，颉利可汗在逃亡途中被其余唐军抓获，东突厥至此灭亡。
此战，率200轻骑为先锋，突袭颉利可汗大帐的苏定方立下首功，获封武侯中郎将，（这可不是丘发中郎将，人家可不会盗墓。）但此后一直销声匿迹，没有出现在战场上，直到25年后。这又是为什么呢？
其中有这样一说法：因为当年先后投靠的窦建德、刘黑阙等义军，李世民对苏定方的选择到后来还是不满意的，所以将其遗弃雪藏了。
