对唐朝在政治上支持、军事上赞助的始毕可汗虽然后来自恃助唐有功，不断向唐索取财物，但是唐与突厥并没有发生直接的军事冲突。可是，始毕可汗的后继者颉利可汗却把唐与突厥的军事冲突公开化，迫使唐朝割让国土，以至于到后来，突厥与唐朝多次发生正面战争。
公元626年，唐太宗李世民刚刚即位，突厥大军直达长安附近的渭水便桥北岸，李世民出于利益的衡量，被迫与突厥的颉利可汗达成"渭水之盟"，颉利可汗带着大批金帛领兵北退。
不过，那时突厥内部的矛盾逐渐暴露出来，颉利可汗的苛政引起其他部众的不满；漠北又遇上雪灾，不仅牲畜没有草料可吃，连人也缺衣少吃，灾情持续了一年之久。李世民就利用了这个绝佳的战机，在公元629年正式发起反攻，任命李靖、柴绍等六员大将统率十几万大军，分兵出击突厥。历时4个月，于公元630年3月，唐军大破突厥于阴山(今呼和浩特以北)，其部众纷纷降唐，唐军乘胜追击，生擒颉利可汗，突厥主力十余万全部投降。至此，当了唐朝12年君主的突厥政权彻底灭亡。
唐朝平定突厥后，唐太宗君臣围绕着如何处置突厥召开了讨论会，最终采纳了中书令温彦博"分而治之，以夷制夷"的建议。于是，唐太宗在突厥部族聚居区设置了定襄都督府和云中都督府，由突厥部族首领任职。
