南方平定之后，北方又起狼烟，唐朝迎来了第一个外敌东突厥。
隋末唐初，东突厥实力非常强大，李渊晋阳起兵之时，曾向东突厥始毕可汗称臣，以换取北方的相对安定。唐朝建立之后，东突厥一方面支持薛举、刘武周等割据势力，分化瓦解中原，一方面不时南下侵略。
但唐朝之初，唐朝实力相对弱小，加之内部还未统一，所以对嚣张的东突厥主要采取战略防守，实际就是"忍气吞声"。直到江南平定之后，李渊才将李靖调到北方，以反击突厥。
公元626年，唐朝爆发玄武门之变，李渊退位、李世民称帝，颉利可汗利用唐朝内部混乱，率领十几万精锐骑兵再次进犯泾州，并长驱直入，兵临渭水便桥之北，几乎就是兵临长安城下，而长安城内仅有万余兵力，李世民迎来称帝之后最大的一次危机。在此情况下，李世民亲临渭水桥，与颉利可汗结盟，突厥退兵。不久之后，李世民任命李靖为兵部尚书，做反击东突厥的准备。
唐朝与东突厥结盟之后不久，东突厥发生内乱，所属的薛延陀、回纥、拔野古诸部相继叛离，屋漏偏逢连夜雨，东突厥又遭遇风雪，羊马死亡甚多，内部发生了饥荒。所谓趁你病、要你命，代州都督张公瑾建议北伐东突厥。
