玄武门之变后，李世民掌权。他并没有因为李靖不是集团的人就冷落疏远。他依旧像唐高祖一样信任他、重用他。贞观元年，任命他为刑部尚书，赐封四百户。贞观二年，又兼任中书令。贞观三年，转任兵部尚书。
国内太平之后，突厥的威胁便日益凸显。李渊在太原起兵时，曾向突厥撕逼可汗称臣，以换取北方的安定。但突厥并不安分，经常骚扰边境农民，还支持薛举、刘武周等割据势力。随着唐朝逐渐统一，突厥感到了压力，他们不想看到强大的统一王朝。唐朝也不会容许突厥的骚扰。所以，双方必有一战。
先动手的是突厥。
武德八年八月，突厥颉利可汗率领十万突厥大军越过石岭，进攻太原。李渊急忙调兵防守。李靖任行军总管，率一万唐军驻守太谷。突厥来势凶猛，唐军无力抵挡。并州总管任瑰全军覆没。唯独李靖的军队得以保全。不久，李渊又调任李靖为灵州道行军总管，责任就是抗击突厥，防止突厥大军进一步南下。
武德九年八月，李世民即位不满一个月，颉利可汗就给这位新皇帝送了份"厚礼"。他率十几万精锐骑兵进犯泾州，并长驱直入，一直打到渭水便桥的北边，威胁唐朝首都长安。由于突厥来势凶猛，当时征调的防守军队竟然尚未赶到长安。为解长安之危，李靖及时调集军队，准备斩断突厥退路，威胁突厥大军的后方。在这种情况下，李世民冒险亲自到渭水桥边，与颉利可汗结盟，突厥才退兵后撤。
双方虽然结盟，但大家都知道，这只是暂时，和平不会以"结盟"这种方式出现。和突厥的战争，这只是开始，而不是结束。
