李靖在隋朝时期就被许多人看中，隋朝的左仆射杨素以及吏部尚书牛弘都非常赏识他，不过，在那时，他还没有崭露头角，但是也已经是一名郡丞了。在当郡丞期间，他察觉到了李渊造反的意图，就想假扮成囚徒，偷偷去通知隋炀帝。
不过，最后他却被李渊父子抓住，在李世民的求情之下，他才被放了。此后就成为了李世民的亲兵，跟着李世民作战。虽然李靖是一名降将，但是李世民却非常欣赏他的才华，所以极为看中他。李靖同样没有让李世民失望，在攻打隋朝的时候建立了很大的功勋。
公元618年，李渊建立唐朝，李世民被封为秦王，而李靖仍然跟随在李世民的身边。公元620年，李渊命令李世民千万洛阳，平定称帝的王世充。在这场战争中，李靖开始真正展露头角。
由于唐朝刚刚建立，全国上下叛乱不断，在攻打王世充的过程中，在江陵地区的南梁王萧铣趁机北上，发起了叛乱。李世民分身乏术，只能派李靖前往平定叛乱。在经历过一波三折之后，李靖多次立下大功，打败了但是的蛮人首领肇则，有献上了攻灭萧铣的十大策略。李靖由此得到了李渊的信任，被任命为三军统帅。
