武德元年(公元618年)，李渊虽然已经登基，但是天下并未平定，割据势力之一的王世充就在洛阳称帝；而就在秦王李世民征讨王世充的时候，前梁朝贵族萧铣也在南方起兵，并且自立为王。当时李靖就跟随在秦王李世民身边，最早被朝廷派去平定萧铣的是河间王李孝恭，但是李孝公并未能一举拿下萧铣，所以李靖被李渊调往南方。
就在李靖南下途中，他路过金州时，刚好遇上庐江王在讨伐盘踞于此的蛮人，但是接连吃了败仗。在李靖的协助下，庐江王终于大获全胜。随后李靖在到任后，便积极协助河间王李孝恭训练水军并击退开州蛮人。唐武德四年(公元621年)，李靖向李渊上表，提出了十个可以消灭萧铣的办法，李渊欣然接受并任命李靖为行军总管兼河间王李孝恭的行军长史，协助李孝恭攻打萧铣。但实际上，当时李靖已经掌握了实际上的领军权。李靖在做好充分的准备之后，带领大军下江陵，将萧铣一举拿下。
此后没过多久，辅公袥于南京起事，李渊再次派遣李靖出战。李靖力排众议，并未直取老巢而是先将辅公袥的前线击溃。万万没想到，辅公袥竟然闻风而逃，最后被其部下所杀。
