在李渊带领主力和平阳昭公主汇合后，起义军队迅速攻破了长安，李靖也陷入了危机当中。根据《旧唐书·李靖传》的记载，此时的李渊已经决定要杀死李靖，并派人将他押送前往刑场。但是就在这时，李靖对李渊大呼："公本为天下除动乱，不欲就大事，而欲私怨斩壮士乎！"使得李渊不得不放弃行刑。这一事件使得秦王李世民看到了李靖的聪敏和有急智，再加上他也曾听说过这个韩擒虎的侄子有着极高的军事才能，于是出声将他从李渊那里救下来。
就这样，这位年近五十的军事奇才来到了李世民的帐下，并在此后的三年当中随李世民东征西战，用自己的能力赢得了秦王的信任，甚至让原本极度厌恶他的李渊也对他改观并加以重用。于是在621年，李渊任命李靖为李孝恭的副将，进军南梁平定萧铣，也就是在这一战当中，李靖彻底展现出了他优秀的军事素养，为李唐江山的稳定做出了巨大的贡献，也为后来民间对他的神化奠定了基础。
长江自古以来就被称作天险，这种优越的地理环境也是萧铣的南梁能够发展起来的重要原因，于是当他听说唐朝派人来平定他的时候萧铣并没有立刻做出反应。在萧铣看来，唐朝的军队一向以步兵和骑兵为主，并不适应水上的生活，更别提水上的战争了。因此，他们一定会在三峡附近修整，缓慢地度过长江。
当时李孝恭的确是这样想的，但是作为副将的李靖则提出了不同的观点。李靖知道占据长江天险的萧铣一定会轻视唐朝的军队，那么自己这一方就必须利用敌人的这种情敌心理打他们一个措手不及，这正是兵贵神速的道理。
