大军出发前，李孝恭宴请诸将，命人取水，碗中水却忽然变成血色，在座的人都大惊失色。李孝恭却镇定自若地说："我自认没做过亏心事，大家不必为我担忧。辅公祏恶贯满盈，这碗中血预示着他将灭亡。"于是一饮而尽。当时的人都佩服李孝恭能安稳众心。
李孝恭来到前线，坚守营垒不与敌人战斗，派奇兵截断敌人粮道。第二天，李孝恭派羸弱的士兵攻击敌人营垒，让他们假装败退，然后派部将卢祖尚率精兵列阵等待。敌人中计，中了卢祖尚的埋伏，弃营溃逃。李孝恭乘胜追击，连战连胜。辅公祏山穷水尽，仓皇逃窜，最终还是被李孝恭擒捉。
李孝恭平定南方，功劳卓著，得到了李渊的厚赏，并管理江淮及岭南广大地区。隋末群雄并起，大部分都被李世民所平定，而那些谋臣猛将都在李世民麾下，功劳都算在李世民头上，几乎没有人能另外立下大功，唯独李孝恭能立下开疆拓土之功，声名很盛。
李孝恭虽然功高，但他从不为此骄傲，而是宽厚谦让。李孝恭生活奢侈，以歌舞声色自娱，不沽名钓誉，让李渊父子很放心。后来，李世民怀念当初一起打天下的功臣，也为了彰显和嘉奖那些功臣，于是命著名的画家阎立本为24位功臣画像，列于凌烟阁，李孝恭就在其中。
