虽然，湘军的发展是比较好的，不过在战场上也吃过不少败仗，曾国藩也多次到了绝境。不过好在后来的太平天国自身的内乱，给了他机会，湘军于是就这些分散了的太平军一个个的吃掉了。
后来到了1863年，曾国藩最终到了与太平天国领秀洪秀全决战南京的时候了，最终在第二年，湘军攻破南京。可惜洪秀全已经死了，并没能将其活捉。不过，当这一消息传到北京时，清庭却在一阵高兴之后开始警惕起来了，因为担心这些地方实力武装可能威胁清朝的地位。
由于，清庭并没有表彰湘军，曾国藩也是非常小心的处理，很快就将湘军解散了，除留下一部分守卫南京外。回到湖南老家的湘军也开始退出了历史舞台，不过湘军集团还是控制着江南地区，不让他人进入，而这中间就发生历史上的刺马案。
民国时，袁世凯的北洋军成为了最大的中国军队，当上总统后，改革了军队，很快当时已经奄奄一息的湘军最终在这一政策下成为了过去式。
