1851年太平天国运动爆发，朝廷开始派兵前往广西镇压太平军，江忠源的父亲当时过世不久还在守孝，古有守孝三年的制度，但是江忠源手下的兵勇并不是很多，军服什么的都没有，武器也是长短不一，为了组织更多的乡勇，江忠源和其母亲、兄弟三人一合计将家中的财产变卖成了军饷，于是招募了共500名乡勇入桂作战，清兵见这支队伍的士兵个子不高，穿的又破破烂烂，都非常的轻蔑，太平天国的队伍见了估计也会这么想，肯定会轻敌。
果然江忠源在湘桂边境对太平军进行了一场有名的蓑衣渡伏击战，此战，太平天国的南王冯云山命丧于此，这一战就让江忠源成名，但是太平天国的势力发展迅猛，攻击方向也很多，很快太平军其他战线就打倒了长沙，江忠源奉左宗棠的调度，回长沙支援，当江忠源来到长沙城下见城南的天心阁被占领了，感觉局势相当危险，立即率人取回天心阁高低，太平军在萧朝贵的带领下欲取回天心阁阵地，结果肖朝贵没有夺回反被炮火击中，一命呜呼。
失去了首领，局势立即发生了改变，太平军被清军反包围了，江忠源见当时的长沙河西缺少防线，料定河西将是太平军必选的撤离线路，可江忠源职位不高，上层指挥官比较多，结果被石达开率军在河西开辟了战场，化解了长沙太平军的危机，如果江忠源当时的建议被采纳，将会与石达开有一场恶战。但是湘军的这两次胜利推动了朝廷花经费让曾国藩以文人的身份带兵，开始着力训练湘军。江忠源的另一军事眼光就是力劝曾国藩建立水军，为今后顺江而下，只捣金陵做好了长远的规划。因为此举，才有了杨岳斌、彭玉麟等水军将领发挥的舞台。1853年，江忠源行军至九江，知南昌危机，遂上报朝廷，主动请战支援南昌，率领1000多人的湘军支援南昌，江西巡护等官员一见江忠源的到来，就将战斗的指挥权交给了他这个湖北按察使，他命部下罗泽南平定南昌周边的贼乱，并多次打败太平军的进攻，坚守90多日后，太平军未能拿下南昌撤离。
1854年，庐州知府胡元炜给身在六安的江忠源去信请求支援，江忠源问胡元炜庐州的并及物质情况时，胡元炜谎报军情将江忠源骗去守城，结果率领1000多乡勇一到庐州一看，庐州兵力3000， "人困马乏"，" 物质奇缺"。但还是在苦苦支撑，谁知这个胡元炜竟私通太平军，告诉太平军城内的军情，导致太平军投入更多的兵力，最后城破，江忠源自刎被下属救起，拼死力战，后无奈投湖自尽，一代名将42岁因胡元炜的背叛而命丧庐州，可悲可叹，幸曾国藩吸收其建军优点，将湘军发扬光大，最后形成"中兴将帅，十九湖湘"的地位。
