1863年12月，李鸿章宴会上诛杀郜永宽等8大悍将，并屠杀苏州城内4万已经投降的太平军将士，此为"苏州杀降"事件。起初，戈登很恼火，拿着手枪去找李鸿章单挑，坚决捍卫信誉。谁知，戈登得到李鸿章托赫德送来的7万银元后，不但没了怒气，还答应帮助淮军征讨常州，继续合作。
李鸿章寻找"洋枪队"首领戈登合作，并达协议："两粤老贼数千，骁勇善战，城破后，斩尽杀绝"，还写入《常州合围折》，上奏清朝。李鸿章为何要杀光两广籍太平军呢？原因很简单，两广籍老兵骁勇善战，战斗力强大、战斗意志坚定，给淮军造成巨大伤亡。常州保卫战时，护王陈坤书麾下3000老兵，给予淮军重大杀伤，战斗很激烈。
1863年12月15日，李鸿章兵分两路，横扫苏南各地。其中，李鹤章、刘铭传为西路，直奔常州城下；程学启、李朝斌率陆军、水师，进攻吴江平望镇，并越境攻打浙江湖州，与左宗棠争夺胜利果实。此外，戈登从太仓出发，率"洋枪队"4000余人，杀向战场。
24日，刘铭传率5000兵马攻打常州东北门外营垒，遭太平军反击。陈坤书派4000兵马绕道而出，攻击淮军大营，迫使刘铭传回援，赢得第一局胜利。但是，淮军刘铭传部装备有从西洋购买的开花大炮，火力十分强大，陈坤书压力可不小。
