怎么办呢？李鸿章前去请教老师曾国藩。曾国藩给了他"忠信笃敬"四字诀，要他"抚而用之"。李鸿章觉得很对。在这以后，曾国藩和李鸿章对待洋人的态度，大体比较软弱，实际上就是在遵循"抚而用之"原则。
左宗棠得不到曾国藩、李鸿章的支持，只好遵守朝廷制定的"借师助剿"政策。只不过，他始终对"常胜军"保持警惕之心，随时准备解散他们。因此，"常胜军"与左宗棠合作时，倒也不敢做得太过分。
"常胜军"在浙江取得了一些胜利，让清朝深受鼓舞。清朝下令，由法国海军军官勒伯勒东担任浙江总兵，招募1000余名中国士兵，装备洋枪洋炮，组成"常捷军"，"听浙江巡抚及宁波道节制"，"由该省巡抚给付札凭，以一事权"。不久，勒伯勒东被太平军打死，另一名法国军官德克碑继任了这一职位。
左宗棠无法阻止朝廷成立"常捷军"，只好以浙江巡抚的身份，对这支军队"稍加裁禁，予以限制"。
