将领们的贪婪和军纪的散漫导致淮军遇弱则强，遇强则弱。其战斗力水平几乎全凭武器致胜。因此在一系列外战中，经常出现将领们逃跑避战的情形，导致战事一败涂地。
等到中日甲午海战之后，清朝开始加紧训练新式军队，并准备推广换代到全国区域。因此淮军的作用开始越来越小了，在一些地方甚至已经开始沦落成为驻防据点的巡防队伍，不再如同建军之处那样承担拱卫防务的任务了。
在改制新军的风潮中，淮军仅有在甲午战争中表现突出的聂士成部队被依照德国军制编排成为武毅军。后来武毅军被并入清廷打造的武卫军一部分，担任前军重任。只是在1900年八国联军侵华时，武卫前军与侵略者英勇作战，但是伤亡惨重。
等到新军崛起并被大规模推广之后，淮军已经淡出了历史的舞台。
