湘军创建之初，中国还处于冷兵器与火器并用的阶段。湘军的主要武器装备是抬枪、刀矛、小枪等长短兵器。水师配备了火炮，但仍然有大刀、长矛等冷兵器，便于近距离作战。
后来，湘军从国外购买了许多洋枪洋炮，还自己开设船厂，仿造新式武器。但总体来说，湘军直到大规模裁撤，都装备着冷兵器，是一支冷热兵器混杂的部队。
在武器装备上，淮军初创时与湘军相差无几。毕竟，淮军本身就脱胎于湘军，且有10个营直接从湘军划拨（包括曾国藩送给李鸿章作为"赠嫁之资"的亲兵2营）。可是，当淮军开到上海后，李鸿章见识了洋枪洋炮的威力后，"尽改旧制，更仿夷军"，迅速装备洋枪洋炮，并雇请外国教练对军队进行训练。
到1865年，李鸿章指挥的淮军几乎全员装备洋枪洋炮，远远强于湘军。
