骆秉章当了湖南巡抚以后，因为频繁与太平军交战，藩库空虚，供应绿营军都困难，哪有余粮给曾国藩。偏偏曾国藩的湘勇又不争气，刚出征就连吃败仗，不要说要粮饷，就是要几块裹尸布，骆秉章也懒得给。曾国藩那时候还没有晚年的胸襟和气魄，湖南几个主要官员都被他骂了个狗血淋头，双方关系越闹越僵，就差摆开架势干一战了。湖北巡抚胡林翼与曾国藩和骆秉章私交不错，在湖广总督官文面前又说得上话，经过他劝说协调，骆秉章总算答应向曾国藩供响，但是只是绿营军的一半，而且还不能保证准时到账。正因为这个原因，湘军后来打了胜仗以后，就对占领城市掠夺一空，补充粮饷的同时，不知道有多少奇珍异宝落入了湘军头目的口袋。
1862年以后，因为战功及朝廷对湘军的依赖，湘军的粮饷已经和绿营军一致了，但是多年养成的掠夺习惯已经无法改变。湘军照样对占领的城市实行三光政策，为此曾国藩的至交好友刘蓉和郭嵩焘都写信劝他制止一下，曾国藩嘴上说要制止，实际上放任不管。
1864年攻破天京城后，湘军大将曾国荃（曾国藩亲弟弟）不但将太平天国珍宝掠夺一空，还放任士兵在城内自由活动三天，南京城几乎所有留守的男人都被杀死，大部分的妇女都被强暴，所有的房子都被散兵游勇挖地三尺搜刮一空。当时的文人记载了湘军的光辉事迹：曾国荃运回湖南老家的财宝装了20几船；曾家人将长沙城附近一半以上的土地全部买下；一个湘军营官到北京探亲，一次性就花5000两现银买宅子，震惊北京城。
1865年，慈禧太后追查湘军军费的使用情况及太平天国财宝的去向，曾国藩上奏称，被李秀成放火烧光了。当时李秀成在押解途中被杀，湘军势力占据半壁江山，慈禧太后即使不甘心，也只得打落牙和血吞。
