史料记载，道光四年，也就是1824年的时候，他在湖南出生了。作为名臣曾国藩的九弟，他从小就展现了非凡的才能。咸丰六年，1856年之时，曾国藩在江西与太平军的战役中屡战屡败，溃不成军。他与当地知府商议，一同征集了数千兵士支援兄长。
书生出身的曾国荃作战勇猛，锐不可当，令曾国藩非常惊讶。
从此，曾国荃手下的将士成为了湘军的嫡系部队。兄弟二人齐心协力，征战四方，令当时如日中天的太平军颇感头痛。曾国荃在军中时，朝廷还感受不到他的重要性。可是，在他离开后，朝廷才意识到，若想抵抗敌军，则必须要有曾国荃。
咸丰七年，也就是1857年，因为父亲逝世，他回乡丁忧。失去了曾国荃的清军，在与敌军的对抗中逐渐处于下风。再后来，王珍和刘腾鸿等将军相继战死，情况万分危急。江西巡抚紧急向朝廷奏报，坚持要让曾国荃夺情出山。就这样，他再次率领军队同太平军展开了激战。
