1851年1月，曾天养变卖家产，带着400壮士参加太平军，被授予御林侍卫承担保卫天王洪秀全之责任。不久，军事斗争紧急，曾天养开始走上前线，因其作战勇猛，行踪飘忽不定，被誉为"飞将军"，所部被誉为"虎头军"。1853年3月，太平军攻占南京，随后便开始北伐和西征。北伐，目标很明确，即是快速进军直捣燕京，将咸丰赶回关外老家；即使不能攻克北京，也要牵制清军南下，为西征军做掩护。西征，是重头戏，在北伐军出动后便开始，其领队是夏官正丞相胡以晃、秋官副丞相赖汉英，战将则是曾天养、韦俊、石祥祯、林启荣，其中又以曾天养作战最为勇猛，他是西征军的前锋。在西征战场，老将曾天养大放异彩，连战连捷，给清军留下深刻印象，以致曾国藩在抓到李秀成后还要了解这位老将军的事迹，其影响力由此可见一斑。
1853年5月，胡以晃誓师西征，曾天养充当前锋，连克和州、池州、安庆，随后便直奔江西省会南昌。为顺利攻城，曾天养先拿下彭泽、南康、饶州、丰城、瑞州、景德镇，而后大军包围南昌，太平军士气高涨。此时，湘军名将江忠源从湖北赶来增援，统帅赖汉英始料未及，虽然连败罗泽南、李续宾援军，但短时间无法拿下南昌，于是大军解围而去。1853年10月，曾天养回到西征大本营安庆与胡以晃经略皖北，兵锋直指庐州。此时，江忠源从江西回到湖北，经短暂休整后便赶赴庐州任安徽巡抚，顺便与胡以晃决战。此战，江忠源大败，被迫投水自尽而亡。随后，曾天养从安徽进入湖北，在黄州击毙湖广总督吴文镕，进而连下汉口、汉阳，包围武昌。旋率部向鄂西、北挺进，连克孝感、云梦、安陆、随州、钟祥、宜昌等地。1854年初，曾天养从湖北进入湖南，拿下常德、岳州，兵锋正盛。
就在曾天养胜利进军之时，林绍璋率领西征军主力在湘潭战败，两万多太平军精锐全部阵亡，主帅仅带四骑兵逃回岳州。由于"湘潭覆败"，不但各路大军会攻长沙之计划流产，整个西征战局也由此恶化，曾天养独木难支。不过，名将就是名将，即使是大军刚刚战败，他依然能抓住战机痛歼敌人。1854年8月，曾国藩命令湘军水师提督诸汝航、广东水师将领陈辉龙、沙镇邦、夏銮等率领大军进攻岳州。对于湘军水师的战斗力，曾天养十分了解，若是正面迎敌，以民船改造而来的太平军水营必定不是对手，这无异于以卵击石。为此，曾天养利用湘军将帅轻敌之情绪，采取"小队迎敌，大队伏击"战术，将湘军水师引到预定伏击地点，而后再决战。果不其然，诸汝航、陈辉龙等藐视太平军水营，顺着南风驱使水师攻击曾天养，结果惨败，四位大帅全部阵亡。
曾天养在旋湖港获胜后，便率军驻扎城陵矶，厄险扎营。此时，塔齐布正好率军赶到此处，一场大战就此爆发。曾天养一看来者是塔齐布，不由得想起老朋友林绍璋在湘潭被其击败之情景，于是勃然大怒，直接单枪匹马冲向敌阵。史载："挺矛直刺，中塔齐布坐马，抽矛再刺，用力过猛，失足翻倒，清兵拥至，死在敌人乱刀下。"一代名将，杀敌无数，却因为朋友复仇，意气用事而死，可惜了。
