当时，贵州高原上，农民起义军此起彼伏，涌现了张秀眉、杨大六、包大肚、柳天成、金干干、陶新春等农民起义将领。李文彩主动投靠了苗族起义军首领柳天成，任柳天成宰辅之职。
没过多久，曾国藩、曾国荃率领湘军攻克了天京，宣布了太平天国的灭亡。柳天成、李文彩没有泄气。他们强强联手，于1869年6月在黔南羊安与贵州提督张文德展开激战，一举歼灭清军一万余人，打得张文德身负重伤，只带着20几名亲兵逃窜回贵阳。
"羊安大捷"极大地鼓舞了贵州各地人民起义军的斗志，也引起了清廷的重视。清廷紧急调集云南、贵州、广西、湖南4省兵力进入贵州，对柳天成、李文彩起义军进行绞杀。
在清廷的重兵面前，起义军出现了叛变者。1871年4月，在战事失利后，柳天成被叛徒吴义甫暗杀。李文彩率领余部加入前往丹寨投奔马登科。不料，3个月后，连马登科本人都投降了清军。李文彩便带着剩余几千人马，前往雷山投奔张秀眉。
