由于张献忠当过兵，富有作战经验，遇险善走，来去如飞，官军追之不能及。崇祯八年（1635年），13支农民军领袖聚会荥阳，确立了统一抵抗官军的战略方针。张献忠和高迎祥这两支义军向东部发起攻势，这时的李自成还隶属于高迎祥部下，其声望远在张献忠之下。
由于义军声势浩大，崇祯帝调总兵祖宽率精锐的关辽兵3000围剿义军，专门追杀张献忠部。当年秋天，祖宽击败张献忠，各支义军也采取分散作战的方针以避其锋芒。高迎祥、李自成退入陕西，张献忠率部藏于深山之中。
崇祯帝用辽东边兵镇压关内义军，因其强悍，又无亲戚瓜葛，颇为得力。但崇祯九年（1636年）秋天，清军发动攻势，明督师卢象升率官兵撤回，保卫京畿地区，义军再次活跃起来。
崇祯十年（1637年）正月，张献忠会集罗汝才、马守应、李万庆等义军，顺流东下，与长江北岸贺一龙部共同进军淮、扬地区。明应天巡抚张国维专门挑选良家子弟组成一军，被张献忠击败，参将程龙、潘大可，游击陈于王等40余名军官被杀。明朝调牟文绶和刘良佐官军近万人来援，张献忠转战至湖广地区。
