当地乡绅土豪建立的团练顶不住太平军的进攻之后，他们便想到了苗沛霖的建议，推举他为军师首领。而苗沛霖凭借着同太平军几次小胜，迅速在家乡建立起自己的势力。咸丰七年，钦差大臣胜保督办安徽军务，这胜保因屡遭败绩被人称为"败保"，便将苗沛霖拉到自己名下以充军功。
苗沛霖投拜胜保名下之后，更加卖力的攻打捻军。后来因为封赏的原因，苗沛霖暗投太平天国，借口其他朝廷官员同起义军有瓜葛，趁势出兵攻打寿州等地，杀死当地官员乡绅若干。嘉庆皇帝死后，苗沛霖又自建天顺王国，苗沛霖一边向清廷表示忠心，一边向洪秀全俯首称臣，与此同时他还配合太平军围攻颍州。
同治元年胜保再度南下安徽，苗沛霖立即投向清廷，行军半路上向太平军进攻，导致太平军损失及其惨重。事后苗沛霖给陈玉成写信说是为了维护老百姓的利益，才会做出如此无奈的举动。陈玉成被困庐州时，苗沛霖感觉到自己的机会来了，立即派人诱请陈玉成前往寿州，陈玉成刚进城就被苗沛霖送给了胜保邀功。
胜保因贪污欺罔被朝廷处死之后，朝廷许多大臣立即弹劾苗沛霖，于是僧格林沁将苗沛霖的团练解散。苗沛霖感觉自己的末日来了，不顾自己势力薄弱，匆忙之间第三次举起了反清的大旗。僧格林沁立即从山东出兵平叛，将苗沛霖部封锁在蒙城，一翻激战之后苗兵死伤无数，苗沛霖突围时被自己部下乱刀砍死。
