结果他到安顺一上任，就遇上了棘手的匪患。安顺这个地方，历来盗贼横行，越是镇压越是猖獗，胡林翼上任后，手腕非常硬，他一边将平民全部编为民兵，以民兵对抗盗贼，另一方面亲自上阵，剿匪时，他总是冲在最前面。
就这样，秀才领兵不输将军，胡林翼硬是治好的安顺的匪患，还把自己剿匪的经验写成一本兵书。有了在贵州任知府的成绩，胡林翼备受重视，在后来太平天国起义时，他受朝廷委任，率兵在两湖地区痛击太平军，让曾国藩对他刮目相看。
后来，他再次调任湖北巡抚，在湖北和太平军打了三年，最后收复了整个湖北，还打败了太平军的将领石达开，立下平定太平军的首功，被授予一品顶戴，曾国藩对他的评价极高：
润芝（胡林翼）之才胜我十倍。
