1853年，彭玉麟受曾国藩之邀，加入湘军，并创建湘军水师，成为曾国藩的左膀右臂。彭玉麟带领湘军水师与太平军作战，打了很多硬仗，清朝皇帝都看在眼里，眼看就升职了。但1861年，已经45岁的彭玉麟，却突然辞职不干了。
原来他正率湘军与太平军在武汉作战，皇帝下令让他出任安徽巡抚。这可是清朝封疆大吏，有些官员熬一辈子都可能当不上。而且彭玉麟也不是靠科举当的官，家境一般，就因为打太平军才当官。用老百姓的话讲："祖坟冒青烟"了。但让人不理解的是彭玉麟却坚持辞官。
曾国藩劝他别辞官，让他多为家族想想，要光宗耀祖，为皇帝想想，朝廷正是用人之际。彭玉麟很轻松说道：我不当这样的大官！
对同僚的劝说，彭玉麟一概不听，而是上疏朝廷：辞官！朝廷不答应，他就再次辞职。彭玉麟向皇帝辞职的理由很简单：一是才学太浅，只读过县学就出来打仗。而且没有当巡抚的经验。二是自己一直带领水军作战，这才是他的长处，如果水师不让他带了，这是朝廷的损失。三是他本人性格倔强，不懂官场变通，巡抚之职做不了。
