1852年，曾国藩已经是吏部左侍郎，官职类似于今天的中组部副部长。当年6月，曾国藩被派往江西乡试担任正考官，途中因母丧回到湖南老家丁忧。
这时太平天国运动已席卷半个中国，尽管清政府从全国各地调集大量八旗军、绿营官兵来对付太平军，可是这支腐朽的武装已不堪一战。因此，清政府屡次颁发奖励团练的命令，力图利用各地的地主武装来遏制太平军势力的发展，这就为曾国藩的湘军的出现，提供了一个机会。当年11月，清政府命令曾国藩和湖南巡抚张亮基办理团练。曾国藩凭借自己在老家的人际关系，在家乡湖南一带，依靠师徒、亲戚、好友等复杂的人际关系，建立了一支地方团练。
曾国藩组建湘军，有一套自己的管理方法，制定了"兵由将招"的招募制度。为曾国藩当幕僚达20年之久的王定安在《湘军记》一书中有记述："帅立军，拣统领一人，檄募若干营。统领自拣营官，营官拣哨官，以次下之，帅不为制。一军之权全付统领，大帅不为遥制；一营之权全付营官，统领不为遥制。故一营之中，指臂相联，弁勇视营哨，营哨视统领，统领视大帅，皆如子弟之事父兄焉。或帅欲易统领，则并其军撤之，而令新统领自拣营官如前制。或即其地募其人，分别汰留，遂成新军，不相沿袭也。"也就是说，湘军的招募不是统一征招，而是大将选小将，小将选士兵，就像发展线人一样组建军队，线在人在，线断人去。故王闿运说湘军："其将死，其军散，其将存，其军完。"
这招是太狠了，怪不得湘军的战斗力极强。
