彭城之战，按照《史记》中的记录，刘邦的联军损失了至少二十多万的兵员，其父刘太公和吕后也在混战中被俘虏。要不是项羽的骑兵在冲击刘邦本阵时，遭遇狂风，刘邦在此役中很难脱险。侥幸生还的刘邦带领十几个骑兵，趁机突围，而那些依附刘邦的诸侯，也转投项羽门下，跟随刘邦出征的汉军主力，几乎全军覆没。刘邦的将领们，收容残部，跟随刘邦退守荥阳，而此时项羽掌握楚汉战争的主动权。
彭城之战，让刘邦认识到项羽麾下的骑兵，将是其成功道路上的绊脚石。为了对抗项羽的骑兵，刘邦下令组建自己的精锐骑兵部队。首先，刘邦下令，集合军中擅长骑战格斗的骑士，给他们装备精良的武器、骑兵铠和神骏的战马，将这支队伍武装到牙齿。然后任命在军中有威望，有实力的李必、骆甲为这支骑兵的校尉。但是李必、骆甲是秦人，也曾在秦军中服役，害怕自己不被刘邦信任，也不能服众，于是希望刘邦能够指派一名亲信将领，担任这支骑兵的主帅。
刘邦思来想去，想到身边担任郎中的灌婴。灌婴是睢阳人，早年曾在家乡卖布为生。后来追随刘邦，在刘邦麾下担任侍从。刘邦被封为汉王后， 灌婴也被任命为郎中。在战国秦汉时代，郎中本是宫廷的侍卫，也是君主的侍从，而非后世对医生的别称。灌婴作战勇敢，而且年轻又是自己的亲信，在军中也以骑射闻名，于是当即任命灌婴为中大夫，并将这支精锐骑兵命名为"郎中骑兵"，灌婴是这支禁卫骑兵的首任指挥官。
