到了北朝北魏，皇帝专门设立了高级禁卫武官，负责保护皇帝的安全，以及掌管皇帝的"千牛刀"，他们被称作是"千牛备身"，到了唐朝便正式有了"左右千牛卫"，是大唐南衙十六卫之一。
十六卫即左右卫、左右骁卫、左右武卫、左右威卫、左右领军卫、左右金吾卫、左右监门卫和左右千牛卫；左右千牛卫统率千牛备身等皇帝侍从、仪卫，全心全意服从皇帝，保全皇帝。
《唐六典》记载："左右千牛卫，将军各一人，从三品·······千牛备身各十二人，备身左右各十二人；备身一百人；主仗一百五十人。"可以说千牛卫是皇帝身边最亲近也是最信任的人，不是随便哪个人就有能力担任，另外千牛卫不能指挥兵马，保卫皇帝就是他们最大的职责。
更为重要的是李元芳被加封"检校千牛卫大将军"，"检校"两字是非常特别的，意味着李元芳并不是正式官衔，虽然"千牛卫"听着挺威风，但实际并不如其他十六卫，李元芳的这个校检千牛卫大将军相当于现今的陆军上将。
