在东汉时期公元前180年，独揽大权的吕后死后，依附于她的那些吕家后人乘着汉帝年幼，就想起兵反汉，篡夺朝政，身为太尉的周勃率军平定，却并不能指挥上将军吕产指挥的北军，只能够矫旨进入其营地取得实际的控制权。
到了汉末的时候，贾诩和司马懿都出仕太尉，不过这个职务大体沿用了汉制，和太傅一样，并没有多少实权，而更加像是一种部队中的"军衔"，象征着荣誉，司马懿在魏国的势力实际上和这没有任何关系，他的地位主要还是来自于地方部队的个人效忠。
而到了宋朝，太尉的官职就有了一百八十度的大转弯了，在宋徽宗年间，朝廷重新划分了武官制度，太尉是武官之后，有着统领禁军的能力，不要小看这个实权，宋太祖赵匡胤杯酒释兵权后，为了维护中央皇权，在首都附近布置了数十万的中央禁军来拱卫王师，宋的精锐军事力量集中于此。皇帝往往会选择自己最为信任的人来掌管这些部队。太尉实际上就成为了军队司令和国防部长，负责国防和征剿事宜。
