汉朝之前，太上皇制度已经存在，但不成熟，真正的确立是在汉朝。
刘邦成为皇帝后，并没有忘本，依旧对自己的父亲十分尊敬，他每隔五天就要去看望自己的父亲，和普通百姓行一样的礼节。之后，一个负责刘太公家事的人就跟太公说："天上的太阳只有一个，地上的君主也不应该有两个。虽然，皇帝是您的儿子，可是，他也是朝廷的君主。依照法度，您应该尊他为君主，哪有让君主来拜见臣子的道理呢？如果这种事情一直继续下去的话，估计皇帝的威严就要被消耗殆尽了。"
这些话把太公弄得十分忐忑不安，所以，后来刘邦再来看他时，他就站在门口迎接，还抱着一个扫把，退着走。刘邦看到之后吃惊得不得了，赶忙跳下车去搀扶父亲。刘太公却说："皇帝是我的主子，怎么能因为我乱了天下的法度呢！"
