公元634年，大明宫开始兴建，然而，工程才刚刚开始，没想到李渊就过世了。这座宫殿的修建随着太上皇的离世也停了下来。然而28年后，唐高宗李治下令重建大明宫,李渊死后，群臣为他上谥号大武皇帝，庙号高祖。贞观九年十月，安葬于献陵，其妻窦氏也加号太穆皇后祔葬。
李渊一直老老实实安安分分地做他的太平太上皇，在平时的日常生活中，李世民自然不会亏待他，毕竟他是他的父亲，只要他不复辟。可是，虽然如此，李渊仍为了自己能够安稳终生，尽量少的结交大臣，免得唐太宗猜忌自己。这对父子至死也没有像寻常百姓那样心情坦荡地生活过，对于晚年的李渊来说无疑是老人最大的悲哀。
