在李渊七岁的时候，他的父亲就不幸去世了，他便承袭了唐国公一职。哪怕身居高位，李渊仍然性格豁达，待人宽容，不会因为身份而轻贱别人。在隋文帝建立隋朝之后，在最开始李渊被任命为负责管理皇宫禁卫的官员，由此可以看出，隋文帝可谓是特别信任他，就连皇宫的治理都交给他管。再后来，他也被外调出京城，陆陆续续地担任过其他地方的刺史，在政绩上也是颇有建树。
值得一提的是，当时有个算命的人说这李渊一定能够建立一番伟业，李渊听到之后便开始骄傲自满，在隋炀帝统治时期便在暗中积累自己的力量。
世民力劝，终举兵反隋
大业十三年，李渊被隋炀帝任命为太原地区的最高长官，这太原后来也成为了李渊的大本营。根据历史记载：李渊奉隋炀帝之命率领军队攻打历山飞贼，在汾阳一带和这些飞贼正面相遇，凭借着强大的军事实力，李渊很快便获得了胜利。
