李渊的祖父李虎，在西魏时官至太尉，是西魏八柱国之一。李渊的父亲李昞，北周时历官御史大夫、安州总管、柱国大将军，袭封唐国公 。李渊的母亲是隋文帝独孤皇后的姐姐 ，北周天和元年(566年)，李渊出生在长安，李渊七岁时，父亲李昞去世，其袭封为唐国公，李渊长大后，为人洒脱，性格开朗，待人宽容。
开皇元年(581年)，隋文帝受北周静帝禅让，建立隋朝。由于李渊的姨母是隋文帝的独孤皇后，所以隋文帝特别亲近器重李渊，累任谯州、陇州、岐州三州刺史。有一个叫史世良的人，善于给人相面，他告诉高李渊说："您的骨骼惊奇，必为一国之主，愿您自爱，不要忘记鄙人说的话。"于是，李渊有了远大的目标。
