李渊的爷爷李虎不仅继承了家传的手艺，射得一手好箭，还喜好读书，重义轻财。
据记载，李虎曾陪同周文帝宇文泰在北山下阅兵，想不到这北山里有豹子。豹子常常出来猎捕士兵，却一直没人敢去把它杀了。李虎听到这个消息后，"不暇持杖趋往，捉豹杀之"，意思是连个趁手的兵器也来不及拿，直接就冲上去了。结果，豹子出师不利，撞上了"虎"。李虎赤手空拳把豹子杀死了。宇文泰大悦，赞道："公之名虎，信不虚也。"（你这老虎的名字可真不是白叫的）
551年5月，李虎去世。北周建立后，追封李虎为唐国公。现在大家就明白，为什么后来李家打下了江山，定国号为"唐"，根源在李渊的爷爷这儿呢。后来李渊建立唐朝，追封爷爷李虎为唐太祖。
李渊的父亲叫李昞，是李虎的三儿子，曾任北周安州总管、柱国大将军，袭封唐国公。李昞没什么征战纪录，倒是一位治世的能臣。他为政简静，即施政简约而不扰民，笔者认为这是为官的极高境界。后来李渊建立唐朝，也追封父亲李昞为唐世宗。
