在周围其他心腹的劝说之下，李渊终于下定了反抗隋朝的决心，于是借口防备突厥南下，派遣李世民等人到各地募兵，在很短的时间内便招纳数千人。等到军队形成一定的规模之后，李渊与军队誓师，打着匡扶皇室的名义带领军队直逼关中地区。由于在他所发布的檄文中他大力斥责隋炀帝听信奸臣谗言，杀害忠良的行为，因此得到了百姓的支持，他的队伍也在逐渐壮大。眼看着大军已经兵临城下，隋炀帝竟然丝毫不慌，仍然在江都贪图享乐。这也给了李渊可乘之机，他便趁此机会攻打下了隋朝都城长安。为了能够名正言顺，他还拥护隋炀帝的孙子为帝，自己则担任唐国公一职。直到隋炀帝被江都禁卫军将领发生兵变杀死的消息之后，他才逼迫隋恭帝禅位，最终在长安称帝建立大唐，历史上将他称为唐高祖。
一统天下，让位于世民
实际上在唐朝最开始建立的时候，领土范围只在关中和河东地区一带，并没有实现全国的完全统一。为了能够早日统一天下，李渊便经常派出自己的儿子南征北战。在经过多年的努力之后，逐渐消灭了各地的割据势力。公元619年，唐朝使用反间计，使李轨集团内部矛盾逐渐激化，收复了河西走廊。后来对于勾结突厥的刘武周，唐朝更是毫不手软，利用绝对的军事实力，一举攻入河东地区，占领太原。
