大业十二年（616年），父亲李渊出任晋阳县（今太原市）留守，李世民跟随到太原并随父多次出征，平服发生在今山西省内的各种叛乱和抗击东突厥人的入侵。大业十三年（617年）正月，李渊又迁任太原郡留守。同年7月，杀郡丞王威、武牙郎将高君雅，李世民也跟随到太原劝谏父亲起兵反隋，接着打着"勤王定乱，迎回隋天子"的旗号，正式开始于晋阳县起兵，并且得到李氏宗族、姻亲的响应，是为晋阳起兵。李渊以李世民为敦煌公、右领军都督、统右三军。十一月，李渊攻克大兴，以代王杨侑为皇帝，尊隋炀帝杨广为太上皇，李渊自为大丞相、唐王。李世民官拜光禄大夫、唐国内史，徙封秦国公，食邑万户。晋阳起兵以后，李世民正式开始了他的征战生涯。
唐王朝的建立经过哪些阶段呢？
第一阶段是李渊集结各方好汉，发布檄文，在晋阳起兵。
李渊与李世民集结各方英雄，驻扎晋阳（今山西太原）郊外的兴国寺。这件事被隋炀帝心腹高君雅、王威知晓，于是谎称祈雨，要李渊前往晋祠，以备趁机暗杀之。李渊收到告密，开始暗中防备，随后告发高君雅、王威勾结北虏。于是，李渊命潜伏在侧的军队，将其一网打尽。此外，李渊也诱使突厥入晋阳城，塑造高君雅、王威确实勾结外族的假象，借机获得军民的拥戴。
此后，李渊起兵，派长子李建成、次子李世民攻打西河郡（今山西汾阳），组织大将军府，排兵布署，编列人才。军队逐渐壮大后，李渊便向突厥借兵，发布檄文，正式起兵，挥军攻下霍邑（今山西霍州）、临汾郡（今山西晋州）、绛郡（今山西新绛）等地，慢慢包围隋朝京城长安。
