裴寂利用自己的职位之变，就约见了李渊。当时的李渊并不知道是让他造反的，于是欣然前往。两个人在席间大谈阔论，并叫了一群宫女前来助兴，不断地向李渊敬酒。等到李渊宁酊大醉后，安排了两个人陪他去休息，这两位女子正是隋炀帝当初前来此巡视时，被贡献的侍女，被册封为妃子的尹氏和张氏。这两位妃子会答应裴寂，是因为裴寂具有一定的权利的，而且关系不错也就答应了。第二天，李渊迷迷糊糊醒来的时候，询问了两个女人的身份，当时就很惊慌，并立马去质问裴寂为什么陷他不义，不阻拦。
裴寂当然是打死都不承认，还反过来训斥李渊，说他与妃子通奸，这可是罪无可赦啊。被训斥的李渊瞬间就没有了底气，于是低头不再说话了。趁机裴寂就赶紧说，既然打错已经造成了，后悔也是没有阿很么用的，如果现在还不想死的话，唯一的办法就是造反了，事情成功的话就可以得到整个天下了。最开始李渊并不同意，犹豫再三，知道自己犯下的罪可是不可饶恕的，没有回头路走了，便答应了裴寂开始起兵造反。
617年二月份，李渊管治下的鹰扬府校尉刘武周，发动政变，并杀害了当时的太守。三个月后就占领了汾阳宫，还跟突厥人相互勾结，想要南下准备争夺隋朝的天下。隋炀帝知道了这件事情以后，便想要抓住李渊来进行治罪，于是犹豫再三的李渊终于决定起兵造反。七月份，李渊亲率大军开始了造反之路。十一月时，就攻入了长安，杨广于是退位成了太上皇，拥立其年仅15岁的孙子成为了隋恭帝。
次年三月，隋炀帝被杀死，同年五月，隋恭帝禅让皇位于李渊。李渊当上皇帝后，改国号为唐，开启了中国史上被公认的最强盛的时代之一--唐朝盛世。
