但他的儿子李世民不同，李世民一方面广纳人才，一方面早已想好了谋反的全套计划。在屡次劝说李渊起兵无果的情况下，李世民联合刘文静、裴寂等人，灌醉李渊，让李渊在隋炀帝杨广的晋阳行宫中留宿，然后安排两个"宫人"侍寝，一觉醒来，知道自己犯了灭族之罪，无法挽回，只得答应起兵。接下来，李渊和李世民做了以下4点计划：
第一，接着攻打突厥为名，广招兵马，并且派刘文静出使突厥，获得突厥的支持。这样做不仅获得了一部分突厥战力，还避免突厥在背后偷袭。
第二，李渊秘密通知在外的李建成、柴绍等儿女（婿）回到太原，以协助起兵。
第三，先发制人，诬陷太原守将王威、高君雅勾结突厥，将二人斩首。
