刘文静与李世民二人谋划起兵，担心李渊不同意。李渊向来与裴寂感情深厚，于是刘文静介绍裴寂给李世民，三人一起合谋。刘文静与裴寂一起劝李渊起兵，李渊起初同意，但不久又拒绝了。
刘文静伪造隋炀帝的诏书，以讨伐辽东为名，征民为兵，人心惶惶。刘文静又威胁裴寂说："你作为晋阳宫宫监，却让晋阳宫的宫女给唐公侍寝，你犯了死罪就算了，连累了唐公怎么办？"裴寂感到害怕，于是再次劝李渊起兵。
李世民委托刘文静、长孙顺德等人以讨伐叛贼刘武周为名，招募兵士。这时，太原留守的官员王威、高君雅怀疑有变，打算杀死李渊。刘文静与刘政会便先状告王威、高君雅谋反，于是将此二人擒下。
李渊由此起兵，设大将军府，任命刘文静为司马，裴寂为长史。刘文静请求出使突厥，与突厥始毕可汗结盟。刘文静的出使任务圆满完成，始毕可汗派二千骑兵助李渊，又献千匹战马。李渊高兴地说："没有你，哪能得到这些？"
