李渊在起兵过程中，顾虑重重，始终下不定决心。李世民和刘文静商量后，就让裴寂前往劝说李渊尽快起兵，并伪造诏书，设计斩杀太原副留守高君雅等人，为李渊顺利起兵反隋铺平了道路。
李渊太原起义后，刘文静又奉命出使突厥，他不但顺利的促成突厥和李渊之间的联盟，巩固了李渊的后方，又获得突厥赠送的数千匹战马，让李渊组建了一支像样的骑兵部队，李渊曾高兴的赞叹他说："非公善辞，何以至此！"李渊率军进攻长安时，为防备隋朝潼关守将屈突通的偷袭，让刘文静带兵前往潼关抵御屈突通。
617年，刘文静在潼关和隋将桑显和苦战数日，死伤数千人，处境非常不妙。但他制定奇计，利用敌人倦怠之际，用奇兵掩袭其后，大败桑显和，并俘虏屈突通，立下赫赫战功。
唐朝建立后，裴寂和刘文静都因功劳巨大，并都是太原起义的元谋功臣，获得恕二死的特权。同年，西秦霸王薛举为祸甘肃，李渊命李世民为元帅，发兵征讨。李世民点名让刘文静随军前行，担任元帅府长史之职。
