隋朝末年，隋炀帝杨广荒淫残暴，朝政崩坏，民不聊生，叛乱四起。隋炀帝派大军征讨叛贼，但天下苦隋已久，叛贼除之不尽，成了燎原之势，愈演愈烈，烽火燃遍九州。
蒲州桑泉（今山西临猗）人裴寂，幼时父母双亡，由哥哥抚养长大。裴寂面貌英俊，略通文史，在郡县里当小吏。隋文帝时，裴寂被调到京城当皇宫卫士。裴寂家贫，徒步去京城，过华山祠，向山神祈福并占卜。夜里，裴寂梦见一个老翁说："你40岁时能大富大贵。"
晋阳（今山西省太原）有隋炀帝的行宫，裴寂在此当了副宫监，负责管理行宫事务。当时唐国公李渊，与隋炀帝是姨表兄弟，镇守在太原晋阳，兼任正宫监。裴寂与李渊二人交情深厚，日夜一起宴饮欢谈。裴寂常常将晋阳宫的宫女献给李渊侍寝，李渊也欣然接受。
李渊之子李世民，志向远大，有意起兵自立，成就宏图霸业。李世民与心腹刘文静谋划起兵，但担心刘渊不同意，于是打算先拉拢裴寂。
