众所周知，隋朝的国都在洛阳，若要反隋，攻占洛阳毫无疑问是首选。但李渊认为，李密率领的瓦岗军正在洛阳附近和隋军（王世充）相互攻伐，如果此时去攻打洛阳，如入龙潭虎穴。而长安是汉朝故都，若占领长安，不仅意义重大，而且还能避开中原的各大势力。
但是，在李渊从晋阳向长安进军的路上，遇到了驻守蒲州的尧君素。
李渊起兵后的第一战，是攻打霍邑（临汾），霍邑守将宋老生被李渊的大军轻松拿下。而后，李渊开始攻打潼关，驻守潼关的是另一位隋朝名将屈突通。屈突通和李渊对峙了近一个月，最终因偷袭李渊，被李世民麾下大将段志玄打败。接下来，李渊在攻占长安之前，面临最强的敌人就是尧君素。
尧君素知道李渊兵强马壮，又急着攻占长安，因此扎紧篱笆，加固城墙，和李渊打持久战。李渊十分着急，先派遣大将吕绍宗率兵攻城，结果吕绍宗惨败。李渊又派大将韦义节攻城，最终还是未能攻破蒲州城门。
