但在薛举准备全力进兵关中打算攻取大兴（长安），推翻隋朝统治之时，太原李氏父子已抢先一步，于617年（大业十三年）夏攻入大兴，立代王为天子，改元义宁，李渊被封为唐王。薛举听闻大兴被攻取，无奈之下只得回兵攻扶风（今宝鸡、凤翔一带）李渊命李世民为元帅追击薛举，薛氏父子大败，退至陇城（今陕甘交界之陇山），李世民得胜班师回朝。
通过这次交兵，薛举知道了李氏父子厉害，想投降李氏父子。部下郝暖为薛举献计: 东结梁师都，西连西突厥，合兵攻长安。当时，地处大漠的西突厥可汗派人到大兴求婚未允，得薛举之请，慨然允诺出兵。618年（唐武德元年）春，李渊在大兴称皇帝，改大兴为长安，封李世民为秦王。当时，割据雁门一带的刘武周、割据凉州一带的李轨和薛举三股势力都是唐的近敌。其中薛举势力最大，对唐的威胁最甚，是新生唐王朝首先要消灭的劲敌。李渊采取远交近攻之策，安抚凉州李轨，使其勿妄动，封秦王李世民为元帅率军攻薛举。
