此后又过了很多年，李建成逐渐长大成人，开始独挡一面。到了隋朝末年的时候，因为李渊有一段时间表现得过于张扬，引来了隋炀帝杨广的猜疑，导致后来李渊不得不靠自污的手段保命。虽然表面上进行自污，但在暗地里，李渊还是希望能够更多地去结交各地的士族，为自己的将来做打算。
所以，从这时候开始，李渊对自己两个儿子的定位，就开始有差别了。
年纪更大的李建成，被李渊委以重任，代表他去和各地的士族接触，代替他去笼络这些士族。而李世民则是一直被李渊带在身边，帮李渊秘密训练大军，学习如何打仗。而这种定位的差别，在接下来的几年里，也从根本上让两人的命运，走上了截然不同的道路。
大业十三年，已经准备得差不多了的李渊，决定正式起兵。但在正式起兵之前，李渊还得让远在河东郡的李建成带着家眷逃回太原。因为李渊在太原活动的时候，除了李世民之外，几乎所有李家人都在河东郡的李家祖宅生活。在这次逃亡过程中，李建成虽然带着李元吉等几个李家人逃到了太原，但还是有很多李家人，不幸被捕。比如当时李渊唯一的一个庶子李智云，便因此被杀。
到了太原之后，李渊当即对李建成委以重任，命李建成领兵进攻西河，同时让李世民给他打下手。在进攻西河途中，李建成令行禁止，不但很快便带兵拿下了西河，而且还将原本松散的大军，借着这个机会好好训练了一番，充分展现出了自己的能力。
拿下西河之后，李渊又亲自率领主力，直接一路向长安进攻。在从太原攻向长安的路上，李建成和李世民都有不俗的表现。虽然在这个过程当中，有些功劳存在争议，无法认定到底属于李建成还是李世民。但可以确定的是，在这段时间里，李建成和李世民两人，都表现得十分出色。
在父子三人的同心协力之下，李渊很快率军，进入关中，然后攻下了长安。再之后，李渊迅速控制了整个关中地区，一跃成为整个天下最强大的割据势力之一。但因为当时杨广还活着，李渊为了得到那些忠于杨家的士族的支持，只能暂时立杨广的孙子杨侑为帝，自立为大丞相。直到大业十四年，随着杨广在江都政变当中，被麾下禁军杀死，李渊才逼迫杨侑禅位给自己，正式登基做了皇帝。
