此时的李渊正在募兵准备讨贼，为了解除后顾之忧，李渊私下和突厥人结交。但突厥人却要求李渊割地自立，否则他们就不会支持李渊。李渊一直在犹豫，自己是否应该答应突厥人的要求。
虽然李世民、裴寂等人也曾多次劝谏李渊自立，但李渊却依然坚持，暂缓自立之事。就在此时李建成返回太原，裴寂又和李建成一起前来劝说李渊，李建成和裴寂让李渊效仿曹操，不尊杨广为帝，改为拥护杨侑为新帝。
这样做，李渊既对突厥人有了交代，又会让唐军出师有名。
但李渊却觉得这样做有些欲盖弥彰。没有更好选择的李渊，随即便派李建成出使突厥，用千匹良马作为代价，换来了突厥人对自己的支持。
当时的李建成眼见刚刚招募来的兵卒没有经过训练，他担心唐军新兵不能打仗。于是李建成便重新修订唐军军法，帮助李渊整肃唐军。在率军前往河西郡的路上，李建成更是与唐军兵卒同吃同住，约束军纪，不让唐军士兵做出任何侵犯百姓之事。
