开始十日无战事，在抵达灵石的贾胡堡后，五十里之外的霍邑（今山西霍县），已由杨侑派出的将军宋老生布下了防线。这是第一仗，关系到李渊军出师是否顺利的第一仗。可天公不作美，连旬瓢泼大雨，后方粮饷难以继运，前方道路泥泞三尺，李渊不得已下令部队暂作休整，以待天气变化，以待粮饷供应。
但等了多日，雨仍不见止，刘文静迟迟未来，军中忽然传出流言，说突厥已生变卦，准备乘虚袭击太原，军心开始动摇。面前的仗不能打，大本营又可能面临危险，李渊犹豫了，再三思量后，欲放弃进攻关中，调转兵锋，北撤太原，并命令部分左军作为撤退的先头部队。这个决定，遭到了李建成、李世民的反对（在许多史料中，李建成反对的事实被隐去了，仅剩下李世民一人反对），兄弟俩认为，后撤是错误的，非但大业将毁于一旦，且前景是令人担忧的。
他俩苦谏、长谏，终于谏得李渊回心转意，收回了成命。到八月初，天终于放晴。李渊发起向霍邑的进攻令，为了消化对方高城严备的优势，他亲自上阵，以弱兵相诱，将宋老生诱出城来。贪功的宋老生中了计，倾其主力出城，欲一举消灭李渊军。双方接触后，李渊佯败，向后退却，待宋老生进入预设的伏击圈后，阵斩宋老生，全歼其部，随之攻克霍邑。
凯歌高奏，李渊军乘胜向前推进。途中，出使突厥的刘文静赶来，他顺利地完成了使命，以"人众土地归唐公，财帛金宝归突厥"的条件，争取了突厥政治与军事的双重支持，并带来了突厥助战的军队五百人及二千匹战马。
