放弃河东，李世民不同意，他强烈反对撤兵，表示不能丢失根本，否则会动摇唐朝根基。《资治通鉴》载："太原是王业的基础，国家的根本；河东地区富饶，京城靠它供给，如果全部放弃，臣深感愤恨。"
李世民坚决反对撤兵，并表示愿意率军征讨，决战宋金刚，夺回河东地区，李渊同意。11月，李世民以殷开山、秦琼、李绩为先锋，率数万精兵渡过黄河，驻扎在柏壁（绛县），与刘武周麾下最能打的宋金刚军团对峙，摆出决战架势。当然，唐军不会直接决战，李世民一贯的作风是坚壁清野，挫敌锐气，后发制人，一战定乾坤。
屯兵柏壁城下，宋金刚无法引诱李世民出战，双方就这么耗着。12月，宋金刚找到了突破口，他决定找另一路唐军开刀。李渊派李世民出征之同时，继续让裴寂留在河东，并派李孝基率兵协助，打击吕崇茂，剪除刘武周侧翼。吕崇茂不是唐军对手，连续被打败，只好向宋金刚求救。
吕崇茂求救，宋金刚派麾下大将尉迟恭、寻相率兵增援，突袭唐军。此战，唐军惨败，李孝基、独孤怀恩、于筠、唐俭、刘世让等将领全部被俘虏，裴寂再次跑回来，但李渊并不怪罪。
