而另一路由汤和率领，自泽州逼向山西，与退守山西的王保保大战，结果"明军大败"。为挽回不利局势，徐达乘机偷袭了他的根据地--太原，元军大败，王保保只能逃往大漠以图寻找机会反扑。
三年后，朱元璋再次命徐达率军北征，双方在沈儿峪展开激战，结果元军大败。王保保只带着妻子数人北逃，抱着一根木头渡过黄河，逃到和林。可他的妹妹王观音奴却被徐达俘虏。
洪武五年，想一劳永逸解决北方问题的朱元璋，再次派徐达统兵15万，兵分三路攻打北元残余势力。吸取以往失败教训的王保保以逸待劳，以诱敌深入的策略，在岭北打败了徐达率领的明军，杀死明军数万人，使明朝损失惨重。
此战也彻底粉碎了朱元璋永久解决北方问题的夙愿，也让他清醒的认识到王保保与残元势力的强大。此后，双方进入相对"和平"的时期，虽也有交手，但都规模较小。
岭北之败后，朱元璋才体会到刘伯温曾对他讲过的一句话："扩廓未可轻也！"于是，朱元璋决定改变策略，一方面，他命令边境的明军严密防守，不敢再轻易出塞征讨；另一方面，他先后7次派出使者，封以高官厚禄，持书诱降，但王保保却始终不为所动。
