这时,元朝的旧将扩廓侦大将军刚从南边回来,立刻就从甘肃率领步骑来犯。兰州的诸将都请求张温固守下来等待援军,但是张温却说:"他们远道而来,不知道我们的虚实,我们不妨借助夜色来袭击他们,这样还可以挫败他们的锐气。倘若他们不退去,到那时我们再固守城池也不晚。"
于是张温整兵出战,元兵因此被杀死的不少,敌军围城数日,张温却敛兵坚守不出,敌军耗费多日久不能攻下,于是也就撤退了。朱元璋称赞了张温的这次奇袭,并称之为"奇功",还提拔他作了大都督府佥事。
不久,皇上又任命张温兼任陕西行都督府佥事。当初兰州被围困的时候,元兵趁着夜色用梯子登城。当时千户郭佑喝多了酒睡着了,不知道这些事,幸好,巡城的其他的将领击退了敌军。在围困已经解除后,张温打算处死郭佑。