洪武十四年，他以副将的身份随军向南攻打元朝余党。凭借自身的才智，他以很小的兵力消耗拿下了云南。因为此事，他的官阶又上了一层，俸禄也增加了不少。他在军中的声望也逐渐上升。
洪武二十一年，蓝玉奉命出征北上。在捕鱼儿海这个地方，明军成功俘虏了元朝大部分余孽。蓝玉率领大军故意示弱，叫对方放松警惕，在不知不觉间给了元军致命一击。这次大战，抓获了几万俘虏，其中还有元朝的贵族王公。除此之外，明军还缴获了大量财宝和马匹、牛羊。
这一场战役可谓是在最大程度上杀灭了元军卷土重来的可能性。蓝玉本人收到了很大的嘉奖，他的地位也越来越高，在军中和朝堂上的声望也越来越大。
