在元朝末年，天下大乱，蓝玉果断的投入了朱元璋的队伍，在常遇春的帐下效力，做了一名小军官，做事有胆有谋，面临敌人勇猛无比，只要征战都能得胜而归，因此深得常遇春的信任。常遇春多次在朱元璋面前夸奖蓝玉，从此蓝玉在军中的职位也是越来越高。之后蓝玉先后辅助傅友德，徐达，沐英出兵四川，北征沙漠，平定西蕃，立下赫赫战功！
洪武十二年，公元1379年，蓝玉被朱元璋封为永昌侯，俸禄二千五百石，并赐予世袭爵位。进入了新贵之列。
在洪武十四年，公元1381年，蓝玉又随傅友德、沐英率领大军30万，南征云南 ，轻松拿下昆明，驻守的元朝右丞观甫保出城投降，盘踞云南的残元势力被消灭。同时，蓝玉又攻占大理，滇地的元朝残余势力也全部平定。
特别是在洪武二十一年，公元的1388年，蓝玉率领部队15万向北征讨，在捕鱼儿海，大败元军，仅元主与太子等数十骑逃走，其部众全部被降。其中包括元主次子地保奴、妃嫔、公主以下百余人，吴王、代王及以下官属三千人、部众七万七千余人，以及宝玺、符敕、金银印信等物品，马、驼、牛、羊十五万余头，并焚毁其甲仗蓄积无数。捷报奏传至京，朱元璋大喜，赐诏奖励慰劳，将蓝玉比作卫青、李靖。
