至于蓝玉具体生于哪一年已经无法确定，在早期从军的时候，因为他是常遇春的妻弟，便一直跟随着常遇春作战。可惜，常遇春这位喜欢担任先锋位置的名将英年早逝。在一次北伐元朝的战争中，徐达特意挑选蓝玉为自己的先锋。当时人们都认为，徐达只不过是因为蓝玉为常遇春的妻弟才这样做，因为常遇春在生前就经常担任徐达的先锋官，二人关系也比较好。换句话说，大家都认为蓝玉不过是走后门罢了。实际上，早在那个时候徐达就看出了蓝玉的军事才能，可见有一位伯乐还是非常重要的。蓝玉也就从此开始，慢慢地发挥出自己的军事才能，在之后的战役中大展身手。
要是说之前几场战役还只是小打小闹，那蓝玉的成名之战就是在捕鱼儿海了。于洪武二十一年（1388年），蓝玉率领着自己的15万大军踏上北伐之路。在得知当时的元朝君主驻扎在捕鱼儿海，也就是今天的贝尔湖一带，蓝玉率军连夜赶往此处。中间还出现了一些小插曲，在到达相距捕鱼儿海40里左右的地方时，由于还看不到元军，并且此时已深处于大漠之中，难免会令人心中打起退堂鼓。不过好在，一番犹豫之下，他们继续前行到达元军驻扎之地，打败敌军。这一仗，光是俘获的元朝官属就有三千多人，其他更不用多说。朱元璋得知消息之后更是高兴的将蓝玉比作自己的"卫青"、"李靖"等名将，封其为凉国公。
