于是就开始精心的培养他，教他骑射，不过尽管武师十分看重他，精心栽培他，但是当时阶级矛盾激化，贫民百姓根本无法温饱，于是没过多久，常遇春就被迫落草为寇了，不过他与那些只懂打家劫舍的匪寇不同，他从来不杀生。
直到1355年朱元璋的军队路过此地，常遇春才看见了出路，他觉得朱元璋心怀大志，能从一个和尚做到如此地步实在让人敬佩，不过一开始朱元璋对他的态度却很冷漠，因为觉得他因挨饿就落草为寇，现在来他的军队也不过是想混口饭吃。
然而1359年，常遇春直取衢州，1360年又镇守池州，大败陈友谅，甚至用自己精湛的箭术在敌军手下救出了朱元璋，屡建奇功，这才让朱元璋对他刮目相看，将他任命为军队的先锋。此后常遇春逐渐成为朱元璋的心腹，1963年击退卷土重来的陈友谅，恢复了皖南的军事基地。
