刚投奔朱元璋时，朱元璋是看不起常遇春的，认为这个人只是想来军中讨一口饭吃。而常遇春呢，他也并非就轻易投靠朱元璋，古代历史中常有择民主的说法，常遇春在入朱元璋的军队前悄悄的观察了朱元璋一段时间，在确认朱元璋值得自己跟随后才去了军队。
史料记载，常遇春出生于一个贫困家庭，但他从不甘心一生碌碌无为，而是想办法走出窘迫之地。在弱肉强食的古代，常遇春深知生存的重要性就是要有一身本领，但家境贫困的他怎么让自己有一身本领呢，他利用帮人做工换取学习武功的机会。久而久之，常遇春就习得一身本领，除了精于骑射之外，什么兵器都能使用，这放在战场上绝对是一员猛将。
但常遇春并没有马上进入朱元璋账下，而是先去了怀远，入了绿林大盗刘聚部下，还成了刘聚的心腹。过了一段时间后，常遇春不满于自己的土匪生活，出走刘聚部下，确定朱元璋值得追随后到了朱元璋的军中。
