一次偶然的机会，他遇到了起义军朱元璋。早在很久以前，他就听闻了朱元璋的威名，为人侠义豪放。常遇春化身农民观察，发现这个朱元璋气宇轩昂，并且亲近农民，毫无架子。他觉得这是值得他跟随一生的人，于是就离开刘聚，投奔朱元璋去了。
他和朱元璋的相遇相识的过程也相当奇特。刚开始朱元璋以为这个人也是过来混吃混喝的，就不打算用他，并对他冷眼相待。谁知常遇春一上来就说："我觉得我可以当你的先锋，你指向那里，我就可以攻下那里！"朱元璋见他语气诚恳，身材魁梧，一看就不是普通人，就把他留了下来。从此，常遇春便在朱元璋开启了他的戎马一生。
常遇春才思敏捷，兵书烂读于心。他的作战计划也像他的人一样，勇敢无比，势不可挡。在他投奔朱元璋不久，朱元璋率军南下，和元军在采石矶交战。当时的常遇春勇猛无比，他身先士卒，乘小舟在激流中左冲右突，如入无人之境。借着常遇春杀出来的气势，明军也士气高涨，个个以一当十，杀得元军节节败退。朱元璋也在这场战争中拿下一块财富之地，大大增强了明军的后援力度。常遇春也在这场战争中初露锋芒，被朱元璋封为大元帅。
元朝在中原地区的势力被灭之后，朱元璋的最大敌人变成了陈友谅的起义集团。陈友谅是个心狠手辣之人，他小时候被欺压怕了，对任何人都不信任，所有人对他来说都是可以杀的，没有利用价值的人就该死！当时朱元璋的实力和陈友谅的有着很大的差距，尤其是水军方面，当时的陈友谅水军有100多艘巨舰，而朱元璋一艘都没有，两方还要水战。没有人看好朱元璋，甚至连朱元璋自己都不相信能赢。常遇春却不信邪，他异军突起，火攻，冲杀无不用尽。在最后决战的时候也是他一箭射死陈友谅军中指挥舰队的张定边，导致一整支舰队去无头苍蝇，这时候他又发挥明军这边舰船小，灵活的优势，把陈友谅那一支庞大的舰队全军覆灭，大败陈友谅，为朱元璋建立大明王朝奠定了雄厚的基础。这一战，也是常遇春的封神一战！
