在混乱的元末，阶级矛盾空前激化，全国各处有着数不清的起义军叛乱，加上土匪流寇危害百姓，人们纷纷拿起武器战斗。常遇春在这期间就去投奔了靠打家劫舍起家的绿林大盗刘聚。凭借着出人的武艺，常遇春很快在刘聚手下脱颖而出，被任命为十夫长。但是这种强盗生活在其看来并非长久之计，于是他另谋出路，投靠了朱元璋，开始了自己的军旅生涯。
在常遇春得到朱元璋的信任后，他的一生征战无数，先后经历了鏖战衢州，大战九华山，大破陈友谅，攻取元大都等大胜仗。朱元璋评价他："当百万之众勇敢先登，摧锋陷阵，所向披靡，莫如副将军遇春信矣哉。"在朱元璋完成由南克北的壮举，渡江战役之中，常遇春逐步锋芒初露，立了头功，于是从渡江时的先锋升至元帅。
然而常遇春这个人让世人诟病的一处便是其心狠手辣， 对于投降的俘虏，他的决断就是杀降，他每攻下一城就屠城，不留俘虏全部杀掉。这也给他战无不胜的一生抹上了污点，还曾被朱元璋训斥其做事有伤天和。可惜，常遇春只活到四十岁，就病死于柳河川。他之死也难说不是数万亡魂的牵扯。
在他去世后，朱元璋十分伤心，还作了诗来悼念他："朕有千行生铁汁，平生不为儿女泣。忽闻昨日常公薨，泪洒乾坤草木湿。"常遇春被追封开平王，谥号忠武，成为配享太庙的大臣。
