之后常遇春跟着朱元璋南征北战，灭陈友谅、平张士诚、攻元大都，为明朝的建立立下了汗马功劳。他曾豪迈的说：“能将十万军横行天下”，所以军中又称他为“常十万”。明朝建立后，他又奉朱元璋之命率军北伐，与徐达等人一道将元朝残余势力追的远遁北漠。为何同样是开国名将，常遇春就能深得朱元璋信任呢?
首先，常遇春对朱元璋忠心耿耿，别无二心。朱元璋最讨厌人背叛，只要手下心中有了背叛的想法，朱元璋便会毫不留情的把他除掉。而常遇春虽然大权在握，还功高震主，但却从未想过取代朱元璋。他一生只愿跟着朱元璋鞍前马后。所以朱元璋评价他说：“虽古名将，未有过之”。
其次，他为人低调，不居功自傲。他替朱元璋扫平天下后，朱元璋曾表彰他：“勤劳于外，南平诸郡，兵不失律，民无所扰”。但常遇春却说：“这是陛下运筹帷幄的结果，臣只是个跑腿的，不敢居功。”虽然这多少有点拍马屁的嫌疑，但却打消了朱元璋的怀疑。最后，他与朱元璋成了儿女亲家。常遇春的长女嫁给了朱元璋的长子朱标，如果朱标不早死的话，常遇春就是国丈。有这层关系在，朱元璋对常遇春也很放心。所以常遇春去世后，朱元璋难过了许久，还让画师给常遇春画了幅身穿龙袍的全身像。
