长子常茂，因父亲常遇春的功劳被封为了郑国公，洪武二十年，随大将军冯胜北征纳哈出，常茂又是冯胜的女婿，在军营中多不受约束，当时的纳哈出部准备投降，但是，在酒宴中常茂听部下说纳哈出想乘机逃跑，于是，迅速拔剑砍伤了纳哈出，结果，惊散了许多投降的部将，让明军差点功亏一篑。回朝后，常茂因此事被削了爵位，并被流放到龙州，不久忧郁而死。
次子常升，在兄长被流放后继承了父亲的公爵，改封为开国公，加太子太保。关于他的死因文献记载不详。一说受蓝玉案牵连，被告发在三山聚兵图谋造反被诛杀，不过，这种说法最不可信。另一说，靖难之役时，在浦子口阻击朱棣的军队，于永乐初年死亡。
三子常森，对于这个小儿子，正史没有说法。据说，南京被围困时，常森趁乱带着妻儿逃到了陕西一带，后来，在陕西米脂县陈家岔村定居，今米脂县的常氏家族，即为常森的后裔。
可见，常遇春的子女结局都不算圆满。
常遇春墓位于南京市玄武区太平门外紫金山之阴白马村，占地约2500平方米，底径9.5米，墓高2.4米，现墓道两侧尚存一石柱、二石马、二石虎、二石羊、二武将，雕刻工艺精湛，神形兼备，墓碑上镌刻"明故世祖开平王遇春常公之墓"，现为全国文物保护单位和世界文化遗产。
