洪武二十一年，朱元璋改让常升继承了常遇春的公爵，改为开国公，加太子太保。
此外，常遇春的女儿嫁给了皇太子朱标，被立为太子妃，可惜死在朱标之前。但她的地位很特殊，建文帝登基后，追尊她为朱标的皇后。也因此，在朱元璋和朱允炆时代，常家的地位都比较特殊。
常升的表现一直比较平庸，《明史》中只提到他几次练兵，没有实战的记录，也没有提他是怎么死的。文献中有两种说法，一种不太靠谱的说法是他被归入了蓝玉党，在洪武年间就被处死。
另一种说法是他死于永乐初年，此前曾经和徐辉祖一起在浦子口挫败过朱棣的军队。比如王世贞就说过，常升在建文四年末，因为抗击燕军而被贬到云南的临安，因为忧虑而死在那里。《明史》中却说，常升的儿子常继祖在永乐元年被迁到云南的临安卫，时年七岁。这种说法似乎不太准确，七岁的常继祖应该是跟着父亲常升一起去了云南。
