等到1363年，朱元璋杀了陈友谅这个劲敌，称自己为吴王。又在1367年杀了张士诚，第2年又发出了"北伐中原，驱逐胡虏"的一个口号，并且当时在南京尚未建立了大明朝。这个时候的朱升已经年事已高了，朱元璋也考虑到他的年龄问题，还特准他不必日日上朝，毕竟朱元璋对他还是很器重的。
但是朱升自己的理智告诉自己，如果整天沉迷于现在的荣华富贵，迟早会死在朱元璋的手里，甚至还会葬送整个家族，于是向朱元璋提出了辞职，等到后来迁移到了盐城隐居，很少有人知道他的行踪。他在走之前，为了给自己的儿子留一条后路，向朱元璋要了一个"免死金牌"，以备不时之需，在15年以后朱升的儿子卷入了一场盗卖官粮啊，还是被处死了，看着免死金牌的作用很大，可是最终解释权还是在朱元璋手里呀。
