朱元璋登基之后，李文忠又与常遇春一起，将元朝的残余势力赶尽杀绝，将元顺帝赶进了大漠深处。常遇春死后，朱元璋就让李文忠接管了常遇春的军队。李文忠除了战功显赫之外，也有很强的处理政事的能力，经常与李善长等人一起参与军国大事的讨论与决策。
后来明朝安定之后，朱元璋杀了胡惟庸，牵涉非常广，被牵连的官员数以万计。甚至只与胡惟庸打过招呼的官员也被杀了。李文忠认为不应该这样，就上奏朱元璋，劝他不要杀戮功臣。当时朱元璋同时决定征讨日本，李文忠也劝朱元璋不要发兵。
朱元璋见了不以为然，将奏折放到了一边。李文忠见朱元璋杀的功臣越来越多，对此非常担心，因此连夜写了一份奏折，早上与妻儿诀别之后，就上朝去了，准备冒死劝谏。朱元璋看了李文忠的奏折之后勃然大怒，对着李文忠一顿大骂。
李文忠已经是抱着必死的决心劝谏的，因此丝毫不害怕，继续直言劝谏，最后大喊："文忠死不足惜，愿陛下多念及江山黎民。"朱元璋见李文忠是铁了心与自己作对，一怒之下就将李文忠关了起来，并且准备将他杀了。
