胡惟庸一伙势力意欲图谋大事，曾亲自找退休的李善长商议，李善长开始很惊骇，后来居然说："吾老矣，吾死，汝等自为之 ！"（我已经老了，等我死之后，你们再去干吧！）这种大逆不道的话能说么？这话缺乏政治智慧的胡话，传到朱元璋耳朵里，不是找死么？随后又有人告发李善长包庇胡惟庸，隔岸观火，说："将军蓝玉率军出塞，到捕鱼儿海时，俘获胡惟庸私通沙漠使者封绩，李善长却匿而不报。"朱元璋以微末之身得江山，十分不易，所以当上皇帝后，对骄兵悍将本就疑心重重，害怕自己死后，朱家子孙镇不住这些元老功勋，而李善长曾作为开国丞相、文官之首，首屈一指，德高望重，门生故旧遍布，纵然辞相依然影响力巨大。而且李善长还是个"不检点"的皇亲国戚，平时屡屡违制，犯了帝忌，杀他只是朱元璋长久心中愤恨的爆发。
李善长是淮西勋贵之首，将他铲除可以为铲除其他淮西勋贵铺平道路。此时的朱元璋已经有了非常深的猜忌和对大臣的不信任，几乎已经到了歇斯底里的状态。在他的心中，也许只有斩草除根，将所有勋贵全部铲除才能够确保皇位的安全，帝王心术让人唏嘘。
