洪武二十三年（公元1390年），已经77岁高龄的李善长眼看就要平稳着陆了，但他却生生把自己"作"死了。这一年，李善长要重修屋舍，于是向老朋友信国公汤和借用300士兵帮忙干活。虽然只有300人，但借兵自古都是非常敏感的事情，向来谨慎的汤和便将此事告知了朱元璋，这让朱元璋十分不爽。
紧接着，同年四月，李善长的亲戚丁斌获罪被流放，李善长上疏给朱元璋为丁斌求情。早已对李善长忍无可忍的朱元璋因此十分恼火，不但没有放过丁斌，还将丁斌押入大牢细细拷问。结果，屈打成招的丁斌竟然供出李善长当年参与了胡惟庸造反一事。据丁斌交代，当年胡惟庸曾拉李善长入伙，李善长的回答是："吾老矣，吾死，汝等自为之。"也就是说，李善长虽然没有直接参与其中，但他知情不报，而且纵容胡惟庸等人谋反。
就这样，盛怒之下的朱元璋下令诛杀了李善长全家70余口，只有长子李祺因为娶了朱元璋的长女临安公主得以幸免。至于丹书铁券，别傻了，皇帝能给你，就有借口让你用不上！
李善长死后第二年，虞部郎中王国用上疏为李善长鸣冤，大意就是说：李善长是宰相，官职上已经是群臣之首，生前是公爵，死后必然封王，爵位上也是位极人臣。而且，从亲疏关系上看，胡惟庸将女儿嫁给李善长弟弟的二儿子李佑，而朱元璋则是将自己的长女临安公主嫁给了李善长的长子李祺，这世上也没有侄子比儿子亲的道理。就算胡惟庸谋反成功，李善长最多也就是封公、封王、当太师、当宰相而已，不会比现在更好。总之，他没有必要支持胡惟庸谋反。
按理说，皇帝收到这样的奏疏，说他冤杀了功臣，必然是要发怒甚至杀掉言官的，但是朱元璋当时却丝毫没有加罪于王国用。可见，其实朱元璋也知道李善长是冤枉的，至少他从未想过要支持谋反。
