洪武十三年（1380年），胡惟庸因谋反篡位之罪被朱元璋诛杀，而胡惟庸正是李善长的同乡，还曾经向朱元璋举荐过胡惟庸。如今胡惟庸有谋反之心，按照常理，李善长也要受到牵连，就连群臣都请求诛杀李善长，但朱元璋念及他开国有功，不予追究。后来到了洪武1十八年（1385年），又有人告发李善长的弟弟李存义和他的儿子实为胡惟庸的余党，但是朱元璋还是没有处置李善长，李善长知道朱元璋此举，是以胡惟庸谋反为由巩固权力的手段，于是既没有向朱元璋道歉，也没有感谢不杀之恩，这让朱元璋很不高兴。
但真正致李善长于死地的是他对胡惟庸的一句话，洪武二十三年（1390年），在严刑逼供之下，有人供出其实李善长早就知道胡惟庸要谋反，而没有选择告知朱元璋。面对胡惟庸许诺他的事成之后以淮西之地封其为王，李善长很是心动，但是还是拒绝了说道："吾老矣，吾死，汝等自为之"，朱元璋知道后很是愤怒，认为李善长摇摆两端，于是下令：满门抄斩！将李善长全家处死，一共七十余人。
面对两方的政治斗争，年迈的李善长选择了"中立"，但是即使是这样，仍然难逃悲惨的命运，沦为政治斗争的牺牲品，令人唏嘘感慨。
