当然像徐达、汤和这样谨慎之人还是与胡惟庸保持了界限，只有那些有勇无谋的莽撞武将才与胡惟庸走得很近。徐达不仅与胡惟庸保持了界限，还多次提醒朱元璋不可重用胡惟庸，这个人善于结党营私。
很快胡惟庸就开始骄纵不法，并与一些淮西勋臣结党营私，加上徐达的提醒，朱元璋立刻就有了警觉，朱元璋已经认识到胡惟庸和淮西勋臣勾结的危害，很可能会让自己大权旁落，将来甚至威胁到太子朱标接班。
于是洪武十三年(1380年)朱元璋以"谋不轨"之罪将胡惟庸及其党羽诛杀，并诛杀了胡惟庸九族，史称胡惟庸案，不过在胡惟庸案中，朱元璋并没有过度扩大影响，他只是诛杀了胡惟庸及其党羽，并没有牵扯太多的淮西勋臣，这说明朱元璋当时对包括李善长在内的淮西勋臣还有所包容。
不过当朱元璋要赐死李善长并诛其满门时，就已经注定朱元璋想借机将尘封已久的胡惟庸案继续扩大化，借此收拾一下淮西勋臣。
朱元璋的包容是有限的，李善长的所作所为让他最终无法容忍
李善长之死实际上代表着朱元璋想借着胡惟庸案清算淮西勋臣，当然，李善长本可以不用死，朱元璋对他不比其他淮西勋臣，毕竟他曾经对朱元璋帮助太大了，但是李善长本人的性格也很有问题，最终使得朱元璋包容不下他了。
自从明代建立之后，朱元璋夸李善长是汉之萧何，那时候起李善长就飘飘然起来，他真以为朱元璋没有他当不了皇帝一样，越发居功自傲起来。
其实当初李善长与胡惟庸认识还是多亏了他的弟弟李存义引荐，李善长的弟弟李存义之子李祐是胡惟庸的侄女婿，也就是说李存义与胡惟庸是姻亲，两人关系走得很近，后来李存义就把胡惟庸引荐给了大哥李善长，因此李善长才欣赏提拔胡惟庸。
胡惟庸被杀五年后，也就是洪武十八年(1385年)时，李存义和儿子李祐被人告发与胡惟庸关系亲密，被认定为是胡惟庸的党羽，但是朱元璋当时并没有想动李善长，所以他还看在李善长的面子上没有追究李存义和李祐父子，只是将李存义和李祐罢官，然后安置在崇明结束。
这件事上李善长办得就很不对，作为皇帝的朱元璋给他面子赦免了他的弟弟李存义，按理他应该入宫拜谢朱元璋的皇恩浩荡，但是李善长却没有入宫谢恩，好像朱元璋就应该赦免他弟弟似的，这件事让朱元璋对李善长很是不满，也能看出李善长居功自傲的表现。
