李善长仗着朱元璋对自己重视，心态慢慢变得高傲自满。他还在朝廷上拉帮结派，以他为首的团伙就是 “淮西集团”。 李善长还打压朝廷命官，很多官员受到了李善长的迫害，一些小一点的官员只能选择和李善长同流合污，不然就会被迫害。
明朝著名的胡惟庸案也和李善长有着直接的关系。胡惟庸案朱元璋一共杀了3万人，秉着宁可错杀不可漏杀的原则，朱元璋在当时掀起了一场血雨腥风。但是这次案件却没让李善长受到丝毫损伤。这让很多的官员感到不公平。
后来李善长推荐的胡惟庸受到朱元璋的重用，一路扶摇直上做到了丞相的位置。可是此人却不受朱元璋的控制，还密谋造反。朱元璋发现后，将他全家处死，并株连了3万余人。但李善长并没有受到任何处分，让朝廷其他官吏大为不解。虽然谁都知道李善长和胡惟庸案有关系，但是并没有直接的证据，所以朱元璋不敢轻易行动。
而李善长也没有丝毫的收敛，反而更加得寸进尺。洪武二十三年，有人上奏说李善长计划谋反。这次朱元璋有了证据。朱元璋判了李善长死刑，但是李善长可是有免死金牌的，但是对于李善长的上奏，朱元璋冷笑着说：“你再仔细看看那上面的九个字。”
李善长看着手中的金牌上写的：“所谓免死，除谋反大逆”九个字。李善长被诛了九族。
