朱元璋渐渐地讨厌李善长的这股傲气，认为他刚愎自用、心胸狭窄，打压属下。由于李善长的地位太高，朱元璋认为打天下时他为我所用，如今坐了天下，却成为一大威胁。于是，趁着李善长生病，朱元璋就允许他回乡养病了。等老亲家养病回来，朱元璋又给他安排一个没有权利的虚职。李善长当初冒着杀头的危险追随了朱元璋，功名刚刚到手就这样被打发了，心里总不愉快。其实，一场更大的政治灾难已经悄悄向他逼近。
当时，胡惟庸把持中书省，飞扬跋扈，形成了强大的势力，最后不能被朱元璋容忍是很自然的。朱元璋加给他以谋反的罪名，并由此诛杀了三万多人，有意制造了一场血案。
胡惟庸是李善长的老乡，早年受到李善长的提拔，只要提到胡惟庸，朝中大臣总会想起李善长。胡惟庸案发生后，李善长也因此受到政敌的猛烈攻击。也许是考虑到儿女亲家，朱元璋将李善长赦免了。李善长抱着一颗紧缩的心，战战兢兢地度日。
随着时光流逝，该处置的都处置了，紧张的气氛似乎缓和下来了，李善长也就不再介意了。他那里知道，朱元璋并没有忘记这笔账，他在细心观察李善长的一举一动。洪武二十三年，李善长七十七岁，风烛残年，但还要尽情地享受，还要为子孙置办产业。他打算再造府邸，并从卫国公汤河那里借了三百个卫卒。汤河怕受连累，赶紧密报皇上，朱元璋暗骂李善长不知好歹。
那年春天，京城中有一批人因罪发配边疆，李善长又为他的亲信说情，朱元璋认为这个老头子自身难保还爱多管闲事，很是生气。这些都加深了朱元璋对李善长的猜忌。
