除了供应军需外，李善长还为朱元璋选拔了许多人才，并参与了许多重大军机事务的决策，成了朱元璋身边最重要的帮手。在李善长和刘伯温等人的帮助下，朱元璋先后灭掉了陈友谅、张士诚和方国珍等主要对手，建立了大明王朝。朱元璋称帝后，封了不少功臣，李善长位于百官之首，被授"太师、中书左丞相，封韩国公，岁禄四千石，子孙世袭"。而名声极大的刘伯温却仅仅得了个诚意伯的爵位，比李善长低了好几级。此外，朱元璋还赐给了李善长一块免死铁券，可以免除他两次死罪。
李善长从未领兵上过前线，竟然受到如此高的殊荣，一些武将对此很不满。但朱元璋却说"善长留守国中，转运粮储，供给器械，从未缺乏。又治理后方，和睦军民，使上下相安。这是上天将此人授朕。他的功劳，朕独知之， 其他人未必尽知。当年萧何有馈晌之功，千载之下，人人传颂，与善长相比，萧何未必过也。"在朱元璋看来，李善长就是自己的萧何，当年萧何就是百官之首，如今李善长也应该享受这种待遇。
为了进一步拉近和李善长的关系，朱元璋还把自己的女儿许配给了李善长的儿子，这样一来，李善长又成了皇亲国戚，风头盖过了满朝文武，成了一人之下万人之上的权臣。在众人羡慕的眼光中，李善长看到了自己的危机。特别是他一手提携的胡惟庸因谋逆罪被诛九族后，他更是深受刺激，知道朱元璋这是要卸磨杀驴了，于是决定告老还乡以求自保。但朱元璋却并不打算放过他，公元1390年，朱元璋以"知逆不举"等罪名将李善长一家70余人处死，此时距胡惟庸案已经过去了整整10年。
