之后，李善长跟随朱元璋征战，并且替朱元璋出谋划策，击败了陈友谅、张士诚、方国珍，等人，1368年，在南京称帝。洪武初年的时候，李善长才高德旺，被任命为左丞相，还命令他修建《元史》，编写《太祖训录》。
1370年，朱元璋大封功臣，允许李善长一家世袭爵位，并且有给他加官进爵，还特意赐他免死金牌，并且允诺，可以免除他两次死罪，可以免除他儿子一次死罪，皇帝做到这个份上，真是格外器重，还怕自己以后杀错人，为了他以后能有保障，特地赐他两次免死的机会，就连他的儿子都能沾上他的光，得到一次免死的机会。
然而，李善长并没有记住皇帝的恩情，反而恃宠而骄，开始忘记自己是谁了。而且，渐渐的暴露了自己的本性，他是兵法谋略上的天才，但是也是心胸狭隘的小人，完全就是有才没气度的典范，而且现在皇帝又如此器重他，那些曾经招惹过他的人都没有好果子吃，他最爱向皇帝打小报告，说别人犯了什么罪，最后那些人都被罢免官职。
当时的中丞刘基就因为和李善长争论，就被李善长指着鼻子骂，刘基越想越好怕，最后，还没等李善长主动出击，就立马收拾东西告老还乡了。一时之间，朝廷上下也没人敢惹他，一些势利小人也开始巴结他。朱元璋看在眼里，但是看在他用功，可能只是和那些人意见合不来，这些小事情也都没有追究。
到了1376年，朱元璋病了，而且病得比较重，按理来说稍微有心一点的大臣们都会进宫探望，很多人都去了，但李善长就是不去，不仅自己不去，还叫身为驸马的儿子别去，这是什么意思？朱元璋都看不懂，不过也是真的寒心，这时候的李善长已经都不把皇帝放在眼里了，朱元璋为了提醒他君臣之礼，于是罚了他的俸禄。
