在朱元璋攻打滁州时，他主要管理粮草的运输，在此期间李善长还帮朱元璋把关投靠他的人，以及安抚降者。后来郭子兴猜忌朱元璋，开始夺走他的兵权，还想顺便把李善长也挖过来，却遭到李善长的拒绝，从此以后朱元璋对李善长更加器重。
朱元璋攻克太平以后，自封元帅，任命李善长为帅府都事。公元1356年，朱元璋攻下集庆以后，将其改为应天府（今南京），朱元璋攻下镇江后不久，升任李善长为参知政事。
1364年，陈友谅战死以后，文武百官推举朱元璋为吴王，此时李善长为右相国。朱元璋出征以后，便命李善长留守根据地，他的工作就是往前线运输物资和粮草，安抚百姓。
1368年，朱元璋经过十几年的艰苦奋斗，在今天的南京登基称帝，定国号"大明"。第三年，朱元璋大封功臣，其中有六位授公爵，分别是韩国公李善长、 魏国公徐达、郑国公常茂、曹国公李文忠、宋国公冯胜、卫国公邓愈。其中只有李善长一位是文官，可见朱元璋对他的器重。
古代爵位等级是王、公、侯、伯、子、男，虽然刘伯温的功绩不在李善长之下，却只封了个伯爵，比李善长的公爵低了两级，他们的工资也不能比，刘伯温的年薪只有240石，而李善长的年薪有四千石，相差将近17倍。
除此之外，李善长的爵位和俸禄都是可以世袭的，朱元璋还赐给李善长铁券（免死金牌），李善长可用两次，他的儿子只能用一次。
