的确，在朱元璋的心中，李善长早年跟随朱元璋，多年来勤勤恳恳，调运粮草、器械，在后勤方面兢兢业业，汉朝的萧何也没有他这般功劳。最重要的是，李善长投奔朱元璋的时候，朱元璋还只是一个小兵管，龙相未显。这和后期的刘伯温、宋濂等人（投奔的时候）有本质的区别，以刘伯温为例，朱元璋当时已经占领南京，请刘伯温来协助自己，刘伯温还要再观察一段时间，最终朱元璋派人多次邀请，刘伯温才肯出山。虽然在后期，刘伯温在谋略上强李善长数倍，但论忠恳，后来的这帮文臣远不及李善长。
在那个乱世，百姓流离失所，组织这帮百姓拿起武器打仗并不是难事，但缺乏的是一些读过书、而且愿意造反的读书人。李善长对朱元璋的重要性很快体现出来了。初期，李善长为朱元璋招贤纳士，并且帮朱元璋梳理军队纪律，这些才能，是那帮武将做不来的。因此，很快发生了一件让李善长身不由己的事情。
众所周知，朱元璋少年疾苦，父母双亡，在皇觉寺出家为僧期间，适逢红巾军起义，朱元璋参加了红巾军。濠州红巾军元帅郭子兴看朱元璋处事果敢，在寺庙里又认识几个字，所以重用，并且把义女马氏（后来的马皇后）许配给了朱元璋。但朱元璋逐渐成长，受到了郭子兴父子的猜忌，于是，朱元璋带上了24名心腹之人，离开了濠州（古凤阳），前往滁州，开创了一片属于自己的根据地，也就是在这里，朱元璋得到了李善长。但随后，朱元璋的老上司郭子兴在濠州却混不下去了，不得不来滁州投靠朱元璋。
