至正十二年冬天，元将贾鲁包围濠洲，朱元璋与郭子兴全力抵抗。至正十三年春，贾鲁死，城围解除。朱元璋收里中兵，得到七百人。郭子兴大喜，任命他为镇抚。
当时彭大、赵均用的部下横征暴敛，郭子兴变弱，朱元璋考虑到不值得和他们共事，于是将自己的兵马派于其他将领，自己与徐达、汤和、费聚向南攻占定远。用计降服驴牌寨民兵三千人，与他们一起向东。夜里在横涧山偷袭元朝将领张知远，收服他们的兵马两万人。路途中遇到定远人李善长，与他聊起来，大喜，于是与他一起攻占滁州，这一年，张士诚占据高邮，自称诚王。
至正十四年冬十月，元丞相脱脱在高邮大败张士诚，分兵围困六合。朱元璋说："六合被攻破，滁州也无法幸免。"于是与耿再成在瓦梁垒驻军，救张士诚。全力激战，保卫老弱撤到滁州。元兵尾随而至，攻打滁州，朱元璋设下埋伏诱敌大败元军。
但考虑到元兵势力强盛再次攻击，于是归还得到的战马，派遣父老带着酒肉向元将道歉说，我守城是为了防备其他的盗贼罢了，你们为什么要舍弃贼寇却屠杀老百姓呢？元兵撤退，滁州得以保全。元将脱脱已经大败破士诚，军队声威大振，朝中有人进谗言，于是被解除兵权，江淮之地更加混乱。
