随后的十多年，常遇春和徐达有过多次合作。公元1356年，常遇春和徐达第一次合作，步舟师水陆并进，渡过长江进攻张士诚的淮东地界；公元1365年，常遇春和徐达率军20万，进攻张士诚，拿下了淮南和淮北；公元1366年，常遇春和徐达围困苏州，一年后张士诚败亡；公元1368年，常遇春和徐达攻占山东，打下了元大都，接着开始西征，又拿下山西。
既然常遇春和徐达都是历史上少见的名将，那么为什么常遇春一直是副手呢？背后原因与朱元璋有关。公元1360年，31岁的常遇春和29岁的徐达各自率领一部，在九华山大败陈友谅，可是两人在处置俘虏的问题上发生了争执。常遇春认为立即杀掉，以免留下后患；徐达认为不能杀，一是有违人道，二是会让以后的敌人都不敢投降。
