至正十五年（1355年），朱元璋率徐达等人渡江，攻打采石城（今安徽当涂）。在攻打采石矶和太平府的战斗中，徐达与常遇春二人冲锋陷阵，勇冠三军，擒元将陈也先。至正十六年（1356年），朱元璋攻下集庆。徐达率军一日攻克京口（今江苏镇江），被授统军元帅。徐达率军围攻毗陵（今江苏常州），生擒张士诚胞弟张士德，又与常遇春生擒其部将张德，次年，徐达攻克毗陵、宁国、宣城。
至正十九年（1359年），徐达会同俞通海的水师一起进攻陈友谅的池州，大破敌军。徐达攻克池州，擒其守将，并缴获其全部战船。徐达因功拜奉国上将军。接着，徐达乘胜攻克无为州、潜山。之后，徐达用离间之计，使陈友谅杀安庆守将赵普胜，徐达攻下安庆。元至正二十年（1360年）正月，陈友谅率大军进犯池州。徐达会同常遇春一面诱敌进兵，一面选精兵万余埋伏在九华山下，断其后路。当陈友谅军至城下，伏兵四起，城内精兵冲出，内外夹击，陈友谅军大乱，斩首万余，生擒三千。
至正二十三年（1363年），朱元璋与陈友谅在鄱阳湖激战。陈友谅拥兵六十万，朱元璋只有二十万人。第一天交战。徐达身先诸将，指挥将士勇敢拼杀，一举击溃陈友谅的前锋部队，歼敌一千五百人，缴获巨舰一艘，军威大振。朱元璋取得了鄱阳湖战役的胜利，全部歼灭陈友谅的六十万大军。 至正二十四年（1364年）正月，徐达升左相国。二月，平定武昌。八月，徐达会合杨琼等人略取湖南，肃清了陈友谅的残余势力。
元至正二十六年（1366年），朱元璋任命徐达为大将军，常遇春为副将军，统率二十万大军攻打张士诚。徐达派兵夜袭敌兵营地，切断张士诚军粮道。湖、杭二州不久亦相继攻克。徐达统率大军围困平江（今江苏苏州市），日夜用炮轰击城中。九月，平江城中粮尽。徐达下令全军强攻破城，将士人人奋勇争先。徐达督军首先攻破葑门，常遇春攻破闾门水寨，直逼城下。张士诚军全线崩溃。平江城破，张士诚自缢而亡。
至正二十八年（1368年），朱元璋即皇帝位，命徐达为征虏大将军，常遇春为副，率领二十五万大军进行北伐。徐达先挥师攻占汴梁。四月，徐达率领明军在塔儿湾（河南偃帅县）大败五万元军，攻占洛阳。随后，徐达、常遇春分兵攻占河南诸州。潼关守将李思齐、张思道闻风逃跑。徐达等派兵进驻潼关，并西进占领华州（陕西华县）。七月，徐达率军渡黄河，会合山东各路明军，沿运河继续北进，在通州（北京通县）击败元军万余人，进逼大都。元顺帝听到消息，在夜里率领妻儿逃往元上都。八月，明军占领大都，元王朝至此灭亡。
