元至正二十七（元1367年）十月，朱元璋任命徐达为征虏大将军、常遇春为征虏副将军，率领二十五万大军，北伐元朝。
次年二月，常遇春率军攻打东昌。东昌的元军据城坚守，拼死力战，这是北伐以来山东元军最顽强的一次抵抗。常遇春下令从四面登梯攻城，最终攻占东昌。
明朝洪武元年（公元1368年）正月，朱元璋在应天登基称帝，国号大明，年号洪武，封徐达为中书右丞相，录军国重事，兼太子少傅；封常遇春为中书平章，录军国重事，兼太子少保。
同年四月，徐达率军进攻河南（今河南洛阳），五万元军在洛水之北严阵以待，常遇春一马当先，冲入敌阵，徐达趁势猛攻，元军溃散而逃。
闰七月，徐达统兵北上，进取大都，月底，元顺帝北逃；八月初，北伐军攻入大都，朱元璋下令改为北平府。
