冯国用死时，因战功卓著已升任元帅的冯胜，又被朱元璋授命接替哥哥的亲军都指挥职位。洪武五年（1372），明军十五万大军兵分三路出击漠北，冯胜率领其中一路。徐达的中路军为扩廓帖木儿的王保保大败于岭北（泛指和林一带），死伤万余人；李文忠轻敌冒进阿鲁浑河（今蒙古乌兰巴托西北），与元将哈剌章激战，几乎战死；只有冯胜率傅友德等连战皆捷，六月十一日，攻下亦集乃路（今内蒙古额济纳旗），至瓜州（今甘肃安西东）、沙州（今甘肃敦煌西），七战七胜，缴获牛羊等大量战利品，十月二十四日，明军班师回朝。冯胜以军功受封为宋国公，在当时的名将中，他仅次于徐达、常遇春，排名第三。
洪武二十年（1387年），明太祖命冯胜为征虏大将军，颍国公傅友德、永昌侯蓝玉为左右副将军，率南雄侯赵庸等以步兵、骑兵共二十万前去征讨驻扎辽东的元太尉纳哈出。郑国公常茂（常遇春儿子）、曹国公李景隆（李文忠儿子）、申国公邓镇（邓愈儿子）等都随行。
冯胜军出松亭关，分别修筑大宁、宽河、会州、富峪四城。在大宁驻扎两个多月后，冯胜留下五万军队驻守，而率全军进逼金山。大军突至，纳哈出感到寡不敌众，便请求投降。冯胜派蓝玉前往受降，并用酒招待纳哈出。在宴席上，蓝玉脱下衣服要给纳哈出穿上，但是纳哈出就是不肯穿，还左顾右盼想逃跑。冯胜的女婿常茂就持刀砍去，砍伤了纳哈出的手臂，并且架着他去见了冯胜。纳哈出的部下听说他受伤后，集体溃散了，冯胜就派人出收编了他们。大军会师，带着二十万降兵，以及大量的牛羊辎重。冯胜将捷报上奏，并且把常茂的过激行为也报了上去。朱元璋龙颜大悦，派使者去慰劳冯胜，并且拘押了常茂。
