在朱元璋之后的北伐战争中，冯胜则负责陕西方向，连克陕州、潼关，并参与了攻取大都的行动。在攻略山西，对付扩廓帖木儿之战中，冯胜也是独领一军。
基本上，此后冯胜就主要负责西北方向的战局了。但此后，冯胜却擅自离开西北回到南京，为此遭到了朱元璋的斥责。但他此举抽空了西北的明军力量，对之后明帝国的西北攻略造成了很大的困扰。因此到了朱元璋大封功臣的时候，冯胜以"银青荣禄大夫、大都督府右都督兼太子右詹事"，获封"开国辅运推诚宣力武臣、特进荣禄大夫、右柱国、宋国公，同参军国事"。排名在六名公爵里是倒数第二。
之后，在西域攻略上，冯胜再出了纰漏，甚至主动放弃了苦战而来的凉州以西已经占领的地区。当然，整个背景是冯胜率领的西路军获胜，一度占领了整个甘肃，直抵哈密。但因为中路军和东路军的失败，北元军迅速南下，北方边境形势日趋紧张，加之甘肃地区北元军裹挟带走大量人口，土地荒芜，难以在短时间内发展起来，冯胜不得不放弃已经占领的大部分甘肃地区，虽胜尤败。所以朱元璋对冯胜只是"不赏"并没有真正处罚。
冯胜最后一次建功立业，那就是征伐辽东了。洪武二十年（1387年）正月，朱元璋正式命宋国公冯胜为征虏大将军，颖国公傅友德为左副将军，永昌侯蓝玉为右副将军，赵庸、王弼为左参将，胡海、郭亮为右参将，商暠为参赞军事，率师二十万北征辽东纳哈出，一举降服了二十万元军，收复辽东。
但他在洪武二十年（1387年）七月因为"专为己私，恶声遗臭于天下，遍满胡中"的罪名被召回京师。结果，冯胜的征虏大将军印被收回，蓝玉接替了冯胜行总兵官事。朱元璋此时虽然没有进一步加罪于冯胜，但将他安置到中都凤阳居住，实际上是废掉了他。
到了洪武朝末期，冯胜是当时仅有的三公爵中的一个了，但也没逃过去。洪武二十八年（1395年）"以宋国公冯胜、颖国公傅友德等为党逆事伏诛，而家属悉令自缢，毁其居室而焚之。"崇祯十七年（1644年），南明弘光帝追补开国名臣赠谥，冯胜获赠宁陵王，谥号"武壮"。
