洪武二年，朱元璋派遣徐达、常遇春分两路北伐，凯歌猛奏，两路大军大获全胜。但是常遇春却在半路上病重，没等回到南京，就已病逝。朱元璋听闻后，简直不敢相信，遥想常遇春历经多少次大战，都安然无恙，没想到天下太平后，常遇春竟然病死在自家帐中。洪武三年，朱元璋宣布封常遇的长子常茂为郑国公，常茂也是当时最年轻的公爵，年龄不满20岁，所以常茂又被人称为"茂太爷"。
此后，朱元璋多次历练常茂，洪武二十年，朱元璋派遣冯胜为主帅，常茂、蓝玉为左右将领，起兵北伐。然而，5个月后，朱元璋收到冯胜的战报，说本来已经劝说蒙古将领纳哈出来投降，没想到常茂喝醉，拔刀要杀纳哈出，纳哈出逃跑，招降失败，皆是常茂之过。
朱元璋正要发火，又收到常茂的信，说冯胜识人不明，纳哈出是诈降，当时纳哈出用蒙语给手下布置诈降任务时，常茂的手下听懂了蒙语，常茂来不及向冯胜汇报，所以才拔刀杀人。常茂和冯胜各执一词，让朱元璋十分困惑。最为滑稽的是，冯胜还是常茂的岳父，这翁婿二人互相攀咬，成了一时的笑话。
