听说当时的朱元璋的队伍是所有军事队伍当中比较爱护百姓的一支，他就去投奔了朱元璋。他一见到朱元璋，就说要做军队的先锋官，让朱元璋对他刮目相看。等到朱元璋带领军队从水上向元军发动进攻的时候，常遇春：
"及兵薄牛渚矶元兵陈矶上舟距岸且三丈余莫能登遇春飞舸至太祖麾之前遇春应声奋戈直前。敌接其戈，乘势跃而上，大呼跳荡，元军披靡。诸将乘之，遂拔采石，进取太平。"
按照这种记载，常遇春简直就是一台战争机器，在从水上向陆地上的元军发动进攻时，元军用手扯住了他的戈，他不惊反喜，乘势拉着戈一跃而上，跳上岸边，一顿砍杀，把元军吓得四散奔逃，后面的人跟上去趁机扩大战果，取得大胜。
