于是，何文辉率军征讨新淦的邓仲廉，并把他抓到斩首。他还支援了安福，帮助他打退了饶鼎臣，又平定了山尖寨。后来，何文辉很从大将军徐达攻取淮东，又和他攻克平江。朱元璋赐给他文绮，又提拔他做了行省左丞，并恢复了他原来的姓氏。
何文辉担任征南副将军后，与平章胡美，从江西取道福建，度过杉关，进入光泽，攻占邵武、建阳，直接攻打到建宁城下。元同佥达里麻、参政陈子琦闭关拒守。何文辉与美包围了城池，来攻打他们。过了十天，达里麻坚持不下去了，夜里潜逃到何文辉大营，请求投降。
第二天，总管翟也先不花也率领众人向文辉投降。胡美很生气这两人不听自己的话，打算屠城。何文辉火速让人提醒胡美：与公同受命至此，为安百姓耳。今既降，奈何以私忿杀人。
胡美这才作罢。何文辉的军队入城，后秋毫无所犯。汀、泉给个州县听说以后，都相次归附。恰逢朱元璋车驾临幸汴梁，召文辉跟从，因此何文辉被任命为河南卫指挥使，平定了汝州的余寇。随后，文辉跟从大将军进军陕西，留守潼关。洪武三年，他被授予大都督府都督佥事，兼任世袭指挥使。再次以参将身份随傅友德等人平定蜀地，太祖赐给他金币，让他留守成都。
