除此之外，廖永忠还立了一个大功，就是替朱元璋除去小明王韩林儿。至正十五年，韩林儿在亳州称帝，号小明王，国号大宋，年号龙凤。而朱元璋在名义上，是韩宋政权江南行省丞相。
龙凤十二年，韩林儿离奇死亡。据《明史》记载："又二年，林儿卒。或曰太祖命廖永忠迎林儿归应天，至瓜步，覆舟沉于江云。"就是说可能是廖永忠奉了朱元璋之命，去接韩林儿到应天，可是到瓜步时，廖永忠故意让人凿穿船底，韩林儿就这样被淹死了。廖永忠为何被处死
洪武八年（1375年）三月，拥有免死铁券的廖永忠获罪被杀。关于廖永忠的死有两种说法，一说他被朱元璋赐死，二说他是被朱元璋打死的。关于第一种说话，说的是朱元璋之子宁王朱权旧事重提，说廖永忠害死小明王，朱元璋"恶廖永忠之不义，后赐死"。
也就是说，当年廖永忠护送小明王过江，帮朱元璋凿船沉死小明王反而成了他的一大罪名，看来，廖永忠好心办了坏事，杀皇帝罪无可赦，给自己带来了杀身之祸。不过，赐死这一说法虽然同样为《明史》说认可，其原因却是"坐僭用龙凤诸不法事"。
